Gemini посоветовал туристам взять мало еды, их спасли с горы Шаста
На горе Шаста в Калифорнии спасли трёх молодых туристов, которые готовили восхождение с помощью чат-бота Google Gemini. По данным офиса шерифа округа Сискию, на которые ссылается Chicago Tribune, группа вышла на маршрут в 3:00, хотя правило для этой горы требует поворачивать назад, если вершина не достигнута к полудню. Туристы дошли до вершины только в 19:00, запланированный 8-часовой подъём растянулся на несколько дней. Спускаться в темноте они попробовали, позвонили в офис шерифа за указаниями и заночевали в каньоне Мад-Крик. Утром следующего дня их сняли со склона рейнджеры Лесной службы США и волонтёры. Офис шерифа заявил, что Gemini посоветовал группе взять с собой значительно меньше еды и воды, чем требовалось, особенно учитывая, что короткий по плану подъём превратился в многодневное испытание. Там же добавили: перед походом всегда стоит заранее звонить на местную рейнджерскую станцию Mount Shasta за актуальными данными и никогда не полагаться в планировании похода только на ИИ. TechCrunch отмечает, что нельзя однозначно возложить всю ответственность за эти решения на Gemini, материал не утверждает, что чат-бот был единственной причиной случившегося.
Ключевые факты
- Трое туристов вышли на восхождение на гору Шаста в 3:00, хотя стандартное правило требует поворачивать назад, если вершина не взята к полудню.
- До вершины они добрались только в 19:00, запланированный 8-часовой подъём превратился в многодневный поход.
- Спускаться в темноте группа попыталась: позвонила в офис шерифа за указаниями и заночевала в каньоне Мад-Крик.
- Утром туристов сняли со склона рейнджеры Лесной службы США и волонтёры.
- Офис шерифа округа Сискию заявил, что Gemini посоветовал группе взять значительно меньше еды и воды, чем требовалось, и напомнил не полагаться в походе только на ИИ.
Почему это важно
Случай показывает границы ИИ-чат-ботов не в тексте или коде, а в задаче с прямыми физическими последствиями: недооценка запаса еды и воды на маршруте обернулась ночёвкой в каньоне и реальной спасательной операцией, а не просто неточным ответом, который можно перепроверить в следующем запросе.
Кому это важно
Туристам и путешественникам, которые используют чат-боты вроде Gemini для планирования маршрутов и снаряжения; разработчикам ИИ-ассистентов, дающих советы в сферах с риском для жизни и здоровья; спасательным и рейнджерским службам, которые сталкиваются с последствиями таких решений.
Как это применить
Офис шерифа прямо сформулировал два правила: заранее звонить на местную рейнджерскую станцию за актуальной информацией о маршруте и никогда не полагаться исключительно на ИИ при планировании похода. К этому стоит добавить независимую проверку советов бота по снаряжению, запас еды и воды сверх расчётного и соблюдение контрольного времени поворота назад.
Можно ли доверять
У материала не два независимых источника, а одна цепочка: TechCrunch ссылается на материал Chicago Tribune, который излагает отчёт офиса шерифа округа Сискию; обе цитаты приведены дословно. При этом сам материал осторожен в атрибуции причины и прямо говорит, что нельзя однозначно возложить всю вину за произошедшее на Gemini.
Риски и подводные камни
Главный риск, переносить доверие к ИИ-чату из повседневных задач на решения, где ошибка стоит здоровья или жизни: занижение нормы еды и воды в многодневном походе могло закончиться намного хуже, чем ночёвка в каньоне. Второй риск, что готовый ответ бота подменяет собой базовые протоколы безопасности похода, включая контрольное время поворота назад, которое группа проигнорировала.
«Gemini посоветовал им взять с собой значительно меньше еды и воды, чем требовалось группе, особенно с учётом того, что запланированный 8-часовой подъём превратился в многодневное испытание.»
— офис шерифа округа Сискию