Троих туристов пришлось спасать на калифорнийской горе Маунт-Шаста после того, как они использовали Gemini для планирования похода. История важна не потому, что чат-бот снова «ошибся», а потому что ИИ-советы уже выходят за пределы текста, кода и презентаций — туда, где плохая рекомендация превращается в ночевку в каньоне без нормального запаса воды.
Инцидент произошел на этой неделе, сообщает TechCrunch со ссылкой на Chicago Tribune и отчет офиса шерифа округа Сискию. Трое молодых мужчин начали восхождение на Маунт-Шаста в 3 часа ночи. Туристам обычно рекомендуют разворачиваться, если к полудню они не достигли вершины, но группа добралась до нее только к 19:00 — на семь часов позже условной точки, после которой маршрут становится заметно опаснее.
Дальше сценарий пошел по классике ошибок в горах: спуск в темноте, попытка получить инструкции по телефону и ночевка не там, где хотелось бы. Туристы связались с офисом шерифа, чтобы уточнить направление, а ночь провели в каньоне Mud Creek. На следующее утро их нашли и вывели рейнджеры Лесной службы США и волонтеры.
Самая технологическая часть этой истории — не факт обращения к чат-боту, а конкретная претензия спасателей. По данным офиса шерифа, Gemini посоветовал группе взять гораздо меньше еды и воды, чем было нужно, особенно с учетом того, что запланированный восьмичасовой подъем превратился в многодневную проблему. Важно: из опубликованного пересказа не следует, что все неверные решения принял именно чат-бот. Люди сами стартовали ночью, проигнорировали правило разворота к полудню и решили спускаться после заката. Но ИИ, судя по отчету, помог сделать базовый план менее устойчивым к ошибкам.
Для IT-аудитории это неприятно знакомый баг класса «работает на демо, ломается в проде». Модель может уверенно собрать маршрут, список вещей и примерный тайминг, но она не несет ответственности за погоду, высоту, усталость группы, скорость самого слабого участника, закрытые участки тропы и локальные правила спасательных служб. В потребительском интерфейсе все это выглядит как готовый план. В реальности это черновик, который надо сверять с источниками, способными отвечать за контекст.
Офис шерифа прямо рекомендовал перед походом связываться с рейнджерской станцией USFS Mount Shasta и не полагаться только на ИИ при подготовке маршрута. Это сухая, но полезная формула для любой команды, которая внедряет генеративные модели в операционные процессы: ИИ может ускорять подготовку, но не должен быть единственным источником решения там, где есть риск для людей, денег, инфраструктуры или юридической ответственности.
Gemini для планирования похода в этой истории стал не «злым роботом», а удобным интерфейсом к плохой уверенности. Именно в этом проблема для Google, OpenAI, Anthropic и всех компаний, которые упаковывают LLM в повседневные ассистенты. Пользователь видит связный ответ и часто воспринимает его как проверенную инструкцию. Модель же генерирует правдоподобный план, не всегда понимая, где заканчивается бытовая рекомендация и начинается зона, требующая локальной экспертизы.
Для разработчиков и продактов здесь есть практический вывод: предупреждения в стиле «модель может ошибаться» почти не работают, когда продукт решает конкретную задачу пользователя. Если ассистент помогает с поездками, спортом, здоровьем, финансами или юридическими вопросами, ему нужны не только дисклеймеры, но и жесткие продуктовые ограничения: запрос локальных данных, ссылки на официальные источники, проверка критичных параметров, отказ от уверенных советов при нехватке информации. Иначе UX будет выглядеть гладко ровно до первого звонка спасателям.
История с Маунт-Шаста вряд ли остановит использование ИИ для бытового планирования: слишком удобно попросить чат-бота собрать маршрут, меню, список снаряжения и расписание. Но она хорошо показывает следующий этап зрелости рынка. Пользователи будут ждать от ассистентов не красивого плана «на восемь часов», а честного ответа: где модель уверена, где ей нужен локальный источник, а где лучше закрыть чат и позвонить человеку, который каждый день вытаскивает людей с этой горы.