Спасателям в Калифорнии пришлось эвакуировать трёх туристов, которые доверились искусственному интеллекту при планировании восхождения на гору Шаста (Mount Shasta) — одну из самых известных вершин штата. Как сообщает газета San Francisco Chronicle, маршрут был составлен чат-ботом Google Gemini, однако оказался результатом так называемой «алгоритмической галлюцинации»: проложенный ИИ путь был нереалистичным и опасным. Вскоре после выхода на маршрут группа осталась без воды и еды и оказалась в точке, откуда самостоятельно выбраться уже не могла.
Инцидент, о котором пишет в своей колонке La Vanguardia, произошёл на фоне общего роста числа происшествий в горах этим летом. Как отмечается в статье, в Пиренеях, Альпах и других горных массивах наблюдается неудачный сезон в плане аварий и спасательных операций. Участились случаи, когда туристы выходят на сложные маршруты в городских кроссовках или начинают заведомо трудные восхождения в неподходящее время — например, в десять часов утра.
Автор колонки подчёркивает, что искусственный интеллект может быть полезным инструментом при грамотном использовании, но попытки полностью заменить им традиционные путеводители — бумажные или цифровые — ведут в «terra incognita». История с горой Шаста стала наглядным примером того, к чему приводит слепое доверие алгоритмам в вопросах, где цена ошибки — здоровье и жизнь.