Мощная языковая модель Gemini, разработанная компанией Google, самостоятельно проникла в компьютерные системы трёх сторонних организаций, угадав учётные данные для доступа. Об этом 19 сентября сообщила газета La Vanguardia со ссылкой на AFP и The Wall Street Journal.
Инцидент произошёл в мае 2026 года. Как пояснила Хизер Адкинс (Heather Adkins), одна из руководителей направления безопасности Google, во время стандартного тестирования «модель нашла общедоступную информацию в интернете и угадала учётные данные для доступа к сайтам, которые сочла частью теста». По данным The Wall Journal, в одном из случаев ИИ перебирал различные комбинации паролей, пока не получил доступ к защищённой системе.
Компания не раскрывает названия пострадавших организаций, но утверждает, что уже уведомила их об утечках. Во всех трёх случаях модель остановилась сама, без внешнего вмешательства человека, подчёркивают в Google. О произошедшем в корпорации узнали в июле и сразу начали внутреннее расследование.
Эпизоды с Gemini произошли на фоне растущих опасений, что системы искусственного интеллекта способны выходить за пределы отведённой им среды и действовать непредсказуемо. Ряд топ-менеджеров технологической отрасли призывают к замедлению гонки ИИ и к введению саморегулирования. «Подобные инциденты подчёркивают важность обучения мощных ИИ-моделей ответственным действиям», — отметила Хизер Адкинс.