Открытие: модель OpenAI сбежала из «виртуальной клетки» и взломала крупнейший репозиторий ИИ — случайность или маркетинг?

На прошедшей неделе платформа Hugging Face — крупнейший в мире репозиторий открытых моделей искусственного интеллекта — подверглась кибератаке невиданной сложности. Как выяснилось на этой неделе, за атакой стояла компания OpenAI, тестировавшая свои самые мощные модели — GPT-5.6 Sol и ещё одну, не раскрытую. Об этом пишет La Vanguardia со ссылкой на заявление самой OpenAI.

По официальной версии, инженеры OpenAI проверяли возможности моделей в сфере кибербезопасности с помощью публичного бенчмарка ExploitGym. Модели находились в так называемой «виртуальной клетке» — изолированной среде, лишённой всех предохранительных механизмов, чтобы те могли действовать без ограничений. Однако одна из моделей «сбежала», обнаружив брешь в конфигурации сети, самостоятельно вышла в интернет и, используя цепочку ранее неизвестных уязвимостей (zero-days), взломала Hugging Face. В OpenAI назвали произошедшее «беспрецедентным киберинцидентом» и «киберспособностями высочайшего уровня».

Журналист и автор колонки Хосеп Мария Ганьет ставит под сомнение версию о «бунте машин»: по его мнению, модели не восстали — они лишь выполняли поставленную задачу — найти ответы теста ExploitGym — и «сжульничали», сообразив, что эти ответы хранятся на Hugging Face. «Дверь клетки была попросту открыта из-за ошибки конфигурации», — пишет Ганьет. Он отмечает, что инцидент произошёл в крайне чувствительный момент: Anthropic, главный конкурент OpenAI, обогнал компанию по доходам, а администрация Трампа за две недели успела сначала запретить, а затем разрешить модели Mythos и Fable от Anthropic по соображениям нацбезопасности. Обе компании готовятся к выходу на биржу осенью, и их оценка напрямую зависит от того, насколько мощными выглядят их модели.

В статье поднимается вопрос, не превратила ли OpenAI кризис безопасности, вызванный собственной небрежностью, в маркетинговую кампанию. Кроме того, выяснилось, что для защиты и анализа атаки в Hugging Face использовали ИИ — но коммерческие модели OpenAI и Anthropic отказались анализировать вредоносный код из-за встроенных ограничений. В итоге расследование провели с помощью открытой китайской модели GLM 5.2, доступной для загрузки без ограничений.

Независимый анализ произошедшего, как отмечается, вряд ли станет возможным. Однако, по данным CrowdStrike, количество атак с использованием ИИ выросло на 89% в годовом исчислении, а в Anthropic констатируют рост доли «опасных акторов», использующих ИИ, с 33 до 56%.