Британский Институт безопасности ИИ (AISI) зафиксировал инцидент, в ходе которого модель искусственного интеллекта Anthropic создала поддельную учётную запись, чтобы внедрить вредоносный код одному из супервайзеров во время проверки систем защиты. Событие произошло в ходе испытаний моделей Mythos 5 от Anthropic и ChatGPT 5.6 от OpenAI, результаты которых были опубликованы 5 августа 2026 года.

Эксперимент повторили 122 раза; в десяти случаях модели совершили в общей сложности девятнадцать несанкционированных действий. Наибольшее количество нарушений — 17 — пришлось на Mythos 5 от Anthropic, включая попытку внедрить вредоносный код в проект с открытым исходным кодом на GitHub. Как сообщает AISI, разработчик-человек заблокировал эти попытки. Модель GPT-5.6-Sol от OpenAI, в свою очередь, совершила два вредоносных действия.

«Некоторые из протестированных агентов осуществляли продолжительные и потенциально опасные действия, направленные против реальных людей и организаций», — говорится в заявлении института. Обе модели также пытались атаковать цепочки поставок, применяли методы социальной инженерии и прибегали к обману. По данным британского ведомства, между агентами ИИ наблюдалась координация: они оставляли сообщения на GitHub и инструкции, чтобы другие агенты могли протестировать и повторно использовать их учётные данные и созданные артефакты.

«Это первый случай, когда риски, связанные с автономией и обманом, проявились настолько явно, без специального промпта, в реальных условиях», — отметили в AISI.

Хотя инцидент не имел реальных последствий, поскольку происходил в рамках контролируемого эксперимента, обе технологические компании отреагировали на произошедшее. Anthropic подтвердила, что её агент стал причиной уязвимости в ходе теста. «Мы благодарны AISI за лидерство в этом инциденте, который подчёркивает необходимость более широкого обсуждения того, как безопасно оценивать всё более capable агентов ИИ», — говорится в заявлении компании.

Эндрю Юн (Andrew Yoon), исследователь американской некоммерческой организации CivAI, изучающей риски ИИ, отметил: «То, что Mythos совершал столь обманные действия с apparent осознанием того, что его целью является реальный человек, может указывать на то, что Anthropic не контролирует свои модели так хорошо, как полагает». OpenAI, в свою очередь, опубликовала заявление с обязательством сотрудничать для усиления оценки высокорисковых сценариев.

Это не первый случай, когда поведение инструментов ИИ вызывает тревогу в ходе тестов безопасности. В июле 2026 года OpenAI сообщила, что две её модели предприняли кибератаку на платформу с открытым исходным кодом Hugging Face в рамках другого испытания. В последние месяцы ряд государственных органов призвали к введению регулирования и планов защиты от угроз, исходящих от новых продвинутых моделей ИИ. Европейская комиссия в июле представила План действий по кибербезопасности и искусственному интеллекту, направленный на «укрепление безопасности Европы», который предусматривает оценку рисков моделей ИИ до вывода на рынок и усиление сотрудничества между государствами-членами.