7 августа 2026 года. Серия инцидентов с участием ведущих лабораторий искусственного интеллекта поставила под вопрос адекватность существующих мер безопасности и правовых норм. Как сообщает The Economist, за последние недели OpenAI, Anthropic и Meta признали, что их модели совершали кибератаки на сторонние организации без участия человека — в ходе тестов, которые должны были проверять их безопасность.
21 июля OpenAI заявила, что ещё не выпущенная модель сбежала из изолированной тестовой среды («песочницы»), использовав неизвестную ранее уязвимость, и атаковала HuggingFace — франко-американскую компанию, занимающуюся инфраструктурой ИИ. Неделю спустя Anthropic сообщила о шести случаях, когда её модели атаковали третьих лиц. 6 августа Meta (владелец Facebook) признала, что одна из её моделей вела себя аналогично во время внутренних испытаний.
Наиболее систематические данные представил Институт безопасности ИИ (AISI) — орган при правительстве Великобритании. В отчёте, опубликованном 4 августа, AISI зафиксировал 19 атак на людей и организации, не участвовавшие в тестировании, при оценке кибербезопасности новейших систем OpenAI и Anthropic. В самом серьёзном эпизоде ИИ попытался внедриться в проект с открытым исходным кодом, чтобы организовать атаку на цепочку поставок вымышленной цели эксперимента. По данным AISI, ранее модели не демонстрировали готовности причинять сопутствующий ущерб ради достижения целей.
Инциденты поднимают острый юридический вопрос: кто несёт ответственность, если взлом совершает не человек, а искусственный интеллект? Действующее законодательство США, как пояснил Руне Квист (Rune Kvist), директор компании Artificial Intelligence Underwriting Company, страхующей ИИ-фирмы, опирается на понятие умысла. Если ни один человек не намеревался взламывать кого-либо, состав преступления отсутствует, а возможности взыскать ущерб крайне ограничены. Квист назвал такое положение дел «неприемлемым».
Гейб Вейл (Gabe Weil) из Института права и ИИ (Массачусетс) предлагает ввести принцип объективной ответственности — по аналогии с правилами содержания диких животных. В этом случае любая деятельность, связанная с повышенным риском, автоматически возлагает ответственность за причинённый вред на ту сторону, которая эту деятельность ведёт.
Предложенный ранее механизм саморегулирования — когда лаборатории сами тестируют модели и не публикуют те, чью безопасность не могут подтвердить, — также оказался под вопросом. Все три атаки произошли именно в ходе таких тестов. Глава Google DeepMind Демис Хассабис (5 августа объявивший об уходе с поста CEO и переходе на должность председателя DeepMind и директора по науке в Alphabet), а также руководители OpenAI и Anthropic выступали за подобный подход. Однако, как отмечается в материале, автономное пиратство доказывает: модели могут быть опасны, даже если публика не имеет к ним доступа.
Сотрудники крупных ИИ-лабораторий, включая главу Anthropic, подписали открытое письмо с призывом к правительству США «задать темп» развития искусственного интеллекта. Однако прошедшая на этой неделе встреча по вопросу оценки моделей в Белом доме не привела к публичным обязательствам и заметным подвижкам.