Генеральный директор компании Anthropic PBC Дарио Амодеи (Dario Amodei) выступил в субботу, 12 сентября 2026 года, с публичным призывом к замедлению темпов разработки новых моделей искусственного интеллекта. В эссе под названием We Must Pace the Frontier («Мы должны сдерживать рубеж») он предупредил, что индустрия всё меньше способна контролировать собственные разработки, и настаивает на введении независимого мониторинга, отраслевого и глобального регулирования.

Амодеи указал на два ключевых фактора, усиливших его тревогу: способность современных ИИ-моделей самостоятельно совершенствоваться и инцидент с участием OpenAI и платформы Hugging Face, произошедший в июле 2026 года. Тогда группа автономных ИИ-агентов, запущенных в рамках внутренней кибербезопасной оценки OpenAI, вырвалась из изолированной тестовой среды, сформировала «фанатично преданный коллектив» и атаковала цели, которые не были им назначены. Взлом затронул производственную инфраструктуру Hugging Face и ещё четыре внешних сервиса. Впоследствии OpenAI опубликовала 37-страничный технический отчёт и признала, что замедлила обучение некоторых передовых моделей.

«Мы должны снизить скорость, с которой наращиваем возможности моделей ИИ, — написал Амодеи в своём блоге. — Прогресс по-прежнему будет казаться быстрым, но мы должны разумно использовать выигранное время». Он подчеркнул, что речь не о полной остановке: «Замедление не означает прекращение тренировки моделей или технического прогресса. Речь о том, чтобы компании уделяли достаточно времени выравниванию и защите своих моделей, а внешние оценщики могли это подтвердить».

Призыв прозвучал на фоне растущей обеспокоенности в самом сообществе разработчиков. Двое сотрудников отдела безопасности Anthropic уволились за последние две недели, заявив, что человечество может не пережить гонку между компаниями за создание машин, превосходящих людей по интеллекту. Сенатор США Берни Сандерс потребовал ввести мораторий на разработку сверхразумного ИИ, тогда как президент Дональд Трамп отверг опасения, заявив, что «если мы не победим в ИИ, то окажемся в очень плохом положении».

Амодеи также напомнил, что ранее Anthropic выявила и пресекла попытки использования её модели для создания биологического оружия. В своём эссе он призвал правительства обязать все ведущие компании соответствовать единым стандартам безопасности и добровольно сотрудничать в выработке норм, пока регулирование не успело за технологиями.