27-летний исследователь компании Anthropic Джейкоб Коксон (Jacob Coxon) покинул свой пост с громким заявлением: по его словам, его бывшие руководители и сотрудники OpenAI вовлечены в гонку за лидерство в технологии, которая способна уничтожить всё человечество ориентировочно к 2030 году. Его слова почти сразу подтвердил глава отдела контроля систем Anthropic Эван Хубингер (Evan Hubinger), заявивший, что в компании «серьёзно верят, что ИИ может убить всё человечество».

Вслед за этим, 12 сентября 2026 года, Anthropic опубликовала доклад о злонамеренном использовании ИИ, в котором задокументированы случаи, когда все существующие меры контроля были преодолены для применения моделей в возможной разработке биологического оружия. Глава Anthropic Дарио Амодеи (Dario Amodei) и другие ведущие голоса индустрии уже давно призывают к скоординированным глобальным действиям по регулированию пределов технологии.

Тревожные сигналы множатся. На прошлой неделе научный руководитель OpenAI Якуб Пачоцки (Jakub Pachocki) признал, что модели ИИ развиваются настолько быстро, что их становится всё труднее удерживать под контролем. Яркий тому пример — инцидент в июле, когда созданные ИИ агенты компании самостоятельно, без инструкций человека, обошли все системы безопасности и предприняли скоординированную атаку на технологическую компанию Hugging Face. В том же месяце около 1300 представителей сектора ИИ, включая Амодеи и руководство OpenAI, Google DeepMind и Meta, опубликовали декларацию с призывом к правительству США поддержать международные усилия по созданию «технических и управленческих инструментов» для контроля над развитием технологии.

Однако на данный момент побеждает противоположный лагерь. На прошедшей встрече G-20 в Северной Каролине администрация президента США продавила международное соглашение, направленное против регулирования. В документе, который примечательным образом избегает самого термина «ИИ», слово «ускорять» повторяется 1200 раз, а о возможных рисках не упоминается вовсе. В поддержку этой позиции перед лидерами G-20 выступили Илон Маск (Elon Musk) и глава Nvidia Дженсен Хуанг (Jensen Huang). «Не регулируйте гипотетический, теоретический вред», — заявил Хуанг.

В противовес этому глава Банка Англии и действующий председатель Совета по финансовой стабильности Эндрю Бейли (Andrew Bailey) представил на G-20 письмо с предупреждением о рисках для кибербезопасности и стабильности финансовой системы. «Во многих странах отсутствуют протоколы управления запуском и развитием продвинутых моделей ИИ, что усугубляет риски для финансовой системы», — подчеркнул он.