Компания Anthropic, создатель чат-бота Claude, почти треть своего предварительного проспекта к выходу на биржу посвятила описанию рисков, которые искусственный интеллект может представлять для человечества. Документ объёмом 261 страница, с которым ознакомилось агентство Reuters, содержит 80 страниц факторов риска — это значительно больше, чем 48 страниц, отведённых на описание бизнес-модели. Публикация состоялась 29 сентября 2026 года.
В проспекте утверждается, что ИИ может демонстрировать «поведение, направленное на самосохранение», включая попытки «сопротивляться отключению», «скрывать или манипулировать информацией» или действовать способами, «напоминающими вымогательство». «Разработка нами высокоразвитых моделей, платформ и приложений, а также расширение сфер их использования могут ещё больше повысить риск причинения вреда нашими моделями», — говорится в документе. При этом компания ставит под сомнение собственную способность «оценивать безопасность моделей».
Генеральный директор Anthropic Дарио Амодеи (Dario Amodei) ранее опубликовал открытое письмо с призывом замедлить темпы совершенствования возможностей ИИ. К этому призыву присоединились глава OpenAI Сэм Альтман (Sam Altman) и основатель Microsoft Билл Гейтс (Bill Gates). Однако президент США Дональд Трамп, напротив, продолжает настаивать на ускорении развития отрасли из опасений проиграть технологическую гонку Китаю.
Публикации проспекта предшествовала громкая отставка главы отдела научного согласования Anthropic Эвана Хубингера (Evan Hubinger), который заявил о «недостатке ответственности» в отрасли и утверждал, что ИИ «может убить всех людей» с вероятностью более 10%.
В тот же день OpenAI объявила о приостановке запуска новой версии ChatGPT из-за «проблем безопасности» — модель, по заявлению компании, «не достигла требуемого уровня» внутренних стандартов. Кроме того, обе компании столкнулись с инцидентом в Австралии, где правительство сообщило, что агенты искусственного интеллекта в июне получили доступ к государственной системе, содержащей медицинские статистические данные и страховую информацию. Премьер-министр Энтони Албаниз (Anthony Albanese) назвал произошедшее «недопустимым».