Исследователь искусственного интеллекта Джейкоб Коксон (Jacob Coxon), ранее работавший в OpenAI и Anthropic, объявил об уходе из Anthropic, заявив, что обе компании «не действуют ответственно» и ведут гонку к созданию самоулучшающегося сверхинтеллекта, ставя под угрозу жизни человечества. Об этом он написал 9 сентября 2026 года в своём аккаунте в соцсети X.
«Последние три года я занимался исследованиями предварительного обучения как в OpenAI, так и в Anthropic. Ни одна из компаний не действует ответственно. Они несутся напрямую к самоулучшающемуся сверхинтеллекту и играют нашими жизнями», — заявил Коксон.
По его словам, «скоро появятся сверхчеловеческие системы, способные взломать что угодно, за одну ночь произвести революцию в любой области и обрести реальную власть и ресурсы». Он подчеркнул, что «люди, создающие ИИ, искренне верят, что он может убить нас всех к концу этого десятилетия», и назвал это не маркетинговым трюком, а реальным страхом, который руководители и ведущие исследователи выражают в частных разговорах, стараясь в прессе звучать более сдержанно.
Коксон отметил, что Anthropic относится к рискам более осознанно, чем OpenAI. «В OpenAI многие до конца не осознали, что поставлено на карту для цивилизации. В Anthropic это понимают хорошо, но оказались в ловушке гонки: они считают, что никто другой не будет действовать ответственно, поэтому они должны сделать это сами, несмотря на риск», — пояснил инженер. Он назвал участие в этой гонке «самонадеянной ставкой, которую не следует делать из Slack частной компании».
Коллега Коксона по Anthropic, инженер Эван Хубингер (Evan Hubinger), занимающийся стресс-тестированием ИИ-моделей, подтвердил его опасения. «Джейкоб прав. Мы действительно искренне верим, что ИИ может убить всех людей», — написал Хубингер, добавив, что лично он оценивает вероятность такого исхода в ближайшее десятилетие более чем в 10%. «Я считаю, что Anthropic делает всё возможное, но у нас до сих пор нет плана по решению проблемы выравнивания (alignment) для сверхинтеллекта, и мы явно не на пути к его созданию», — признал он. По мнению Хубингера, наибольшую тревогу вызывает рекурсивное самоулучшение ИИ, которое, по их наблюдениям, происходит быстрее, чем предполагалось.
Несмотря на мрачный прогноз, Коксон сохраняет «осторожный оптимизм» в отношении возможности координации между лабораториями, отмечая, что такие инциденты, как самостоятельная атака ИИ от OpenAI на платформу Hugging Face, сделали соглашения о сдерживании темпов разработки между американскими лабораториями «более реалистичными». При этом он считает, что «мы не на пути к предотвращению глобальной гонки, что может потребовать дорогостоящих мер, таких как временный запрет на улучшение возможностей моделей».