Британский инженер компании Anthropic Джейкоб Коксон (Jacob Coxon), ранее работавший в OpenAI — создателе ChatGPT, — объявил об увольнении, заявив, что обе компании «не действуют ответственно» и «играют с нашими жизнями». В серии публикаций в соцсети X он предупредил, что разработчики искусственного интеллекта «верят, что ИИ сможет убить всех нас к концу этого десятилетия», и подчеркнул, что «ни одна другая деятельность человека не несёт такого уровня угрозы».

Коксон, которого ряд СМИ называют одним из разработчиков GPT-4 и GPT-4.5, утверждает, что в индустрии недооценивают мощь технологии. По его словам, проекты в области ИИ «скоро станут сверхчеловеческими системами, способными взломать что угодно, произвести революцию во всех сферах и получить огромную власть и ресурсы». Он считает, что и в OpenAI, и в Anthropic осознают масштаб угрозы, но видит разницу: первые, по его мнению, «возможно, не до конца осознали глубину вызовов для цивилизации», а вторые понимают их хорошо, но «попали в ловушку гонки за первенство».

Поддержал Коксона и руководитель отдела научного выравнивания (alignment) Anthropic Эван Хубингер (Evan Hubinger), который прямо ответил в той же ветке: «Он прав». Хубингер заявил, что в компании «искренне верят, что ИИ может убить всех людей», и оценил вероятность такого исхода более чем в 10%. «Я считаю, что Anthropic старается изо всех сил, но у нас пока нет плана по решению проблемы выравнивания для сверхинтеллекта, и мы явно не на правильном пути», — пояснил он. При этом Хубингер уточнил, что опасения касаются не «нынешних моделей», а «сверхинтеллекта, который возникнет в результате саморекурсивного улучшения».

Единственным выходом Коксон считает координацию между разными проектами и компаниями, занимающимися ИИ, однако, по его наблюдениям, она не происходит. Он выступает за временный запрет на улучшение возможностей моделей. «Хотите ли вы продвигать сверхинтеллектуальное обучение с подкреплением без строгого понимания его разума? Закроете ли вы глаза, потому что это уже происходит в любом случае, или используете этот момент, чтобы добиться других условий?» — заключил инженер.