Бывший исследователь компании Anthropic Джейкоб Коксон (Jacob Coxon), объявивший об уходе из-за убеждённости в том, что искусственный интеллект может уничтожить человечество к концу этого десятилетия, дал интервью американским телеканалам CNN и Fox News, в которых подтвердил свою позицию. «Надо думать об этом как о гонке вооружений. Эта технология — не просто очередная инновация. По сути, это супероружие», — заявил Коксон.

На вопрос о том, каким образом ИИ может атаковать людей, Коксон привёл примеры: взлом критической инфраструктуры, создание биологического оружия, способного привести к вымиранию человеческого вида. «Есть множество способов, с помощью которых ИИ может самостоятельно действовать в мире», — отметил он.

При этом исследователь признал, что в настоящий момент угрозы вымирания нет. «Худшее, на что способны нынешние модели, — это, возможно, взломать что-то и потенциально нанести большой ущерб инфраструктуре, но они недостаточно умны, чтобы обмануть нас на уровне, ведущем к вымиранию», — пояснил Коксон.

Он назвал «поразительным» наблюдаемый темп прогресса и предупредил, что в ближайшее время — «в следующем году или через год» — может произойти рекурсивное улучшение ИИ, после чего человечество войдёт в фазу, о которой говорит его бывший руководитель: «существует вероятность, что мы все можем погибнуть».

«Пару лет назад эти ИИ лишь немного помогали людям. Могли давать подсказки. Сейчас они готовы заменить их», — отметил Коксон. По его словам, пока искусственный интеллект нуждается в человеке, но уже в течение года он может перестать в нём нуждаться для исследований во многих областях.

Коксон считает, что сложившаяся ситуация вынуждает компании в сфере ИИ «конкурировать в разработке смертоносной технологии». По его словам, компании «хотели бы, чтобы существовала некая международная организация, которая позволила бы подойти к этому вопросу разумно», но они «просто не доверяют окружающим и не верят, что смогут безопасно дойти до этой точки, поэтому чувствуют, что тоже должны включиться в эту гонку».

Бывший руководитель Коксона в Anthropic Итан Перес (Ethan Pérez), отвечавший за выравнивание моделей с интересами человека, опубликовал сообщение, в котором высоко оценил профессионализм ушедшего сотрудника и выразил сожаление, что тот покинул компанию. «Я на 100% согласен с ним в том, что ИИ представляет серьёзные риски для общества, и я рад, что он поднимает голос!» — написал Перес.