Более тысячи сотрудников ведущих компаний в сфере искусственного интеллекта — OpenAI, Anthropic и Google — обратились к правительству США с призывом поддержать меры, позволяющие «намеренно задавать темп» развития ИИ, чтобы не допустить ситуации, при которой технология выйдет из-под контроля.
Манифест под названием Pacing the Frontier («Задавая темп前沿») опубликован 29 июля. На момент подготовки материала его подписали 1178 человек. В документе отмечается, что ИИ «мог бы способствовать созданию гораздо лучшего будущего», однако авторы употребляют условное наклонение, подчёркивая, что «этот результат не гарантирован». Основной причиной беспокойства названа близость достижения автоматизации исследовательской работы — момента, когда ИИ сможет самостоятельно совершенствовать себя, что может привести к потере контроля.
Подписанты призывают американское правительство «регулировать прогресс в этой области целенаправленно», чтобы «выиграть время» для изучения рисков, разработки мер безопасности и усиления надзора. Они также просят администрацию поддержать «международные усилия по созданию технических и управленческих инструментов, необходимых для намеренного замедления темпов развития автоматизированного ИИ».
Манифест поддержали сооснователь и научный директор Anthropic Джаред Каплан (Jared Kaplan), генеральный директор Anthropic Дарио Амодеи (Dario Amodei), директор по исследованиям OpenAI Марк Чен (Mark Chen) и вице-президент Google по безопасности и выравниванию ИИ Анка Драган (Anca Dragan). В числе подписавших не значится генеральный директор OpenAI Сэм Альтман (Sam Altman), который, однако, недавно в подкасте Invest Like the Best признал, что «возможно, придётся замедлить темпы развития ИИ, чтобы дать обществу время адаптироваться к новым уровням возможностей». Вместе с тем, по словам Альтмана, важно, чтобы это не выглядело как «регуляторный захват» или «сговор между ведущими лабораториями». «Меня пугает мир, где реальные страхи перед ИИ используются для того, чтобы сказать: „Только небольшая группа людей может владеть этой технологией, потому что она слишком опасна, и только они её понимают, но не волнуйтесь, они примут правильные решения за всех нас“. Я в это не верю», — заявил Альтман.