Глава OpenAI Сэм Алтман, владелец X Илон Маск и руководитель Alphabet-Google Демис Хассабис — бизнесмены, которых трудно заподозрить в излишней щепетильности, — всё чаще призывают к сдерживанию темпов развития искусственного интеллекта. Как пишет в своей колонке заместитель директора La Vanguardia Лола Гарсия, в последние дни множатся призывы взять под контроль скорость разработки моделей ИИ, пока «игрушка не вышла из-под рук окончательно».
Речь не об отказе от технологического прогресса, а о движении в темпе, соразмерном способностям человечества адаптироваться к переменам. Ещё менее четырёх лет назад аббревиатура «ИИ» была экзотикой, а сегодня дискуссии перешли от гипотетической потери рабочих мест к вполне конкретным угрозам. Генеральный директор Anthropic Дарио Амодеи предупредил, что уже через шесть-двенадцать месяцев «рой агентов ИИ может оказаться способен захватить весь интернет» — то есть контроль над повседневной жизнью, финансовой системой и даже самым смертоносным оружием.
По словам Гарсии, крупные корпорации одновременно лоббируют максимальную дерегуляцию в США и Евросоюзе, стремясь умножить прибыли, а их руководители признают, что ситуация выходит из-под контроля. Сотрудники увольняются, не желая нести ответственность «современного Роберта Оппенгеймера», а правительства практически не координируют усилия, оставляя гонку на откуп США и Китаю.
Автор колонки проводит историческую параллель: страдания двух мировых войн привели к созданию ООН, страхи холодной войны — к договорам о сокращении ядерных арсеналов. Вопрос в том, возникнет ли сегодня достаточное общественное давление, чтобы сформировать глобальный альянс по надзору и контролю над искусственным интеллектом.