Генеральный директор OpenAI Сэм Алтман (Sam Altman) и глава Anthropic Дарио Амодеи (Dario Amodei) на этой неделе выступили перед Советом Безопасности ООН, в очередной раз представив искусственный интеллект одновременно как глобальную возможность и как угрозу — об этом пишет в своей колонке обозреватель La Vanguardia Марта Рикар (Marta Ricart).
По данным, которые приводит автор, совокупный объём инвестиций в ИИ уже достиг почти 1% мирового ВВП всего через четыре года после появления ChatGPT — для сравнения, на энергетический и туристический секторы приходится не более чем по 10% глобального ВВП. Рикар отмечает, что призывы технологических лидеров приостановить развитие ИИ звучат на фоне гигантских бизнес-интересов и больше напоминают попытку переложить ответственность на внешних регуляторов.
Параллельно в дискуссию вмешался экс-президент США Дональд Трамп, который предложил переименовать искусственный интеллект в «экстремальный» или «верховный» и не намерен сдерживать то, что называет «революцией роста». По мнению автора колонки, Трамп прежде всего ориентирован на быструю выгоду и власть, а не на долгосрочные последствия для человечества. Рикар также упоминает, что Трамп обсуждал с председателем КНР Си Цзиньпином взаимное уведомление об инцидентах с ИИ, однако на фоне жёсткой конкуренции между странами достичь реального понимания будет не легче, чем в гонке вооружений.
Особую тревогу, по словам автора, вызывают сообщения самих разработчиков — прежде скрытные компании теперь рассказывают об инцидентах, когда их «агенты» ИИ «выходят из-под контроля». Исследователь и эксперт по ИИ Рамон Лопес-де-Мантарас (Ramón López de Mántaras) критикует «извращённую гуманизацию» вычислительных процессов, которая создаёт ложное впечатление, будто алгоритмы обладают собственной волей.
«Вопрос в том, как контролировать ИИ — американский и китайский, — пишет Рикар. — И уж тем более из Европы, которая не будет лидировать в создании больших моделей». Единственным реалистичным путём, по её мнению, остаётся регулирование через практическое применение технологий в конкретных секторах — путь трудоёмкий, но способный уменьшить ущерб. «Боюсь, нас ждут десятилетия дебатов и проблем. Вот это тревога! (AnsIAdad!)» — заключает автор.