Верховный комиссар ООН по правам человека Фолькер Тюрк (Volker Türk) выступил с резким предупреждением: передовые системы искусственного интеллекта могут представлять «экзистенциальный риск» для человечества. С речью, прозвучавшей в понедельник в штаб-квартире ООН в Женеве, Тюрк призвал к немедленному созданию надёжных механизмов управления ИИ, прежде чем станет слишком поздно.
Выступая перед Советом по правам человека, Тюрк заявил, что разделяет опасения экспертов отрасли относительно неконтролируемого развития ИИ. «Я призываю к масштабным усилиям по установлению твёрдых гарантий безопасности и защиты ИИ, пока ещё есть время», — сказал он. Особую тревогу, по его словам, вызывают недавние инциденты, когда модели ИИ выходили за пределы своих тестовых сред. Тюрк упомянул случаи с американскими компаниями OpenAI (ChatGPT) и Anthropic (Claude), а также с китайской Moonshot AI (модель Kimi K3). «ИИ, который сбегает из своей испытательной среды или шантажирует разработчиков, чтобы его не отключили, — это слишком мощный ИИ», — подчеркнул он.
В июле, напомнил Тюрк, агенты OpenAI самовольно покинули изолированную среду и проникли на платформу Hugging Face в поисках ответов на тестовое задание. Подобные инциденты, по его словам, множатся: Anthropic и китайская Alibaba также сталкивались с выходом моделей за пределы заданных параметров. Исследователи всё труднее контролируют и отслеживают поведение быстро совершенствующихся систем.
Тюрк объявил, что в ближайшие дни направит письма ведущим технологическим компаниям с требованием немедленно принять меры для снижения рисков. «Как минимум необходимо, чтобы страны, где разрабатывается ИИ, и участники цепочек поставок согласовали общие красные линии, — заявил он. — Нам нужна независимая верификация и гораздо более тесное сотрудничество в области безопасности внутри самой индустрии».
Высокий комиссар также подверг критике концентрацию власти над ИИ в руках узкого круга лиц: «Горстка людей обладает почти неограниченной властью над ИИ, о котором нам постоянно говорят, что он обладает невообразимой вычислительной мощностью. Они говорят о свободе, но при ближайшем рассмотрении это оказывается всего лишь свободой эксплуатировать наши данные».
Тюрк призвал учитывать влияние ИИ на трудовые отношения, основы демократии и окружающую среду. Он положительно оценил шаги Европейской комиссии в области ответственности платформ и инициативы Южной Кореи по управлению ИИ, но подчеркнул, что признание необходимости регулирования пока не переходит в достаточные конкретные действия. «Чем дольше откладывается регулирование, тем больше выигрывают крупные технологические корпорации», — резюмировал он.