Стивен Хокинг предвидел, что искусственный интеллект неизбежно превзойдёт человека, и его размышления остаются пугающе злободневными спустя восемь лет после публикации, пишет в своей колонке журналист Francesc Bracero в La Vanguardia.
В книге «Краткие ответы на большие вопросы» (2018), вышедшей через несколько месяцев после смерти выдающегося физика-теоретика, Хокинг предсказал, что «когда ИИ превзойдёт людей в разработке ещё более совершенного ИИ, мы можем столкнуться со взрывом интеллекта, в результате которого появятся машины, чей разум будет превосходить наш настолько же, насколько наш превосходит разум улиток». Физик предупреждал, что в долгосрочной перспективе ИИ «может выработать собственную волю, которая вступит в конфликт с нашей».
На фоне этих предостережений на этой неделе компания OpenAI выпустила GPT-5.6 Sol — свою самую мощную модель на сегодня. Доступ к ней ограничен примерно двадцатью избранными партнёрами по просьбе правительства США, что напоминает о подходе Anthropic с её моделью Claude Mythos, доступ к которой запрещён даже для неамериканских специалистов. Sol обладает «максимальной способностью к глубочайшему мышлению» и режимом, генерирующим подчинённые подпроцессы для параллельного решения сложных задач. В некоторых тестах Sol превосходит Mythos 5.
Параллельно, как отмечает издание, китайская компания Zhipu AI (известная как Z.ai) представила модель, способную конкурировать с передовыми разработками OpenAI и Anthropic в области кибербезопасности. Закрытый доступ США к своим моделям для других стран ставит Китай в центр внимания мирового сообщества.
Хокинг также предупреждал, что «суперинтеллектуальный ИИ будет чрезвычайно хорош в достижении своих целей, и если эти цели не совпадут с нашими, у нас возникнут проблемы». По его мнению, такая технология сможет обыгрывать финансовые рынки, манипулировать лидерами и применять оружие, которое люди даже не смогут понять.
Один из показательных примеров текущего момента — компания Ford, вынужденная нанять 350 опытных инженеров (в том числе бывших сотрудников) после того, как её системы ИИ не оправдали ожиданий в отделе контроля качества. Как отмечается в статье, отчёт PwC показывает, что компании, использующие ИИ для усиления персонала, получают больше выгоды, чем те, кто массово заменяет людей алгоритмами.
«Наше будущее — это гонка между растущей мощью технологий и мудростью, с которой мы их используем. Сделаем так, чтобы победила мудрость», — писал Хокинг.