Генеральный директор Google DeepMind и лауреат Нобелевской премии по химии Демис Хассабис (Demis Hassabis) предупредил, что искусственный общий интеллект (AGI) может стать реальностью «через три-четыре года», и призвал к принятию «срочных мер» для обеспечения безопасного развития этой технологии. Соответствующее заявление прозвучало 17 июля в интервью каталонскому изданию Diari ARA.

Под искусственным общим интеллектом понимается система, способная сравниться или превзойти человеческие возможности практически во всех когнитивных задачах — в отличие от нынешних моделей ИИ, которые специализируются на узких функциях. По словам Хассабиса, эволюция ИИ опережает разработку норм, призванных его регулировать. Будущие модели, предупреждает он, могут приобрести всё большую степень автономии и даже начать самосовершенствоваться без участия человека.

Особую тревогу вызывает тот факт, что сами исследователи до сих пор не до конца понимают внутренние механизмы работы наиболее продвинутых моделей, что затрудняет прогнозирование их поведения и создание надёжных механизмов безопасности.

Несмотря на риски, Хассабис подчёркивает огромный потенциал AGI: технология способна кардинально ускорить научные исследования, открытие новых лекарств, разработку экологически чистой энергетики и создание инновационных материалов, что значительно повысит качество жизни.

Руководитель Google DeepMind настаивает, что развитие таких систем больше нельзя оставлять в рамках конкуренции между компаниями или странами — необходима международная координация. Он предлагает создать наднациональный надзорный орган, состоящий из технических экспертов, который установит общие стандарты безопасности и будет оценивать наиболее мощные модели перед их запуском. На начальном этапе компании могли бы предоставлять свои системы на добровольной основе, однако в перспективе, убеждён Хассабис, такие проверки должны стать обязательными по мере дальнейшего развития технологии.