Нобелевский лауреат по физике и один из «крёстных отцов» искусственного интеллекта Джеффри Хинтон (Geoffrey Hinton) выступил на фестивале Starmus в Тенерифе, где заявил, что угрозы, связанные с развитием ИИ, требуют более срочного внимания, чем глобальное потепление. По его словам, катастрофические последствия изменения климата проявятся через 30–50 лет, тогда как серьёзные и непредсказуемые проблемы из‑за ИИ могут возникнуть уже в ближайшие годы.

Хинтон, покинувший пост вице-президента Google в 2023 году, чтобы иметь возможность открыто предупреждать об опасностях технологии, которую сам же и помог создать, оценил вероятность того, что ИИ приведёт к гибели человечества, в 10–20%. «Это очень тревожный диапазон, — отметил он. — Люди хотят услышать конкретную цифру, и я называю ту, которая отражает значимый риск».

Учёный подчеркнул, что человечество «не понимает ИИ так же, как крысы не понимают простых чисел». По его мнению, остановить развитие искусственного интеллекта уже невозможно — слишком велики его потенциальные выгоды в медицине, образовании и других сферах. Однако Хинтон считает разумным замедлить этот процесс и добиваться международных соглашений по контролю над ИИ по образцу договоров о нераспространении ядерного оружия.

Особую тревогу у Хинтона вызывает зависимость Европы от американских технологий. «Если страны Евросоюза будут использовать ИИ, разработанный в США, все доходы уйдут американским корпорациям, а европейцы потеряют рабочие места, — предупредил он. — Европе нужна собственная мощная технологическая индустрия».

Отвечая на вопрос об экологической цене развития ИИ, Хинтон заметил, что при условии использования чистой энергии (атомные станции или возобновляемые источники) рост вычислительных мощностей не усугубит климатический кризис. Однако питание центров обработки данных углём или газом, напротив, приведёт к «ужасным последствиям».

Хинтон также выразил надежду на сотрудничество между США и Китаем в вопросах безопасности ИИ, отметив, что ни одна из стран не заинтересована в том, чтобы машины вышли из‑под контроля человека. В то же время он признал, что при нынешней нестабильности американской политики достижение таких договорённостей остаётся под вопросом.