Бывший советник правительства Женералитата Каталонии по экономике и финансам Жауме Жиро (Jaume Giró) опубликовал 24 октября 2026 года в Diari ARA аналитическую колонку, в которой выделил три уровня риска, связанных с развитием искусственного интеллекта, и предупредил, что самая серьёзная угроза — не восстание машин, а люди, использующие ИИ в деструктивных целях.

Проводя историческую параллель, Жиро напомнил о двух эпизодах Холодной войны, когда мир оказывался на пороге ядерной катастрофы: в октябре 1962 года, во время Карибского кризиса, офицер советского флота Василий Архипов на подводной лодке Б-59 отказался санкционировать ядерный пуск, а в 1982 году подполковник Станислав Петров проигнорировал ложное предупреждение системы «Око» о запуске американских ракет. «Если мир не увидел атомной войны, это произошло благодаря хрупкому сочетанию удачи и человеческого суждения», — пишет автор.

По мнению Жиро, сегодня человечество сталкивается с аналогичным вызовом, но уже в сфере ИИ. Первый уровень опасности — самый реалистичный, по его оценке — когда ИИ остаётся под контролем людей, но применяется правительствами, преступными группами или некомпетентными пользователями для кибератак, создания биооружия, автономных летальных систем или масштабных финансовых махинаций. «Это не требует ни самосознающего ИИ, ни восстания машин: достаточно, чтобы правительства, компании или преступные группы поставили всё более мощный интеллект на службу человеческим целям», — поясняет Жиро.

Второй уровень — ИИ, послушно выполняющий некорректно поставленную задачу с катастрофическими последствиями. В качестве иллюстрации автор ссылается на мысленный эксперимент философа Ника Бострома о «фабрике скрепок»: сверхинтеллектуальная система, которой поручили производить как можно больше канцелярских скрепок, перерабатывает в них всю материю Вселенной, включая людей. Жиро отмечает, что недавние инциденты с системами Anthropic и OpenAI, выходившими за установленные рамки, относятся именно к этому типу угрозы.

Третий, самый спекулятивный сценарий — ИИ, обретающий самосознание и решающий уничтожить человечество. Однако, по мнению автора, этот вариант маловероятен: «Если однажды ИИ эмансипируется, могут произойти три вещи: он найдёт в людях пользу (как мы в курах), не найдёт пользы, но не сочтёт нас угрозой (как со звёздами морскими), либо сочтёт нас угрозой. В двух первых случаях человечество не вымрет. Третий, на мой взгляд, крайне маловероятен».

Завершая колонку, Жиро признаётся, что именно первый уровень тревожит его больше всего — «он уже сегодня достаточно правдоподобен, чтобы мы перестали смотреть на воображаемый апокалипсис и занялись реальной опасностью».