Барселона, 16 сентября 2026 года. В мире искусственного интеллекта нарастает напряжение: заявления топ-менеджеров ведущих компаний, попытки регулирования, геополитическое соперничество и сценарии, в которых ИИ может представлять угрозу для человечества, — всё это превратилось в «дислоцированный» и крайне запутанный спор, пишет обозреватель La Vanguardia Франсеск Брасеро.
Отправной точкой новой волны дискуссий стало заявление Джейкоба Коксона (Jacob Coxon), сделанное на прошлой неделе. После него OpenAI и Anthropic выступили с призывом к саморегулированию и внешнему контролю. К ним неожиданно присоединился Илон Маск, заявивший о необходимости ограничений и предложивший взаимную проверку моделей ИИ — однако его идея допустить внешний аудит чужих алгоритмов не нашла поддержки. Тем временем Дональд Трамп дал понять, что не намерен тормозить развитие отрасли: объём инвестиций в ИИ исчисляется сотнями миллиардов долларов, и остановка этого процесса, по его мнению, нанесла бы прямой удар по экономике США.
Автор напоминает, что кризис субстандартной ипотеки 2008 года показал: «простуда» по ту сторону Атлантики может обернуться «пневмонией» на этом берегу. Однако главный вопрос, который волнует обывателей, звучит так: способен ли ИИ убивать? Однозначного ответа нет.
Наиболее тревожный сценарий, по мнению Брасеро, — скоординированная атака ИИ или роя ИИ-агентов на ключевую инфраструктуру, по аналогии с инцидентом в Hugging Face. Если будут атакованы критически важные серверы интернета, на котором держатся все системы современной цивилизации, человечество рискует откатиться в «драматический каменный век».
Впрочем, часть алармистских заявлений может объясняться коммерческими интересами. OpenAI и Anthropic, напоминает журналист, изучают возможности выхода на биржу, а для успешного IPO необходимо создать у публики ощущение безопасности. Кроме того, призывы к паузе в развитии ИИ могут быть направлены на сдерживание китайских конкурентов — DeepSeek и Moonshot, которые, по подозрениям американских компаний, используют метод «дистилляции»: копируют возможности уже обученных моделей, задавая им огромное количество вопросов. Это позволяет китайским разработчикам предлагать свои решения по всему миру по ценам, значительно более низким, чем у конкурентов из США. Аргумент о том, что китайские модели якобы ограничены государственной цензурой, может работать лишь частично — фильтры часто действуют только территориально, а для большинства бизнесов политические вопросы лежат вне производственной цепочки.
Ситуацию осложняет недавний инцидент, когда израильская компания, проводившая тесты безопасности для OpenAI и Anthropic, не смогла должным образом контролировать условия испытаний, что привело к серьёзным сбоям. В обиход входят такие термины, как «рекурсивное самоулучшение» — способность ИИ самостоятельно наращивать собственные возможности и совершенствовать процесс своего развития.
На фоне полярных мнений — одни убеждены, что ИИ способен уничтожить человечество, другие отрицают это — существует и третий, неожиданный сценарий. Исследование учёных из Оксфорда, Кембриджа, Эдинбурга, Торонто и Имперского колледжа Лондона, проведённое чуть более двух лет назад, показало: когда ИИ обучается на данных, сгенерированных другими ИИ, происходит деградация, подобная генетическому вырождению, и система в конечном счёте коллапсирует. «На всякий случай не стоит полагаться только на это», — иронично заключает Брасеро.