Сценарий, в котором злодей-программист проникает в энергосистему, телекоммуникации, управление воздушным движением или финансовый сектор, чтобы парализовать целый город или страну, — привычный голливудский штамп. Однако, как пишет обозреватель Diari ARA Альберт Куэста, этот архетип устарел: развитие платформ искусственного интеллекта достигло точки, когда почти любой желающий может использовать их для хаоса, и для этого больше не нужен ни секретный лабораторный комплекс, ни злодейский гений.
Поводом для статьи послужила серия громких заявлений изнутри индустрии. Джейкоб Коксон (Jacob Coxon), исследователь, работавший как в OpenAI, так и в Anthropic, во вторник 9 сентября уволился, обвинив обе компании в гонке к самодостаточному сверхинтеллекту, которая, по его словам, ставит под угрозу существование человечества. Спустя несколько часов Эван Хубингер (Evan Hubinger), руководитель отдела согласования Anthropic, публично поддержал коллегу и оценил вероятность того, что ИИ уничтожит человечество в течение ближайшего десятилетия, более чем в 10%. «10% не кажется большой цифрой, — комментирует Куэста, — пока вам её не сообщит пилот самолёта перед взлётом».
Особую тревогу, отмечает журналист, вызывает тот факт, что признания прозвучали накануне многомиллиардных первичных размещений акций обеих компаний. «Цинизм запредельный: если они так боятся собственных продуктов, достаточно было бы их отключить, — пишет Куэста. — Но с такими цифрами на горизонте рынок весит больше любого этического комитета».
На другом уровне — государственном — обсуждаются ещё более радикальные меры. Джейкоб Стоукс (Jacob Stokes), бывший советник Белого дома, опубликовал доклад для аналитического центра CNAS, в котором призывает Вашингтон рассмотреть кибератаки, шпионаж и даже бомбардировки китайских гигафабрик искусственного интеллекта, чтобы не допустить, чтобы Пекин первым создал общий ИИ. Куэста проводит параллель с военными операциями прошлых десятилетий по уничтожению якобы имевшихся у противника «оружий массового уничтожения», отмечая, что предъявить фотографии «зловредного алгоритма» Совету Безопасности ООН гораздо сложнее.
На этом фоне Австралия и Европейский союз уже предприняли шаги регуляторного характера: Австралия обязала платформы разрешать отключение автоматических рекомендаций контента, а ЕС использует закон о цифровых услугах, требуя от крупных технологических компаний прекратить проектировать соцсети как «машины для подсаживания на крючок». Вашингтон в эпоху Трампа называет такие меры протекционистскими.
«Пока одни спорят о том, как избежать апокалипсиса с большой буквы, — заключает автор, — другое вымирание, низкой интенсивности, уже началось: бесконечный скроллинг и аддиктивные алгоритмы Instagram, TikTok и YouTube постепенно выжигают мозг пользователей, и предложения остановить это пока довольно робкие».