Барселона / 21 сентября 2026. Дискуссии о регулировании искусственного интеллекта набирают обороты по всему миру, однако, по мнению аналитиков, сама возможность заставить ИИ соблюдать установленные правила остаётся под вопросом. В статье, опубликованной в La Vanguardia, эксперты Esteve Almirall и Jonathan Andic указывают на двойственную природу проблемы: с одной стороны, ИИ способен многократно усилить возможности террористов, преступных группировок и враждебных государств; с другой — автономность систем открывает путь к действиям, выходящим за рамки замыслов создателей.

Авторы отмечают, что ключевая опасность кроется в постоянно дешевеющей и масштабируемой способности причинять вред. «Больше возможностей причинить вред. Меньше определённости в том, кто сохраняет контроль», — пишут они.

Предложения о регулировании, в том числе идеи крупных американских лабораторий о привлечении независимых оценщиков внутри компаний, авторы называют необходимыми, но недостаточными. Главная проблема, по их мнению, заключается в невозможности гарантировать, что ИИ распознает истинные намерения пользователя: террорист может замаскировать запрос под написание романа и использовать ответ вне художественного контекста. «Тренировать ответы — не то же самое, что контролировать намерения», — подчёркивается в материале.

Эксперты констатируют, что современная наука пока не умеет наделять модели «тремя законами робототехники» Айзека Азимова, которые были бы нерушимы. Даже при наличии «конституции» (как у компании Anthropic) её соблюдение нельзя гарантировать при любых обстоятельствах, обмане или непредвиденных инструкциях.

Особую тревогу, по словам авторов, вызывает распространение небольших моделей ИИ, способных работать локально на обычных компьютерах. В централизованных сервисах аккаунты можно блокировать; в локальных моделях поставщик теряет контроль, а защитные механизмы могут быть удалены. В результате регулирование, сосредоточенное только на крупных лабораториях, оставляет открытой лазейку для дешёвого, масштабируемого и практически неотключаемого инструмента причинения вреда в руках злоумышленников. «Гонка продолжается, — напоминают Almirall и Andic. — Побеждает тот, кто выпускает самую интеллектуальную модель, способную заменить человеческий труд и завоевать рынки. Исследования методов ограничения конкурируют с этими стимулами».