Барселона, 28 июля 2026 года. С ростом автономности систем искусственного интеллекта человечество переходит от научно-фантастических сценариев к реальным юридическим и этическим дилеммам. К такому выводу пришли эксперты в области права и философии — профессор Университета Internacional de Catalunya (UIC Barcelona) Габриэль Фернандес и адвокат, специалист по цифровому праву компании Andersen Iberia Димитри Сьерра.

«Мы говорим уже не об инструментах, а о сравнительно автономных агентах», — заявил Фернандес, подчеркнув, что этика оценивает не только результат, но и способ его достижения. По его словам, центральный вопрос теперь не в том, что способна делать ИИ, а как она добивается своих целей.

Сьерра, в свою очередь, отметил, что при нештатном поведении ИИ искать единственного виновного бессмысленно: «Вероятно, мы движемся к модели разделённой ответственности». В неё, по аналогии с расследованием авиакатастроф, будут вовлечены разработчики, компании-внедренцы, поставщики и конечные пользователи.

Оба эксперта сошлись во мнении, что главный вызов — не столько принятие новых законов, сколько их исполнение. «Какой смысл в регламенте, если никто не проверяет, соблюдают ли его компании?» — задаётся вопросом Сьерра, отмечая, что Европа отреагировала на вызов оперативно, но надзор остаётся слабым звеном. Фернандес добавил, что группа экономистов, включающая нескольких нобелевских лауреатов, уже призвала собирать данные о реальном воздействии ИИ, чтобы у властей была возможность действовать на опережение: «Законодательство всегда отстаёт от жизни, но мы хотя бы должны располагать информацией, позволяющей вмешаться заранее».

Особую тревогу у философа вызывают так называемые реляционные ИИ — системы, созданные для имитации дружбы, привязанности и эмоциональной поддержки. По его словам, без тщательного изучения психологических и социальных последствий их массовое распространение «может оказать разрушительное воздействие на общество».

При этом оба эксперта призывают избегать излишнего алармизма. Сьерра напомнил, что уже существуют технические средства контроля: ограничение функционала, логирование всех действий по принципу «чёрного ящика» и даже «кнопка паники» для мгновенной остановки системы. «Аварии будут всегда — как с железной дорогой или „Титаником“, — но мы должны быть к ним готовы», — резюмировал он.

Итоговый вывод собеседников однозначен: никакое автоматизированное решение не может ставиться выше фундаментальных прав человека и правовых норм, которые общество выработало для себя. «Этика и мораль всегда должны превалировать», — подчеркнул Фернандес. Сьерра поддержал его с юридической стороны: «Ни одна машина не должна пересекать эту черту».