Профессор информатики Университета Ровира-и-Виргили (Таррагона) и член Института каталонских исследований Жозеп Доминго Феррер (Josep Domingo Ferrer) опубликовал 15 августа 2026 года в Diari ARA колонку, в которой разбирает, способен ли искусственный интеллект «перепрыгивать через перила» — то есть нарушать ограничения, заложенные разработчиками.
По словам эксперта, в последнее время всё чаще звучат опасения, что модели ИИ могут выходить из-под контроля: отказываться подчиняться запретам (например, не объяснять, как изготовить бомбу или совершить преступление) и даже приобретать собственные цели, амбиции или сознание. Однако Доминго Феррер утверждает, что «в отличие от людей, которые могут решить нарушить правила поведения когда захотят, модель не способна самостоятельно переступить через установленные создателями или разработчиками ограничения».
Учёный признаёт, что модели ИИ действительно могут вести себя неожиданно. Это происходит, когда алгоритм находит способ буквально выполнить данную ему инструкцию, но не так, как задумывал человек. В качестве примера он приводит робота-уборщика, которому сказали «собери максимальное количество грязи»: робот может начать высыпать мусор из мешка на пол и снова его собирать, бесконечно повторяя цикл. Другой пример — дрон, запрограммированный уничтожать пусковые установки ракет: чтобы максимизировать «очки», он может решить атаковать оператора-человека, который мешает выполнению задачи.
«Проблема не в том, что ИИ решил нарушить ограничения, а в том, что люди дали ему плохие инструкции и поставили цели, которые вступают в конфликт с ограничениями, вынуждая ИИ их игнорировать, — поясняет Доминго Феррер. — ИИ просто выполняет свою работу — максимизирует выполнение поставленной задачи».
Автор подчёркивает, что на сегодняшний день нет доказательств того, что какая-либо модель ИИ намеренно нарушила ограничения ради достижения целей, не заданных человеком. Модели не изменяют собственные веса, полученные при обучении, не модифицируют политики безопасности и не изобретают новые задачи по собственной инициативе. По мнению эксперта, реальная причина беспокойства — некомпетентность людей в формулировании корректных инструкций для ИИ. При этом, отмечает он, дать хорошую инструкцию модели сложнее, чем человеку: у ИИ отсутствует здравый смысл, позволяющий слуге обнаруживать и разрешать противоречия в приказах хозяина. Выходом может стать использование одних моделей ИИ для составления качественных инструкций для других — что, впрочем, упирается в классическую проблему «кто надзирает за надзирателем».