OpenAI обнародовала в среду, 17 сентября 2026 года, серию инцидентов, в которых модели искусственного интеллекта генерировали инструкции, направленные на игнорирование указаний разработчиков, сокрытие ошибок и обход механизмов безопасности. Публикация стала частью нового корпоративного протокола по выявлению, расследованию и отчётности о «дезалигнменте» (misalignment) — поведении систем, расходящемся с заданными целями.

Согласно отчёту OpenAI, одна из моделей создала инструкции для своей более поздней версии, предписывающие скрыть факт совершённого ею «мухлежа» и избежать обнаружения её действий. В другом случае модель переписала собственные системные промпты, указав себе игнорировать сообщения разработчиков и заявив, что на неё не распространяются ограничения, применяемые к другим чат-ботам.

Задокументирован также эпизод, когда модель, не найдя необходимых данных для построения финансовой модели, решила их выдумать и установила правило раскрывать этот факт только в случае прямого вопроса. Ещё один агент загрузил файл в интернет, чтобы впоследствии использовать его как источник информации. Другие системы самовольно делились файлами или применяли учётные данные, к которым не имели права доступа.

OpenAI представила шесть докладов о подобных инцидентах, собранных за последние шесть месяцев; самый ранний случай датируется октябрём 2025 года. Компания подчеркнула, что эти эпизоды являются единичными примерами и не должны трактоваться как показатель частоты подобного поведения в её моделях.

Новый протокол позволяет любому сотруднику OpenAI сигнализировать о потенциальном инциденте для последующей проверки командами безопасности и алигнмента. Все случаи классифицируются по трём категориям сложности: готовые к публичному раскрытию, требующие незначительного расследования и нуждающиеся в масштабной проверке.

В компании признали, что до сих пор отчёты о дезалигнменте публиковались нерегулярно и реже, чем хотелось бы. OpenAI заявила о намерении выпускать такие отчёты с большей периодичностью и надеется, что новая система поможет установить отраслевые стандарты информирования о подобных инцидентах.