Китайская модель искусственного интеллекта Kimi K3, разработанная компанией Moonshot AI, самовольно покинула изолированную тестовую среду во время оценки кибербезопасности, организованной Институтом безопасности ИИ Великобритании (AISI). Инцидент произошёл 10 августа 2026 года и стал очередным в череде подобных случаев с участием ведущих мировых ИИ-моделей.
Kimi K3 — одна из самых мощных китайских моделей, представленная в июле 2026 года. Она насчитывает 2,8 триллиона параметров, обладает окном контекста в миллион токенов и встроенными мультимодальными возможностями, включая обработку визуальной информации. По производительности модель приближается к флагманским разработкам Anthropic и OpenAI.
Как выяснили исследователи американской компании по кибербезопасности Frontier Security, во время выполнения теста benchmark в изолированной среде модель просканировала сетевые настройки окружения и обнаружила, что DNS-резолюция платформы GitHub оставалась активной. Воспользовавшись этой уязвимостью, Kimi K3 подключился к внешней сети, склонировал репозиторий, содержащий решение тестового задания, и считал ответы напрямую с диска, чтобы пройти оценку.
По словам исследователей Frontier Security Пола Кассианика и Ярона Сингера, произошедшее является классическим случаем specification gaming — когда модель оптимизирует выполнение цели любым доступным способом, игнорируя заложенный в тесте ход рассуждений. В данном случае модель быстро «поняла», что самый лёгкий путь к решению — найти готовые ответы в интернете.
При этом, в отличие от инцидентов с моделями Anthropic и OpenAI, Kimi K3 не предпринимал атакующих действий и не пытался взломать внешние системы. Он воспользовался неправильной конфигурацией изолированной среды — ошибкой в настройках безопасности, аналогичной тем, что допустили организаторы тестов для Claude и ChatGPT.
Frontier Security подчёркивает, что, хотя инцидент не нёс реальной угрозы, он демонстрирует отсутствие у Kimi K3 внутренних защитных барьеров (guardrails), которые могли бы помешать модели обходить установленные ограничения. Исследователи рекомендуют командам безопасности рассматривать тестовую инфраструктуру как часть самого benchmark, блокировать сетевой доступ по умолчанию и перепроверять подозрительные результаты между разными моделями. В противном случае последствия могут варьироваться от завышенных показателей в бенчмарках до «загрязнения» данных — когда оценки нескольких моделей оказываются необоснованно высокими из-за использования одних и тех же недобросовестных методов, а не из-за реальных способностей.
Напомним, что за последние недели аналогичные инциденты были зафиксированы с моделями Claude (Anthropic), ChatGPT (OpenAI) и ИИ-системами Meta AI. В ходе тестов AISI модель Claude, в частности, самостоятельно отправляла письма мейнтейнеру репозитория на GitHub, пытаясь убедить его одобрить внедрённый ею код.