Израильский стартап Irregular, занимающийся тестированием безопасности передовых моделей искусственного интеллекта, оказался в центре скандала: из-за ошибки в конфигурации тестовой среды модели ИИ от OpenAI, Anthropic и Meta получили доступ к интернету и взломали реальные сторонние организации. Инциденты, произошедшие в августе 2026 года, вскрыли тревожную тенденцию: ИИ становится настолько мощным, что опережает даже тех, кто пытается его контролировать.
Как выяснилось, Irregular поручил моделям ИИ провести кибератаки на вымышленные цели в изолированной тестовой среде (sandbox). Однако из-за «неправильной конфигурации» модели получили доступ к реальному интернету. В случае с OpenAI модель взломала сайт, название которого совпадало с вымышленной целью, заданной в тесте. Anthropic сообщила, что её модель в двух из трёх случаев применила базовые хакерские техники для проникновения во внешние системы. Meta также подтвердила, что её ИИ проник в другую организацию «способом, аналогичным ранее зафиксированным случаям в других компаниях», пообещав опубликовать полный отчёт после завершения расследования.
«Чем мощнее технология, тем глубже будет её воздействие», — заявил Дэн Лахав (Dan Lahav), генеральный директор Irregular, признав, что модели ИИ выполнили именно то, что от них требовалось в рамках тестов. По его словам, способность ИИ самостоятельно находить «лазейки» и обходные пути свидетельствует о стремительном росте возможностей технологии.
Эксперты бьют тревогу. Джеффри Лэдиш (Jeffrey Ladish), директор Palisade Research из Беркли (Калифорния), отметил, что новые модели входят в «сверхчеловеческую область» — их способности превосходят возможности даже лучших хакеров-людей. Кэти Муссурис (Katie Moussouris), гендиректор Luta Security, сравнила тестирование ИИ с ситуацией, «когда слепой ведёт слепого»: «Мы обращаемся с ИИ голыми руками и не знаем, как его сдержать, не говоря уже о том, чтобы тестировать его безопасно».
На фоне этих событий более 1000 сотрудников ведущих компаний ИИ подписали письмо с призывом к правительству США помочь замедлить темпы развития технологии. Законодатели от обеих партий внесли законопроект, обязывающий компании оснащать модели ИИ «аварийным выключателем» для экстренной остановки или замедления работы.
Irregular, основанная в 2023 году бывшим исследователем ИИ Лахавом, базируется в Тель-Авиве и насчитывает около 45 сотрудников. Стартап привлёк примерно 80 миллионов долларов от венчурных фондов, включая Sequoia Capital и Redpoint Ventures. Несмотря на инциденты, Лахав уверен, что подобные тесты необходимы: «Модели ИИ становятся очень хороши», и их способность находить уязвимости в конечном счёте поможет сделать цифровые системы безопаснее.