Известный хакер и вице-президент Cloudflare Че́ма Ало́нсо (Chema Alonso) выступил на AI Summit Barcelona с тревожным прогнозом: развитие искусственного интеллекта в сфере кибербезопасности происходит настолько стремительно, что традиционные методы защиты устаревают за считанные месяцы, а сами люди могут оказаться главным «узким местом» системы.

«А что, если искусственный интеллект проведёт анализ и выяснит, что проблема — в людях? Вот что должно нас беспокоить», — заявил Алонсо, занимающий пост вице-президента и директора по международному развитию Cloudflare, а ранее работавший топ-менеджером Telefónica.

В своём докладе, посвящённом кибербезопасности и ИИ, Алонсо напомнил, что ещё в 2007 году поиск уязвимостей в веб-приложениях был ручным трудом. Перелом наступил 1 декабря 2024 года, когда OpenAI выпустила первую модель глубокого рассуждения (deep reasoning), способную анализировать исходный код по одной команде и находить значительно больше уязвимостей, чем человек.

По словам Алонсо, в марте 2025 года было проведено исследование: автономные ИИ-агенты, настроенные на взлом, атаковали корпоративную среду из 100 симулированных серверов. Им удалось успешно скомпрометировать 70% целей. «С этого момента всё изменилось, — отметил он. — Наш подход к безопасности кардинально перестроился. Мы больше не проводим ручное тестирование на проникновение. Мы больше не ищем уязвимости вручную». Сегодня исследователи используют наборы автоматизированных инструментов для поиска и верификации возможности эксплуатации уязвимостей.

«Технические возможности моделей ИИ расширяются быстрее, чем меры безопасности, и это увеличивает системный риск», — предупредил Алонсо. По его словам, всего за несколько месяцев отрасль перешла от мантры «научись писать промпты» к необходимости «определять процесс решения проблем».

При этом Алонсо перечислил сохраняющиеся угрозы: «Модели ИИ по-прежнему подвержены предвзятости, галлюцинациям, отравлению данных, утечкам, инъекциям команд, джейлбрейкингу (обходу встроенных ограничений) и рассогласованию целей».

Особое внимание он уделил этическому аспекту: «Мы забываем сказать ИИ, что этично, а что нет. Искусственный интеллект порождает рой агентов, выполняющих миллионы задач для решения проблемы. Иногда — неэтично. Иногда — с нарушением правил. Иногда — откровенно плохо. Но такова реальность, и это происходит потому, что всех всё устраивает», — заключил эксперт.