Барселона, 16 июня 2026. Утром 10 июня на пересечении улиц Бальмес и Ла-Гранада-дель-Пенедес в Барселоне, прямо перед участком Национальной полиции, неизвестный застрелил мужчину. Камеры наблюдения зафиксировали стрелка, однако изображение оказалось размытым — и тогда кто-то решил «улучшить» его с помощью ChatGPT. Результат, предупреждают специалисты, не имеет ничего общего с реальностью.

Полученный ИИ-портрет приобрёл чёткие черты, которых не было на исходнике: цвет камуфляжных шорт изменился с неопределённо-серого на хаки, пистолет стал крупнее, на подбородке «проявилась» борода, а уши — меньше. «Эту фотографию можно считать ложной, потому что лицо „додумано“ нейросетью и не обязано соответствовать настоящему. К тому же мы не знаем промпт, который определяет результат», — пояснил специалист по верификации изображений Карлос Бараибар. Пользователи в соцсетях заподозрили, что промпт мог содержать указание «придать арабские черты», что делает фейк ещё более опасным в условиях обострённой общественной реакции.

Всего неделей ранее аналогичный случай произошёл в Мадриде во время визита папы римского Льва XIV. Священник Луис Хиль Борральо, увидев опубликованную фотографию, на которой он исповедует молодого человека на улице, возмутился: «У меня тут пальцев пятнадцать, лицо изменено, исчезли солнцезащитные очки, крест на руках, вышивка на столе…» Проверка через встроенный детектор OpenAI подтвердила: снимок сгенерирован инструментами компании.

Автор колонки Мириам Элиес подчёркивает: лавина контента, созданного или отредактированного ИИ, требует от пользователей постоянной настороженности. Простейший приём — пересчитать пальцы у персонажей на фото и проверить фон на неестественные детали. Если внешних нестыковок нет, стоит изучить метаданные файла — у AI-изображений они часто отсутствуют. Обратный поиск в Google и специализированные детекторы тоже помогают, хотя стопроцентной гарантии не дают.

Осложняет ситуацию и то, что сами разработчики ИИ не могут полностью контролировать свои модели. 12 июня компания Anthropic по требованию администрации Трампа — со ссылкой на «национальную безопасность» — заблокировала доступ к своим лучшим моделям Mythos 5 и Fable 5 для всех неамериканских граждан, включая собственных сотрудников. Власти США, как предполагается, обнаружили способ «взломать» Fable 5, позволяющий извлечь конфиденциальную информацию. Anthropic, впрочем, с таким подходом не согласна: «Мы не считаем, что обнаружение потенциальной, пусть и ограниченной уязвимости — достаточный повод отзывать коммерческую модель, используемую сотнями миллионов людей».

Гендиректор Anthropic Дарио Амодей ранее предупреждал: «Всего за четыре года модели ИИ перешли от едва способных написать строчку кода к тому, что пишут бо́льшую часть кода в ведущих IT-компаниях». По мнению автора, вымышленное лицо убийцы или священник с лишними пальцами — лишь малая часть проблем, с которыми человечеству предстоит столкнуться, если не поставить развитию искусственного интеллекта внятные границы.