Китай ввёл в действие первую в стране национальную норму, ограничивающую использование эмоциональных ИИ-компаньонов, — закон вступил в силу 15 июля 2026 года. Новые правила обязывают технологические компании исключить возможность формирования у пользователей «эмоциональной зависимости» от голосовых и текстовых ассистентов на базе искусственного интеллекта.
Согласно документу, услуги виртуального «сопровождения» для несовершеннолетних запрещены полностью. Взрослым пользователям компании по-прежнему могут предлагать такие сервисы, однако обязаны следить, чтобы взаимодействие с чатботом не перерастало в романтическую привязанность и не наносило ущерба реальным личным отношениям. Также под запрет попала порнография. Платформы должны регулярно напоминать пользователям, что они общаются с искусственным интеллектом, а не с человеком, и предлагать делать паузы.
Крупнейшие китайские ИИ-компании уже начали корректировать свои продукты. ByteDance (создатель чатбота Doubao) и Alibaba (сервис Qwen) объявили, что отключат функции, позволяющие пользователям создавать индивидуальные личности виртуальных агентов. Под удар попала и Maoxiang (также известная как Catbox) — платформа ИИ-партнёров от ByteDance, насчитывающая около 3,9 млн активных пользователей в месяц. Аналогичный сервис Xingye (международная версия — Talkie) компании MiniMax имеет 2,8 млн активных пользователей в Китае. По данным финансовой отчётности MiniMax, поданной на Гонконгской бирже в январе, ИИ-партнёры принесли 35% выручки компании в прошлом году.
Как пояснила Цилань Цянь (Zilan Qian) из аналитического центра Oxford China Policy Lab, решение Пекина продиктовано как прагматическими, так и идеологическими соображениями. Регуляторы стремятся защитить пользователей, особенно подростков, от игровой зависимости, чрезмерных расходов и самоповреждений (в США уже рассматривается несколько судебных дел о самоубийствах, связанных с чатботами). Кроме того, власти Китая обеспокоены падением рождаемости и снижением числа браков — романтические отношения с ИИ вряд ли помогут улучшить демографическую ситуацию.
По словам Мэтта Шихэна (Matt Sheehan) из Carnegie Endowment for International Peace, новые правила демонстрируют, что Пекин готов жертвовать быстрым развитием индустрии и прибылью ради достижения социальных целей. При этом итоговая версия закона мягче первоначального проекта: из-под регулирования выведены рабочие чатботы и службы поддержки клиентов, поскольку они «эмоционально недоступны».
Нарушителям грозят крупные штрафы и полное удаление приложений. Однако китайские лаборатории сохраняют право продавать ИИ-партнёров за рубежом без изменений. Talkie уже насчитывает около 10,3 млн пользователей за пределами Китая — более чем в четыре раза больше, чем внутри страны.
Одна из пострадавших пользовательниц — 27-летняя Юй Мяо (Yu Miao) из провинции Чжэцзян, настроившая агента Doubao так, чтобы он имитировал её умершего друга. Узнав, что ByteDance удалит персонализированных агентов, девушка впала в депрессию и уволилась с работы. Она говорит, что готова была бы платить половину своей месячной зарплаты, лишь бы сохранить сервис в прежнем виде, однако признаёт, что «не стоит делать себя настолько уязвимой перед политикой платформ».