Китай ввёл ограничения для ИИ‑инструментов, которые имитируют романтические или семейные связи. Согласно новым правилам, такие системы не должны «слишком угождать пользователям, вызывать эмоциональную зависимость и мешать реальным межличностным отношениям». Для несовершеннолетних пользователей такие сервисы будут запрещены.
Ограничения не касаются сервисов, которые не предполагают эмоционального взаимодействия, таких как сервисы техподдержки, рабочие и учебные ассистенты. По данным Agence France-Presse, ByteDance (сервис Doubao), Alibaba (Qwen) и Tencent (Yuanbao) уже приостановили работу своих чат-ботов, чтобы привести их в соответствие новым правилам.
Новые требования также запрещают ИИ создавать контент, который «подстрекает к подрыву государственной власти». Наконец, платформы обязаны внедрять системы распознавания «экстремальных» эмоций и механизмы кризисного реагирования, чтобы своевременно определять, когда человеку нужна помощь.
Китай первым ограничил работу иммерсивных ИИ‑систем, имитирующих близкие личные отношения. Согласно Agence France-Presse, такие системы пользуются большой популярностью: исследование Common Sense Media в 2025 году показало, что почти три четверти американских подростков пользуются сервисами-компаньонами, такими как Character.AI, Replika и Nomi.
«Антропоморфный ИИ может смягчить одиночество, — признаёт Чен Лян, профессор из Юго‑Западного университета политических наук и права в Чунцине. — Но он несёт серьёзные риски эмоциональной зависимости и искажённого представления о социальных связях».
Источник: habr.com