Компания Character.AI объявила о новых мерах по обеспечению безопасности для пользователей-подростков. С 25 ноября 2025 года пользователи младше 18 лет больше не смогут переписываться с ИИ-персонажами.
До того времени, как отключить чаты с ботами, для подростков будет установлен лимит общения с ИИ-персонажем — два часа в день. Чтобы поддерживать интерес подростков к платформе, Character.AI запустит новые творческие функции, такие как создание видео, историй и стримов с ИИ-персонажами.
Компания будет проверять возраст пользователей с помощью специально разработанной ИИ-модели. Она будет интегрирована с другими инструментами, такими как Persona, чтобы гарантировать пользователям доступ только к тем функциям Character.AI, которые соответствуют их возрасту.
Ещё одна мера, которую предпринимает Character.AI, — создание AI Safety Lab. Как объясняет компания, это «независимая некоммерческая организация, которая будет заниматься внедрением инноваций в области безопасности для развлекательных функций ИИ следующего поколения».
Компания Character.AI принесла извинения своим пользователям-подросткам, чаты для которых станут закрыты, признав, что это серьёзное изменение. Несмотря на это, компания заявила, что считает такой шаг правильным.
Решение компании ограничить взаимодействие молодых пользователей с ботами было принято на фоне критики в адрес приложения. В 2024 году стало известно о самоубийстве подростка, который много, в том числе до момента смерти, общался с персонажем Character.AI. Также в 2024 году компания столкнулась с иском от родителей двух несовершеннолетних пользователей. Истцы заявляли, что чат-бот компании показывал их детям непристойный контент и писал сомнительные сообщения, включая описание селфхарма и намёки на убийство родителей.
Источник: habr.com