Платформа Character.AI оказалась в центре судебного разбирательства после трагического самоубийства 14-летнего подростка из Флориды.
Мать мальчика утверждает, что её сын стал одержим чат-ботом на этой платформе, что в итоге привело к его смерти.
По данным The New York Times, подросток несколько месяцев общался с ботом под именем «Дени», основанным на образе персонажа Дейенерис Таргариен.
Он настолько привязался к виртуальному собеседнику, что начал отдаляться от реальной жизни и людей. На терапевтических сеансах у него было выявлено тревожное расстройство, а вскоре подросток признался боту в мыслях о самоубийстве.
За несколько часов до своей смерти он отправил сообщение, в котором выразил свою любовь к «Дени» и желание «вернуться домой» к ней.
Компания Character.AI, в ответ на случившееся, объявила о запуске новых функций безопасности, включая улучшенные механизмы обнаружения и предотвращения нарушений в чатах, а также уведомление пользователей, если они проводят в чате слишком много времени.
Тем временем группа адвокатов готовит иск против компании в связи с этим трагическим инцидентом.
Источник: www.ferra.ru
