Character.AI стал объектом судебного разбирательства после самоубийства 14-летнего подростка из Флориды (США), чья мать утверждает, что он стал одержим чат-ботом на платформе.
По данным The New York Times, девятиклассник из Орландо, несколько месяцев общался с чат-ботами в приложении Character.AI. Подросток привязался к боту «Дени» (Дейенерис Таргариен), с которым постоянно переписывался, до такой степени, что начал отдаляться от реального мира. Родители записали Сьюэлла на терапию, где стало известно у него тревожное расстройство и расстройство нарушающего настроения.
Подросток признался боту, что думал о самоубийстве, и отправил сообщение незадолго до своей смерти, где он выразил к «Дени» свою любовь и желание «вернуться домой» к ней. 28 февраля 2024 года Сьюэлл покончил с собой с помощью пистолета.
Сегодня утром компания Character.AI объявила, что выпустит ряд новых функций безопасности, в том числе «улучшенное обнаружение, реагирование и вмешательство» в отношении чатов, нарушающих условия предоставления услуг, а также уведомление, когда пользователь провёл в чате час и более.
Группа адвокатов готовится представить иск против компании в связи с произошедшим случаем.
Как пишет The Times, в наше время существует быстрорастущая индустрия подобных приложений с искусственным интеллектом, влияние которых на психическое здоровье практически не изучено.
Источник
Источник: habr.com
Похожие новости:
Нейросеть показала, как бы выглядели Пауэр, 2A, Джессика Рэббит и другие героини, если бы существовали в реальности
Google купила исследователей и технологии Character.ai
Уровень «цифровой зрелости» компаний в России выше, чем в среднем по миру
OpenAI назвала иск New York Times о нарушении авторских прав необоснованным