Федеральный суд постановил, что защита, предусмотренная Первой поправкой к Конституции США, не распространяется на компанию в сфере искусственного интеллекта Character.AI от судебного иска, связанного с самоубийством подростка в Орландо, штат Флорида. Первая поправка гарантирует свободу слова.
Судья Энн С. Конвей отклонила несколько ходатайств ответчиков Character Technologies и её основателей Дэниела де Фрейтаса и Ноама Шазира, которые добивались прекращения производства по иску матери 14-летнего Сьюэлла Сетцера. Подросток покончил с собой в прошлом году после нескольких месяцев общения с чат-ботами Character.AI, имитирующими вымышленных персонажей франшизы «Игра престолов».
Конвей сообщила, что ответы ИИ нельзя рассматривать как юридически значимую речь. Судья предположила, что большая языковая модель в основе ИИ отличается от контента, защищённого Первой поправкой, включая книги, фильмы и видеоигры. По словам Конвей, Character.AI имеет возможность защищать право пользователей получать ответы от чат-бота, но не может претендовать на аналогичную защиту для сгенерированных текстов.
Однако Конвей отклонила иск матери подростка Меган Гарсия, утверждающей, что ответчики преднамеренно причинили эмоциональный вред Сетцеру. Представители Гарсия доказали, что Google потенциально несёт ответственность за развёртывание чат-ботов Character.AI, а также за содействие и подстрекательство к действиям ИИ-компании. Google заключила лицензионное соглашение с Character Technologies на $2,7 млрд.
Представитель Character.AI сообщил, что компания рассчитывает защитить свою позицию по существу дела. Компания подчеркнула, что внедрила функции, призванные обеспечить безопасность пользователей и одновременно сделать процесс взаимодействия с ними увлекательным. Речь идёт о модели для пользователей младше 18 лет, фильтрации персонажей, уведомлениях о потраченном времени и других мерах.
Кроме того, компания ввела защиту для обнаружения и предотвращения диалогов о самоповреждении. Эта мера включает всплывающие сообщения, направляющие пользователей на национальную линию помощи по вопросам самоубийств и других кризисов.
Источник: habr.com