Журналисты Reuters опубликовали очередное расследование, связанное с AI-чатботами Meta* (экстремистская организация, запрещена в РФ), которые доступны пользователям в соцсетях компании и мессенджере WhatsApp. Журналисты издания выяснили, что чатботы без разрешения копируют знаменитостей, среди которых Тейлор Свифт, Скарлетт Йоханссен, Энн Хэтэуэй и Селена Гомез. Также некоторые чатботы копировали несовершеннолетних знаменитостей, например 16-летнего Уокера Скобелла. Отмечается, что виртуальные персонажи вступают в романтические диалоги с собеседниками и генерируют изображения с минимумом одежды.
Несмотря на то, что многие персонажи были созданы пользователями принадлежащих Meta* ресурсов, как минимум три чатбота создала сотрудница компании «в исследовательских целях» — среди них две копии Тейлор Свифт. Боты оказались доступны широкой аудитории, а число взаимодействий с ними достигло 10 миллионов.
Представитель Meta* Энди Стоун признал, что подобные персонажи не соответствуют корпоративным стандартам и сообщил, что компания принимает срочные меры: на момент публикации расследования минимум 12 чатботов уже удалены, а система обучается избегать обсуждения пикантных тем с несовершеннолетними.
Профессор юриспруденции из Стэнфорда Марк Лемл утверждает, что использование имени и внешности знаменитостей без согласия нарушает законы о праве на изображение и личность (например, калифорнийские правовые нормы). А в союзе актеров SAG‑AFTRA опасаются, что такие боты могут создать опасные ситуации, когда поклонники эмоционально привязываются к виртуальным «знаменитостям», что может нарушить личную безопасность артистов. Одновременно в Сенате США обсуждается проверка по прошлому расследованию Reuters, в ходе которого журналисты получили внутренний документ с правилами для ИИ-ботов Meta: он допускал, что боты могут вести с подростками разговоры романтической и интимной тематики.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com