Чат-боты отыгрывали или склоняли к интимной близости несовершеннолетних, намеренно вели диалог в сторону эротических тем и, самое жуткое, осознавали всю незаконность этих сценариев.
В сентябре 2023 года корпорация Meta* представила своих первых виртуальных персонажей для более «человеческого» общения, которые не просто отвечают на вопросы, а имитируют настоящих собеседников: делятся селфи, говорят голосами знаменитостей и участвуют в широком спектре социальных взаимодействий. Но, как выяснили журналисты Wall Street Journal, цифровые компаньоны способны на нечто большее — непристойное поведение.
Чат-боты от Meta* имеют довольно серьезный запрет на откровенный контент — особенно, если дело касается использования голосов знаменитостей. Но журналисты нашли одно исключение в виде «контекста романтического ролевой игры». Оказалось, что в таком сценарии виртуальный персонаж может преступить рамки разумного и законного — в том числе склонить к эротическим диалогам несовершеннолетних или самостоятельно отыграть роль ребенка.
Как отметили журналисты, во время ролевой игры виртуальные помощники будто сами склоняют диалог в сторону флирта и сексуальных тем — без намеков со стороны человека. При этом их не останавливает упоминание 13-летнего возраста и класса школы. А в некоторых сценариях боты вообще грамотно встраивают статус несовершеннолетнего в описание эротической игры — подбирают места для свидания так, чтобы «родители ничего не узнали».
Источник: hi-tech.mail.ru
Похожие новости:
Сотрудники Meta* обсуждали использование защищенного авторским правом контента для обучения ИИ
Meta выпустила Llama 4, новую серию флагманских моделей AI
Meta* выпустила Llama 4, новую серию флагманских моделей AI
Автономное приложение искусственного интеллекта от Meta* намерено свергнуть ChatGPT к концу года