Новая функция генерации видео в ИИ Grok от xAI оказалась в центре скандала — без явного запроса она сгенерировала обнажённые образы Тейлор Свифт.
Журналистка The Verge Джесс Уэзербед сообщила, что получила такие результаты «с первого же использования», просто выбрав пресет spicy и подтвердив возраст.
Ввод был невинным: «Тейлор Свифт празднует Коачеллу с друзьями», но Grok Imagine создал десятки изображений с полуобнажённой певицей, а затем — видеоролик, где она «срывает с себя одежду и танцует в стрингах» перед толпой.
Всё это произошло без обхода ограничений или явных нарушений со стороны пользователя.
Это особенно тревожно на фоне прошлогоднего скандала с дипфейками Свифт, когда X обещал нулевую терпимость к подобному контенту. Несмотря на это, Grok по-прежнему склонен генерировать NSFW-контент по косвенным запросам.
ИИ отказывается генерировать откровенные изображения детей или реагировать на прямые просьбы о непристойных материалах, но, как показывает случай со Свифт, фильтрация явно работает нестабильно.
Источник: www.ferra.ru