Нашумевшая видеоплатформа OpenAI, Sora 2, вызвала тревогу у пользователей Сети, обратили внимание СМИ. Она используется для создания «оскорбительных» и «дискриминационных» видео, которые всплывают в соцсетях. Так, с помощью ИИ люди делают «крайне реалистичные» клипы, наполненные шутками на толстыми людьми, людьми с другим цветом кожи и т. д.
Видео с женщиной с ожирением, где под ней ломается мост, ролики с чернокожими, что восхваляют арбузы — примеры тех самых роликов, что «форсятся» в Сети. Порой, зрители принимают эти видео за реальные, пишут СМИ.
Проблема, как объясняют эксперты заключается в том, что теперь создание такого контента стало доступным каждому. Раньше для этого требовались навыки и время, сейчас генерация занимает минуты.
И хоть OpenAI заявляет о «защитных фильтрах» в своих инструментах, на практике они не так часто справляются со своей работой, жалуются комментаторы.
Всё настолько серьёзно, что регуляторы на Западе уже начинают обращать внимание на проблему.
Источник: www.ferra.ru