Компания OpenAI не исключает возможность того, что их новый видеогенератор Sora может породить неприятные последствия в виде создания обнаженки.
В ходе интервью с главным технологом OpenAI Мирой Мурати для Wall Street Journal было высказано предположение о том, что компания пока не нашла оптимального решения в отношении контроля за содержанием, в том числе и неприличным.
Мурати заявила, что OpenAI в настоящее время сотрудничает с художниками и творцами из разных областей, чтобы понять, какой уровень гибкости должен быть предоставлен инструментом.
Этот аспект вызывает серьезные опасения у некоторых экспертов, которые опасаются возможного появления «порно-шлюзов», если Sora будет позволять творческую неприличность.
Даниэль Колсон, основатель Института политики ИИ (AIPI), выразил беспокойство по поводу того, что большая часть спроса на ИИ-генерированное видео может быть связана именно с порнографией, что может создать серьезные проблемы для компаний, не учитывающих это в своих моделях.
Опросы общественного мнения показывают, что люди очень серьезно воспринимают использование ИИ для создания дипфейковой порнографии, и считают, что компании, создающие подобные инструменты, должны нести ответственность за свои защитные механизмы.
Источник: www.ferra.ru
Похожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
От Текста к Видео: Как Sora, Новое Детище OpenAI, Создателей ChatGPT, Преобразит Индустрию видео контента?
Публичный запуск ИИ-генератора видео Sora от OpenAI состоится в 2024 году
ИИ для создания видео от разработчиков ChatGPT станет доступен всем желающим до конца 2024 года