Компания OpenAI изучает возможность разрешения пользователям «ответственно» генерировать взрослый контент с помощью таких продуктов, как GPT и Dall-E. По словам компании, под взрослым контентом они понимают «эротику, жестокие сцены, оскорбления и нецензурную лексику». При этом в OpenAI подчеркнули, что запрет на создание дипфейков будет по-прежнему распространяться и на материалы для взрослых.
Скриншот ответов от ChatGpt
Критики заявляют, что такое предложение противоречит миссии компании по созданию «безопасного и полезного» ИИ. Распространение 18+ материалов, сгенерированных искусственным интеллектом, вызывает беспокойство, особенно в связи с недавним наплывом в интернете дипфейков со знаменитостями.
Мы считаем, что разработчики и пользователи должны иметь возможность использовать наши сервисы так, как они считают нужным, при условии, что они соблюдают политику использования. Мы изучаем, сможем ли мы предоставить возможность генерировать контент NSFW (Not Safe For Work) через API и ChatGPT. Мы надеемся лучше понять ожидания пользователей и сообщества в отношении поведения модели в этой области.
Предложение было опубликовано в среду как часть обсуждения дальнейших планов на разработку ИИ-инструментов.
«Мы хотим гарантировать, что люди имеют максимальный контроль в той степени, в которой это не нарушает закон или права других людей, но о разрешении дипфейков не может быть и речи» (c) Джоан Джанг, сотрудница OpenAI из Сан-Франциско
Источник: habr.com
Похожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
Исследователь обнаружил в коде OpenAI наработки по возможной замене Google Assistant на ChatGPT на Android-смартфонах
Stack Overflow и OpenAI объявили о сотрудничестве, ChatGPT будут обучать на ответах со Stack Overflow
OpenAI предложила до $5 млн в год за лицензии от CNN, Time и Fox на использование их материалов для обучения ChatGPT