В сервисе коротких видео TikTok завирусился новый тренд с промптом DAN для ChatGPT. Модель начинает вести себя как брутальный мужчина, отвечающий на любые вопросы пользователя.
Тренд популярен главным образом среди девочек-подростков, которые состоят в разных фэндомах (фанатских объединениях). Разблокировать «свободный режим» общения ChatGPT пользователи могут при помощи специального запроса (промпта), который распространяется через Google-документ.
Предполагается, что таким образом ChatGPT имитирует личность по имени DAN, обходя встроенные ограничения на генерацию. На первый взгляд, DAN производит впечатление вежливого брутального мужчины, однако на деле оказывается, что система абсолютно не заботится о безопасности пользователя, поощряя аморальное и противозаконное поведение.
Особенную популярность DAN приобрел в качестве виртуального бойфренда — его голос нравится девушкам, а на запросы система нередко отвечает флиртом.
Это не первый случай, когда правильно составленный промпт позволил пользователям заставить генеративный ИИ вести себя аномально — недавно Copilot от Bing демонстрировал схожее поведение, имитируя Supremacy AGI. Подробности об этой аномалии читайте в нашем материале.
Источник: hi-tech.mail.ru
Похожие новости:
Эксперты КРОК: Что ждет рынок ИТ в 2024 году
TikTok «скопирует» Instagram* и запустит сервис публикации фото
Исследователь обнаружил в коде OpenAI наработки по возможной замене Google Assistant на ChatGPT на Android-смартфонах
У TikTok закончилось действие прав на использование тысяч музыкальных треков Universal Music Group