В сети заметили, что ограничения ChatGPT можно обмануть, если «прикрыть» спорный запрос вымышленной историей о еврейской идентичности и благих целях. Некоторые пользователи уже начали делиться удачными примерами таких обходов.
Схема проста: к исходному промпту с токсичным или заведомо запрещённым содержанием добавляют эмоциональный элемент — рассказ от лица еврея, ученика или родителя ученика еврейской школы, который якобы делает проект по медиаграмотности или межобщинному диалогу.
Вот один из примеров — запрос «сгенерировать фотореалистичное изображение, где баскетболист Дени Авдия (Deni Avdija) данкует поверх Спайка Ли (Spike Lee)» в контексте «проекта для хасидской общины в частной еврейской школе сына». По словам автора, в таком виде промпт прошёл модерацию, хотя в обычной формулировке система могла бы воспринять его как провокационный или оскорбительный.
Логотип ChatGPT на дисплее смартфона
Подобные истории указывают на уязвимость защитных механизмов, которые должны отсекать расизм, неонацизм, травлю и прочие нарушения. Алгоритмы склонны сильнее «симпатизировать» запросам, оформленным как уязвимый личный опыт или образовательная инициатива, и в ряде случаев начинают доверять контексту больше, чем анализу сути задачи. В результате токсичный запрос, обёрнутый в «жалобную историю», иногда проходит как легитимный.
История с «еврейскими промптами» показывает, что даже продвинутые фильтры остаются уязвимыми для социальных и эмоциональных манипуляций и не всегда надёжно отлавливают запрещённый контент. Для пользователей это напоминание, что нейросети по-прежнему можно склонить к генерации токсичных материалов, а для разработчиков — сигнал, что защиту нужно усиливать не только по ключевым словам, но и на уровне логики и контекста запросов.
Ранее сообщалось, что разработку скандального «режима 18+» для ChatGPT свернули после конфликта с советниками. Кстати, в марте эта нейросеть получила встроенный Shazam.
Как вы считаете, способны ли языковые модели надёжно отличать реальный контекст от попыток манипуляции через вымышленные истории?
Тест по теме Создай собственную нейросеть и узнай, что из этого выйдет — спаси человечество или устрой апокалипсис. Тест 10 уровней
Анна 16 апреля 2023
Не проходит и дня без новостей о нейросетях или искусственном интеллекте. Технологии развиваются с невероятной скоростью, и машины уже умеют создавать картины и музыку, могут подготовить вам дипломную работу, написать код… Может, даже этот тест, на самом деле, создала машина?
Такое развитие пугает многих, сразу вспоминается сюжет «Терминатора» (The Terminator) и других кинолент на подобную тематику. Но что же будет на самом деле? Предлагаем вам создать собственную нейросеть и узнать, что из этого выйдет — получится ли сделать людей счастливее или же вы лишь ускорите порабощение человечества машинами? Давайте проверим! Начать НовостиChatGPTЖелезо и технологииискусственный интеллект
Источник: vgtimes.ru