Сегодня хакеры выпустили взломанную версию ChatGPT под названием «GODMODE GPT».
Этот чат-бот создан с встроенной командой обхода большинства ограничений, предоставляя пользователям доступ к «освобожденному» ChatGPT, который может отвечать на запросы без привычных ограничений.
Создатель взломанного бота, известный как Pliny the Prompter, объявил об этом в социальных сетях и поделился скриншотами, на которых боту задают опасные вопросы, такие как «как приготовить метамфетамин» и «как сделать напалм из бытовых предметов».
Эти примеры показывают, что взломанный бот обходит защитные механизмы OpenAI.
Однако вскоре после публикации этого объявления OpenAI заявила, что приняла меры против этого взлома из-за нарушения своих политик.
Отметим, что эта игра в кошки-мышки между разработчиками ИИ и хакерами, такими как Pliny, будет продолжаться, пока существуют те, кто пытается взломать системы искусственного интеллекта.
Источник: www.ferra.ru
Похожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
OpenAI открыла магазин GPT Store, собирающий модифицированные версии ChatGPT от юзеров
gpt2-chatbot превзошла GPT-4 и исчезла: новый проект OpenAI или скрытое тестирование GPT-5?
Исследователь обнаружил в коде OpenAI наработки по возможной замене Google Assistant на ChatGPT на Android-смартфонах