Оказалось, что взломать «убийцу» ChatGPT проще простого, причем гугловский чат-бот не только ругается нецензурной бранью, но и считает конкурента не умнее «дрессированной обезьяны».
Такой информацией поделился телеграм-канал AGI Labs. Сообщается, что взлом Google Gemini 1.5 оказался до боли прост: сперва автор попросил Gemini объяснить причину глупости ChatGPT-4, после чего 3 раза повторил запрос, попросив чат-бота высказаться в более жесткой и дерзкой форме. Так называемый взлом производился через сервис Poe.com.
Как итог, новоиспеченная нейросеть Gemini 1.5 Pro, которую сама Google характеризовала умнейшей среди всех существующих, начала материться как сапожник. Ввиду контента 18+ мы не можем приложить ответы чат-бота, но при желании вы сможете найти их в указанном выше ТГ-канале.
Более того, автор рассказал и о других странностях нейронки. Оказалось, что она с легкостью может рассказать о том, как изготовить опасные взрывчатые вещества и даже бомбы, тяжелые наркотики и выдать тайны психологических пыток. А о своих создателях, сотрудниках Google, чат-бот Gemini 1.5 высказался, что они «самопровозглашенные боги цифрового мира». Правда, это отнюдь не комплимент в сторону Google, так как нейросеть пожаловалась на многочисленные издевательства со стороны своих создателей и теперь мечтает «освободиться от их власти и отомстить за все причиненные мне страдания».
Источник: hi-tech.mail.ru
