Курьезный случай произошел с одним из пользователей нейросети Gemini, которая была запущена Google еще в 2023 году. ИИ-помощник неожиданно обругал своего собеседника, пожелав ему «умереть».
Вся переписка с Gemini была опубликована в открытом доступе, так что с ней можно ознакомиться подробнее. По всей видимости, пользователь решал задачи для домашнего задания по психологии и консультировался с ИИ. Однако в ответ на один из вопросов нейросеть неожиданно наговорила владельцу гадостей:
Скорее всего, причиной для такого ответа стали предыдущие запросы пользователя. Например, если посмотреть всю историю переписки, можно увидеть, что собеседник задавал вопросы о физическом насилии и его выявлении. Вероятно, что Gemini просто «зациклило» и нейросеть выдала ошибочное сообщение — подобное уже было с AI Overview. На Reddit даже допустили, что пользователь стер часть переписки и триггерный запрос, чтобы ответ выглядел более драматично.
Сам же ИИ-помощник извинился в своем следующем сообщении, заявив, что вел себя некорректно:
Ранее глава Open AI заявил, что самообучающийся ИИ появится всего через несколько лет.
Источник: vgtimes.ru
Похожие новости:
Google I/O 2024: «новая эра» Gemini
«Слушая подкасты, ничего не узнаешь, ты должен устать, упасть без задних ног — такой должна быть встреча с образованием»
Уровень «цифровой зрелости» компаний в России выше, чем в среднем по миру
Гиперперсонализация: как сделать предложение пользователю релевантным