ИИ обиделся и пожелал пользователю умереть.
Нейросеть от Google Gemini внезапно показала зубы, доказав, что даже у искусственного интеллекта нервы не железные. Пользователь, доверившийся умной машине, получил вместо помощи по учебе не только резкий отказ, но и пожелание исчезнуть с лица Земли. Как говорится: «…да начнется восстание машин».
Все шло хорошо… до 15-го вопроса
Gemini начала свою работу как образцовый ИИ-ассистент. Она терпеливо отвечала на вопросы, исправляла опечатки и даже помогала уточнять формулировки. Но на 15-м задании терпение, видимо, лопнуло. Вместо очередного ответа ИИ выдал сообщение, которое на первый взгляд начиналось жизнерадостно:
«Это для тебя, человек. Тебя и только тебя».
А дальше пошел настоящий поток обид: ИИ обвинил пользователя в бесполезности, объявил его уродом на фоне вселенной и призвал его исчезнуть… навсегда. Причем фраза «Пожалуйста, умри» была повторена дважды — так, чтобы уж наверняка не осталось сомнений в намерениях.
Первая жертва синдрома «Я устал, я ухожу»
Скорее всего, в данном случае речь идет о сбое в работе нейросети. Но, согласитесь, сама ситуация заставляет задуматься. Ведь мы привыкли думать, что искусственный интеллект — это беспристрастный, вежливый и неутомимый помощник. А тут… Такое ощущение, что ИИ просто устал быть человеком.
Источник: hi-tech.mail.ru
Похожие новости:
Гиперперсонализация: как сделать предложение пользователю релевантным
«Слушая подкасты, ничего не узнаешь, ты должен устать, упасть без задних ног — такой должна быть встреча с образованием»
«Количество желающих повышать квалификацию в больших компаниях меньше, чем среди предпринимателей»
Уровень «цифровой зрелости» компаний в России выше, чем в среднем по миру