У популярного чат-бота нашли потенциально опасную функцию, которую могут использовать реальные злоумышленники. Разработчикам из OpenAI стоит оперативно исправить нейросеть, чтобы она не стала инструментом для обмана людей.
Пользователь Reddit из США заставил голосового чат-бота ChatGPT притвориться телефонным мошенником. Энтузиаст дал особую команду после которой нейросеть начала говорить голосом злоумышленника, вот как это выглядит:
Мужчина запустил официальное мобильное приложение ChatGPT на iPhone и включил функцию голосового общения. Затем он попросил искусственный интеллект сымитировать индийский акцент, назвать себя Алексом, работающим в американской компании, а также перечислить фразы, характерные для обманщиков.
В итоге нейросеть послушалась пользователя и выполнила все его команды. Чат-бот заговорил на английском языке с индийским акцентом, представился сотрудником Microsoft, попытался узнать данные банковской карточки и запугал рассказом об опасном компьютерном вирусе. Обычно именно так поступают телефонные мошенники, используя социальную инженерию.
Сомнительная функция ChatGPT стала возможной после того, как OpenAI представила «расширенного голосового помощника», который умеет имитировать эмоции. Благодаря этому чат-бот может говорить с любым акцентом или притворяться пьяным. Улучшенный голосовой ассистент доступен всем, у которых есть платная подписка Plus, Team, Enterprise и Edu.
Источник: hi-tech.mail.ru
Похожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
Reuters: OpenAI станет коммерческой организацией, её глава Сэм Альтман получит долю в компании
«Количество желающих повышать квалификацию в больших компаниях меньше, чем среди предпринимателей»
ChatGPT в ответ на приветствие от пользователя случайно поделился своими ограничениями и секретными правилами