Немецкий журналист Мартин Бернклау решил указать своё имя и место работы в чате с Copilot от Microsoft, чтобы посмотреть, как его статьи в блоге будут восприняты ботом. Тот в ответ выдал информацию о том, что мужчину обвинили в жестоком обращении с детьми и семейной эксплуатации. ИИ также утверждал, что репортёр участвовал в побеге из психиатрической больницы.
swr.de
Copilot даже выдал оценочные суждения, заявив, что наличие семьи у человека с таким криминальным прошлым — это «плохо».
Наконец, ИИ выдал полный адрес Бернклау с номером телефона и планировщиком маршрута.
Сам журналист отмечает, что он написал много статей, освещающих судебные разбирательства в Тюбингене по делам о злоупотреблениях, насилии и мошенничестве, а Copilot не понял контекста и приписал эти преступления ему.
Бернклау связался с прокуратурой в Тюбингене, но там заявили, что не могут выдвинуть обвинения, потому что утверждения Copilot не исходят от реального человека. Microsoft же сняла с себя всю ответственность, указав на условия обслуживания, где сказано, что компания не отвечает за контент, созданный Copilot.
В 2023 году чат-бот ChatGPT также ложно внёс профессора права Джонатана Тёрли в список юристов, которых обвиняли в сексуальных домогательствах. В качестве источника информации чат-бот привёл статью в WP от марта 2018 года. Однако такой статьи не существует, а ИИ перепутал мужчину с другим профессором по праву — Джоном Тёрли из Университета Джорджтаун, которого обвинили в сексуальных домогательствах к ассистенту.
Источник: habr.com
Похожие новости:
В суде США разваливается коллективный иск «разработчики против Microsoft, GitHub и OpenAI из-за работы GitHub Copilot»
TechMix Daily. Лучшие новости дня. Выпуск 22 мая 2024 г
Microsoft запустила в Telegram официального чат-бота своего ИИ-помощника Copilot
ИИ Microsoft ложно обвинил репортера в преступлениях, которые он освещал