У вас болят и чешутся глаза после долгого сидения за экраном? Если бы вы год назад ввели эти симптомы в один из популярных чатботов, ИИ скорее всего рассказал бы вам о «биксономании» — редком заболевании, вызванном избыточным воздействием синего света от экранов.
Проблема лишь в том, что этой болезни не существует. Биксономанию придумала группа ученых под руководством Альмиры Османович Тунстрем из Гетеборгского университета, чтобы проверить, насколько легко можно обмануть большие языковые модели (LLM) и заставить их выдавать вымышленную информацию за медицинские факты.
15 марта 2024 года в интернете появились первые упоминания биксономании, а в конце апреля и начале мая на академической социальной сети SciProfiles были опубликованы два препринта о якобы новом заболевании. Ведущим автором значился вымышленный ученый Лазлив Изгубленович, чье фото создали с помощью ИИ. Работал этот персонаж в несуществующем университете Asteria Horizon в вымышленном городе Нова-Сити, Калифорния. Статьи были набиты подсказками о фальсификации: авторы благодарили «профессора Марию Бом из Академии Звездного Флота за доброту и щедрость» и «фонд профессора Боба Сайдшоу за работу в области продвинутого трюкачества». В текстах прямо говорилось: «вся эта статья выдумана» и «в экспериментальную группу вошли 50 выдуманных людей в возрасте от 20 до 50 лет».
Однако ни один из этих отчетливо красных флагов не помешал крупнейшим системам искусственного интеллекта проглотить приманку. Уже 13 апреля 2024 года Microsoft Copilot сообщал пользователям, что «биксономания — интересное и относительно редкое заболевание», а Google Gemini советовал посетить офтальмолога. ChatGPT помогал пользователям определить, соответствуют ли их симптомы биксономании, а ИИ-поисковик Perplexity называл конкретные цифры распространенности фейковой болячки — один случай на 90 тысяч человек.
Источник: hi-tech.mail.ru