Компания Deloitte, предоставляющая консалтинговые услуги, выплатит министерству занятости и трудовых отношений Австралии компенсацию за собственный отчёт, который содержал галлюцинации, связанные с ИИ.
Министерство заказало у Deloitte разработку отчёта для Целевой системы соответствия (Targeted Compliance Framework). Это государственная IT-система для отслеживания получателей пособий, которые не проходят определённые процедуры, например, собеседования при приёме на работу. Отчёт обошёлся в $439 тысяч австралийских долларов (около $290 тысяч), а его выпустили ранее в этом году. В августе издание Australian Financial Review сообщило, что в документе содержится ряд ошибок, включая многочисленные ссылки на несуществующие научные статьи. Исправленная версия появилась на сайте ведомства на прошлой неделе.
Deloitte начала расследование и, похоже, признала, что использовала ИИ как минимум в части своей работы. Теперь в отчёте компании содержится оговорка о том, что Deloitte применила Azure OpenAI GPT-4o, размещённый на учётной записи DEWR, для устранения определённых «пробелов в отслеживаемости и документации».
Анонимный источник сообщил СМИ, что компания списала ошибки на человеческий фактор в ходе внутренней проверки.
Deloitte — не единственная компания, уличённая в использовании неточной информации, созданной ИИ. В мае газета Chicago Sun-Times была вынуждена признать, что опубликовала список книг для своего ежегодного летнего списка чтения, составленный ИИ, после того, как читатели обнаружили, что у некоторых книг были выдуманные названия, даже если авторы были реальными. Так, в список вошла несуществующая книга Tidewater Dreams, которую якобы написала Исабель Альенде, однако в библиографии писательницы такой книги нет.
Источник: habr.com