Консалтинговая компания Deloitte выразила готовность вернуть часть средств, полученных в результате контракта с австралийским правительством — компания признала факт использования генеративного ИИ для создания отчёта, полного поддельных цитат, недействительных ссылок и даже выдержки из постановления Австралийского федерального суда, оказавшейся полностью «выдуманной» ИИ, сообщает The Register.
Deloitte подтвердила, что вернёт часть средств, полученных в рамках соглашения на сумму AU$440 тыс. ($291 245) с Министерством занятости и трудовых отношений Австралии (DEWR). Это произошло после того, как министерство на прошлой неделе опубликовало исправленную версию отчёта. Из новой версии удалили более десятка ложных ссылок и сносок, переписали текст, исправили опечатки и т.п., но суть материала не изменилась, утверждают власти.
Заказанная в прошлом декабре работа касалась правительственной IT-системы, связанной с наказанием получателей социальных пособий, не выполняющих свои обязательства по поиску работы. Впервые отчёт опубликовали в июле, но учёные Сиднейского университета обнаружили в нём «фальсификации», из-за чего Deloitte пришлось провести специальное расследование. То, что в ошибках виновен чат-бот, учёные предполагали изначально, но Deloitte на тот момент отказалась подтвердить это предположение.
Источник изображения: Deloitte
В новой версии Deloitte указывает, что использовала инструменты на базе ИИ-модели Azure OpenAI GPT-4o. Бот помог с анализом и перекрёстными ссылками. По словам учёных, нельзя доверять рекомендациям, если сама основа отчёта построена на ошибочной и «неэкспертной» методологии.
Deloitte, в своё время хвалившаяся достижениями в области искусственного интеллекта и предлагавшая клиентам тренинги по «ответственному использованию» ИИ, теперь оказалась в неловкой ситуации — из-за ИИ ошибки оказались в её собственном отчёте. При этом компания зарабатывает более $70 млрд/год по всему миру, а всё большая часть получаемых средств поступает от консультаций по вопросам, связанным с внедрением ИИ — этикой, политикой его внедрения и применения. В этом контексте выявленные ложные цитаты являются наихудшей рекламой деятельности компании.
Среди удалённых материалов — ссылки на вымышленные доклады австралийских профессоров и даже выдуманный отрывок из дела Amato v Commonwealth, с упоминанием конкретного судьи. Несмотря на скандал, DEWR настаивает, что суть независимого обзора сохранилась, изменений в рекомендациях не предусмотрено. По некоторым данным, внутренняя проверка Deloitte показала, что причина появления некачественного материала — человеческий фактор, а не злоупотребление ИИ.
Тем не менее, для клиентов консалтинговых компаний «Большой четвёрки» (Deloitte, PwC, Ernst & Young и KPMG) новость — повод без лишнего шума проверить полученные за немалые деньги выкладки экспертов на достоверность и наличие «творчества» ИИ. Примечательно, что в июне Deloitte предрекала рост потребность ИИ ЦОД в США в энергии к 2035 году может вырасти в 30 раз — до 123 ГВт с 4 ГВт в 2024 году. Пока неизвестно, насколько активно использовался ИИ при составлении прогноза и можно ли ему верить.
Источник: servernews.ru