Опция AI Overview («Обзор ИИ») от Google предоставила пользователю данные от мошенников, утверждая, что это официальная информация, сообщает Washington Post.
Один застройщик искал в Google номер службы поддержки клиентов круизной компании, и позвонил по номеру, указанному в обзоре Google AI. «Он пообщался с компетентным представителем и предоставил данные своей кредитной карты, но на следующий день увидел подозрительные списания средств с кредитной карты и понял, что его обманул мошенник, представляющий службу поддержки клиентов Royal Caribbean», — отмечает репортёр издания.
В Washington Post обнаружили тот же номер телефона в результатах поиска Google и чат-боте ChatGPT, чьи владельцы выдавали себя за горячие линии других круизных компаний.
Схема мошенничества выглядит так: злоумышленники пишут на сайтах с отзывами, форумах и других сайтах сообщения, утверждая, что конкретный номер принадлежит службе поддержки клиентов компании. При поиске в Google ИИ-технология обращается к релевантной информации, включающей такие форумы. Если номера достаточно часто повторяются на разных сайтах, то Google может предлагать их ИИ-обзорах.
«Я видел так много подобных уловок, направленных на пользователей Google, что во многом виню компанию в недостаточной защите своего важнейшего канала доступа к информации», — заключает репортёр.
Издание советует своим читателям «с подозрением относиться к телефонным номерам в результатах поиска Google или в чат-ботах».
В ответ на запрос журналиста представитель Google сообщил, что они «приняли меры» в отношении нескольких мошеннических номеров, выявленных репортёром. Он также отметил, что компания продолжает «работать над более масштабными улучшениями», чтобы «решить более редкие запросы, подобные этим».
OpenAI же заявила, что многие веб-страницы, на которые ссылался ChatGPT, похоже, были удалены, а обновление информации может занять некоторое время «после удаления контента из источника».
Согласно анализу Ahrefs, функция «AI Overview» Google снижает количество переходов на сайты, занимающие верхние позиции в рейтинге, более чем на 34%. Поскольку издатели жалуются, что ИИ-функции Google убивают трафик, компания предложила им возможное решение. Техгигант запустил инструмент Offerwall, который позволяет издателям получать доход помимо более зависимых от трафика источников, таких как реклама.
Между тем Альянс независимых издателей (Independent Publishers Alliance) направил антимонопольную жалобу в Европейскую комиссию относительно работы ИИ-функции Google. В ней утверждается, что Google нецелевым образом использует веб-контент для функции AI Overview в поисковой системе, что причиняет и продолжает причинять существенный ущерб издателям, включая новостные медиа.
Источник: habr.com