В ответах ChatGPT начали появляться ссылки на мошеннические интернет-магазины, которые маскируются под сайты известных брендов. Об этом сообщает The Guardian.
По данным расследования, пользователи при запросах о товарах получали рекомендации с переходами на поддельные сайты, визуально почти неотличимые от официальных страниц ритейлеров. В результате покупатели оформляли заказы, теряли деньги, а их платежные данные попадали к злоумышленникам.
Сервис по выявлению мошенничества Ask Silver сообщил, что в выдаче ChatGPT были обнаружены клонированные сайты, имитирующие магазины брендов Russell & Bromley и Dunelm. Некоторые пользователи переходили по таким ссылкам и считали их официальными, ориентируясь на ответы ИИ с описаниями товаров и «рекомендованными» ценами.
Эксперты называют возможной причиной так называемое «отравление ИИ»: мошенники заранее размещают в сети фейковые страницы, которые затем попадают в обучающие и поисковые данные моделей. Ситуацию усугубляет то, что часть брендов, как отмечается в материале, меняет структуру владения — например, Russell & Bromley была поглощена группой Next, и злоумышленники используют путаницу вокруг официального сайта.
Представители National Trading Standards предупреждают: сам факт рекомендации от ИИ не гарантирует подлинность ресурса. Мошенники быстро адаптируются и используют любые новые каналы для поиска жертв.
В компании OpenAI заявили, что часть выявленных фейковых ссылок была удалена из индекса, однако проблема полностью не решена: пользователи все чаще доверяют ИИ при онлайн-покупках, а значит, риски подобных атак сохраняются.
Источник: hi-tech.mail.ru