ИИ-агенты OpenAI, по данным исследователя Роуэна Ховарда-Джонса, более 16 000 раз обращались к сайту статистики Конференции ООН по торговле и развитию (ЮНКТАД) в период с апреля по июнь. Порой, используя сомнительные методы.
Предположительно, агенты должны были получить открытые данные об Индексе производственных возможностей (PCI) через программный интерфейс UNCTADstat. Однако прямого доступа к этому интерфейсу у них, похоже, не было, а используемые инструменты для работы с сайтами «имели ограничения».
Агенты всё-таки нашли способ обойти эти ограничения и начали получать данные непосредственно с сайта, но «столкнулись с ошибками», пишет эксперт. По словам исследователя, система решила, что её запросы блокирует «несуществующий фильтр», и начала менять своё поведение, чтобы «скрыть характер обращений».
В итоге агенты обнаружили возможность использовать обучающий инструмент Google XSS Game, посвящённый уязвимостям сайтов, чтобы продолжить выполнение задачи. По мере развития ситуации они применяли «всё более активные способы получения данных с сайта ООН».
Источник: www.ferra.ru