Фонд Wikimedia нашел следы ИИ-агентов, которых связывает с OpenAI: они без разрешения правили вики, безуспешно пытались использовать Etherpad как прокси и, вероятно, усугубили майский сбой сервиса Wikidata.
Wikimedia Foundation, фонд который поддерживает «Википедию», рассказал о результатах внутреннего расследования. Специалисты фонда обнаружили на его проектах активность «вышедших из-под контроля» ИИ-агентов. Фонд считает, что ими управляла OpenAI. Об этом написала Селена Декельманн, директор фонда по продуктам и технологиям.
По данным фонда, агенты отправили миллионы автоматических запросов к открытым программным интерфейсам Wikimedia и скачали миллионы страниц, в основном из Wikidata и медиахранилища Wikimedia Commons. Еще несколько сотен тысяч запросов пришлись на сервис запросов Wikidata — инструмент, через который можно делать выборки из базы структурированных данных. В фонде предполагают, что этот поток мог стать одной из причин частичного сбоя сервиса в мае.
Сбой длился с 7 по 11 мая. По данным Silicon, в самый тяжелый момент больше половины запросов к внешнему адресу сервиса не получали ответа, а шесть серверов более 20 часов подряд отдавали устаревшие данные. Фонд не утверждает, что агенты стали единственной причиной сбоя, и называет их трафик возможным фактором.
Агенты не ограничились скачиванием данных. Они вносили правки в вики, хотя сообщество не одобряло их как ботов. Почти все правки оказались тестовыми и попали в «песочницы» — служебные разделы, которые не видят обычные читатели. Но несколько изменений затронули настройки инструмента для оформления ссылок на источники. Фонд называет их потенциально вредоносными: по оценке специалистов, агенты пытались превратить этот инструмент в посредника для загрузки данных с посторонних сайтов. Похожим образом они безуспешно пытались использовать публичный сервис совместных заметок Etherpad. Часть агентов записывала там свои задачи, но признаков их координации между собой фонд не нашел. Взломанных систем и утечек данных расследование тоже не выявило.
Источник: hi-tech.mail.ru