Anthropic раскрыла детали масштабной мошеннической сети (проект получил кодовое имя GTG-15001) из дейтинг‑приложений, построенной на базе нескольких ИИ-систем. Студия из Китая развернула более 20 мобильных приложений для знакомств, где 75% всех «мэтчей» создавались не людьми, а ИИ‑персонажами, работающими на базе Claude.
«Разработчики этой сети использовали Claude для масштабирования деятельности, поддерживая непрерывное общение от лица тысяч различных персонажей. Реальные люди и модели других провайдеров обеспечивали выполнение узкоспециализированных задач: трансляцию живого видео, реальные ответные действия, быстрые подсказки для отправки сообщений в одно касание (с функцией автодополнения) и обработку изображений», — пояснили в Anthropic.
Фактически это был гибридный людской и ИИ-конвейер из нескольких компонентов и слоёв управления. Например, за две недели апреля 2026 года в рамках развития этого проекта только Claude сгенерировал более 4,7 тыс. уникальных женских персонажей и создал около 2,36 млн сообщений как минимум с 25 тыс. пользователями. Один ИИ‑профиль в среднем общался с пятью разными пользователями. Промпты в проекте запрещали ИИ-персонажам признаваться в том, что они автоматизированы. Также ИИ нужно было всегда уклоняться от любых просьб с предоставлением видео или фото.
Для наполнения живым контентом в проекте были задействованы фрилансеры, которые составляли около четверти профилей. Эти реальные люди также по указанию организаторов проходили нужные проверки на «подлинность» у обычных пользователей в приложениях GTG-15001, которые ИИ не может имитировать. Например, если нужно было организовать живой видеозвонок с пользователем и оставить реальный отзыв в соцсетях.
Причём фрилансеры не выполняли все задания самостоятельно. Дополнительные ИИ-модели подсказывали людям три варианта нужных ответов на выбор, отдельно занимались оценкой привлекательности фотографий, а также генерировали привлекательные аватары для поддельных персонажей.
Проект после активного развития с помощью ИИ перешёл на монетизацию через внутренние кредиты, которые настоящие пользователи покупали за реальные деньги. Работникам-фрилансерам в этом мошенничестве платили за каждое сообщение, видеозвонок и подписку в соцсетях.
Примечательно, что команда разработчиков этого проекта готовилась к проверкам от магазинов разных платформ. В мобильных приложениях проекта был секретный режим, который активировался только во время ревью в App Store или Play Store, а после одобрения отключался. Также встроенный браузер для платежей в приложениях перенаправлял средства сторонним процессингам. Например, эту функцию разработчики удалённо отключали на время проверки в магазинах приложений.
В Anthropic заявили что подобная масштабная схема получилось очень экономичной для разработчиков, которым не нужно было нанимать сотню операторов, так как Claude поддерживал тысячи диалогов одновременно. Фактически в этом проекте настоящие люди подключались только для верификации и заверения настоящих пользователей с деньгами, что этот проект реальный. Такой способ развития проекта позволил снизить маржинальную стоимость каждого нового поддельного персонажа и позволил масштабировать проект до десятков тысяч пользователей без необходимости увеличения команд для поддержки приложений.
В итоге Anthropic заблокировала аккаунты китайской студии и зафиксировала данные по инфраструктуре организаторов. В американской компании передали индикаторы проекта для принятия оперативных мер напрямую в Apple, а Google и в другие ИИ‑компании, чьи модели дополнительно использовались в схеме обмана. Среди некоторых наименований из этого проекта фигурируют такие: DORA, DONI, ROMI, LUMA, JOVIA, KIRA, GRACECHAT, HAVEN, NALO, LOVIA.
Источник: habr.com