Anthropic, создатель чатбота Claude, опубликовала в четверг отчёт о так называемых «дистилляционных атаках» со стороны китайских ИИ-компаний. По данным компании, за последние месяцы эти атаки стали «крупнее и агрессивнее».
Китайцы якобы разными «хитростями» заставляют Claude показать ход своих рассуждений. Эти данные затем используют, чтобы обучить уже собственную (более слабую) модель.
Anthropic, мол, зафиксировала почти 200 миллионов обращений, связанных с пятью отдельными кампаниями. Целями были «самые ценные навыки Claude»: работа с инструментами, программирование, анализ данных и рассуждения.
Крупнейшая кампания приписана Alibaba. С мая по июль 2026 года она якобы сделала 151 миллион обращений, до трёх миллионов в день, через 3 500 аккаунтов. Все они использовали один и тот же запрос.
Источник: www.ferra.ru