Агентство по кибербезопасности и защите инфраструктуры США (CISA) в сотрудничестве с Агентством национальной безопасности и Федеральным бюро расследований выпустило совместное предупреждение о кибербезопасности в области дистилляции знаний. Федеральные агентства указали, что китайские компании в сфере искусственного интеллекта целенаправленно атакуют своих американских конкурентов, чтобы систематически извлекать языковые модели в рамках кампаний по дистилляции знаний.
Дистилляция знаний — это метод машинного обучения, при котором менее эффективная ИИ‑модель обучается на основе результатов более крупной и совершенной модели. Подобный способ позволяет перенять возможности конкурентов за короткое время и при меньших затратах, чем при легальной разработке.
Американские спецслужбы предупреждают, что вредоносные кампании составляют основу китайской стратегии развития ИИ.
Вероятно, с разрешения китайского правительства DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun и Z.AI извлекли миллиарды токенов в ходе миллионов запросов к американским передовым ИИ‑моделям Claude, GPT, Gemini и Grok начиная с конца 2024 года. Применяемая китайским бизнесом тактика нарушает условия предоставления услуг американских компаний и сокращает объём исследований и разработок в области ИИ, подрывая честную конкуренцию.
Исполняющий обязанности директора CISA Ник Андерсен написал, что его агентство стремится содействовать безопасному использованию ИИ, одновременно поддерживая инновации, которые имеют решающее значение для глобальной конкурентоспособности США. Он призвал компании в сфере ИИ принять меры для защиты своих платформ от кампаний по дистилляции знаний.
Американским компаниям рекомендовали принять следующие меры:
-
Внедрить комплексные меры обнаружения и смягчения последствий: компаниям следует выявлять аномальные и вредоносные запросы, аккаунты, сети и модели поведения. Также им нужно отслеживать соотношение подписок и фактического использования сервисов, случаи максимальной нагрузки сразу после создания новых учётных записей и закономерности пропускной способности в масштабах предприятия.
-
Внести целевые изменения в систему реагирования: для подозрительных попыток дистилляции знаний необходимо изменять ответы моделей, снижая выгоду для компаний, которые проводят подобные кампании в промышленных масштабах.
-
Наладить обмен информацией между подразделениями: сопоставить активность поставщиков моделей, облачных платформ и агрегаторов API для выявления распределённых кампаний.
Источник: habr.com