ru.freepik.com
Специалисты из Аналитического центра кибербезопасности поделились своей экспертизой и мнением об инфраструктурных векторах атак на LLM. В частности, эксперт «Газинформсервиса» подняла вопрос использования watermark для защиты LLM: «Сегодня цифровые водяные знаки, как правило, используются для защиты авторских прав, селективной и точной аутентификации, для контроля целостности файлов, однако стоит рассмотреть возможность использования watermark от кражи модели LLM из инфраструктуры или кражи данных модели через API или чат-бота», – говорит Ксения Ахрамеева, ведущий инженер-аналитик компании «Газинформсервис».
«Поведенческая аналитика, основанная на машинном обучении, уже успешно используется в продуктах, направленных на обнаружение и расследование киберинцидентов, хороший пример – это в Ankey ASAP. Так как, сегодня важно не только создать продукт для защиты от киберинцидентов, но и защитить его от возможных кибератак». Также на мероприятии представители «Газинформсервиса» и других крупных интеграторов и вендоров в ИБ обсудили возможные направления в развитии атак на решения, основанные на машинном обучении. «Главная цель мероприятия – найти решение для надежной защиты продуктов СЗИ, а значит и IT-инфраструктуры любой компании», – подытожила Ксения.
Источник: www.it-world.ru
Похожие новости:
Обзор IT-Weekly: GigaChat сдал экзамен на врача, Nvidia приближается по уровню капитализации к Amazon
Обзор изменений в законодательстве за март 2024 года
BI.ZONE представила ИБ‑исследование Threat Zone 2024, посвящённое российскому ландшафту киберугроз и хаккластеров
Обзор IT-Weekly: Государство кратно повышает финансирование российской микроэлектроники, Dr.Web Industrial — продукт для защиты предприятий