Cloudflare объявила о разработке защитных продуктов с функциями искусственного интеллекта для защиты больших языковых моделей и компаний от атак.
Брандмауэр для ИИ предоставит компаниям уровень защиты для больших языковых моделей с целью выявления потенциальных атак до того, как они смогут нарушить критически важные функции или открыть доступ к конфиденциальным данным.
Компания также анонсировала набор новых инструментов кибербезопасности Defensive AI, которые используют ИИ для борьбы с возникающими угрозами. К ним относятся обнаружение аномалий в поведении пользователей и сканирование электронной почты для выявления подозрительных сообщений.
Новый брандмауэр для ИИ предоставит командам безопасности возможность быстро обнаруживать угрозы, поскольку его можно будет развернуть с любыми моделями, работающими на существующем предложении Cloudflare Workers AI.
Брандмауэр сможет сканировать запросы, отправленные пользователями, для выявления попыток использования модели и извлечения данных. Он будет автоматически блокировать угрозы по мере их возникновения без необходимости вмешательства человека.
Cloudflare расширила предложение по обучению моделей ИИ на основе конкретных моделей трафика для клиентов, чтобы адаптировать стратегию защиты на основе базового поведения сети и среды компании.
Источник: habr.com
Похожие новости:
«Cложный игрок, вероятно, государство»: Cloudflare рассказала о недавнем взломе
ИИ против ИИ: Cloudflare анонсировала ИИ-сервисы для защиты LLM и противодействия атакам с использованием генеративного ИИ
ТОП-5 ИБ-событий недели по версии Jet CSIRT
Обзор IT-Weekly: Индия откусывает куски рынка электроники у Китая, ВТБ переводит сотрудников на отечественную ОС