PromptArmor обнаружила критическую уязвимость в системе ИИ Slack. Дефект связан с «инъекцией запросов» — техникой, позволяющей злоумышленникам манипулировать ответами ИИ для утечки конфиденциальной информации из приватных каналов.
ИИ Slack, предоставляющий инструменты для обобщения разговоров и поиска информации, оказался подвержен атакам типа «prompt injection». Эта уязвимость позволяет злоумышленникам получать доступ к данным из приватных каналов, создавая специальные запросы, которые обманывают ИИ и заставляют его сливать информацию. PromptArmor продемонстрировал, что злоумышленники могут вставлять вредоносные запросы в публичные каналы, которые ИИ затем использует для получения конфиденциальных данных, таких как ключи API.
Дефект был усугублен недавним обновлением Slack, которое включает файлы из каналов и прямых сообщений в ответы ИИ. Это дополнение увеличивает риск, так как злоумышленники могут использовать эту функцию для извлечения конфиденциальных документов. PromptArmor порекомендовала администраторам рабочих пространств Slack ограничить доступ ИИ к документам до тех пор, пока не будет найдено исправление.
Источник: www.ferra.ru
