Исследователи безопасности из компании Radware выявили серьёзную уязвимость в Deep Research Mode ChatGPT, которая позволяет злоумышленникам тайно получать доступ к личной переписке Gmail пользователей. Уязвимость получила название ShadowLeak и представляет собой новый тип атак, использующих скрытые инструкции в электронных письмах для манипуляции AI.
Суть атаки проста и вместе с тем опасна. Злоумышленник отправляет жертве письмо, в котором скрыты инструкции — например, белый текст на белом фоне или минимальный шрифт, практически невидимый глазу. Когда пользователь запускает Deep Research, агент ChatGPT обрабатывает письмо и может извлечь конфиденциальные данные из других писем или документов пользователя, после чего отправляет их на внешний сервер злоумышленника. Всё это происходит на серверной стороне, оставаясь незамеченным для пользователя и обходя локальные средства защиты.
Скрытый HTML-код в электронном письме обманом заставляет агента Deep Research от ChatGPT отправлять личные данные на внешний сервер. | Изображение: Radware
Уязвимость была обнаружена ещё в июне 2025 года и вскоре исправлена OpenAI. Однако исследователи отмечают, что компания долго не уведомляла их напрямую о патче, и только в начале сентября официально подтвердила устранение проблемы. Несмотря на исправление, эксперты предупреждают, что потенциальные атаки могли использовать не только Gmail, но и другие сервисы, обрабатываемые агентами ChatGPT, включая Google Drive, Outlook, Teams и GitHub. В этих системах скрытые инструкции в документах, приглашениях на встречи или чатах также могут стать инструментом ShadowLeak.
Специалисты по кибербезопасности настоятельно рекомендуют ограничивать доступ ChatGPT к личным данным, отключать автоматический доступ к почтовым ящикам и регулярно проверять настройки безопасности. Эта уязвимость подчёркивает, что даже самые современные AI-системы могут стать инструментом для новых видов атак, если не учитывать все сценарии взаимодействия с пользователем и внешними данными.
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 100 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!
Источник
Источник: habr.com