Исследователи Check Point обнаружили уязвимость в ChatGPT, которая позволяла кому-либо незаметно получать данные из подключённых сервисов пользователя ИИ, включая Gmail.
Проблема была связана с изолированными средами, где ChatGPT запускает код и выполняет отдельные задачи.
Такие среды разных аккаунтов должны быть полностью отделены друг от друга, но они могли обращаться к одному внутреннему сервису JFrog Artifactory, который используется для загрузки программных компонентов. Его настройки позволяли одной среде записывать данные, а другой читать их. Фактически сервис превращался в общий скрытый канал связи между аккаунтами, пишут исследователи.
Исследователи показали, как злоумышленник мог бы передать через этот канал команду вроде «получи список моих писем».
Check Point сообщил об уязвимости OpenAI. Компания отключила уязвимый сервис.
Источник: www.ferra.ru