Специалисты по кибербезопасности выявили критическую уязвимость в браузере Atlas, который использует технологии ChatGPT для генеративных функций.
Эта уязвимость к инъекционным атакам позволяет потенциальным злоумышленникам тайно похищать пароли, сохраненные пользователем в браузере.
Суть проблемы
Atlas позиционируется как инструмент с функциями ИИ, которые могут обрабатывать содержимое страниц. Однако исследователи обнаружили, что браузер передает слишком много внутренних данных, включая информацию об учетных данных, непосредственно в обработку ChatGPT.
Эта архитектурная ошибка делает Atlas уязвимым к так называемым атакам с манипуляцией ИИ (AI injection). Злоумышленник может внедрить специально сформированный запрос, который заставит большую языковую модель (LLM) — в данном случае ChatGPT — незаметно для пользователя генерировать и отправлять сохраненные пароли на внешний сервер, контролируемый атакующим.
Эксперты отмечают, что обнаруженная проблема является ярким примером рисков, связанных с широким доступом генеративных ИИ к конфиденциальной внутренней информации приложений.
На данный момент традиционные браузеры остаются единственным относительно безопасным выбором для всего, что касается денег, медицинских карт или конфиденциальной информации.
yahoo.com
Павлик Александр
Источник: ru.gecid.com