Эксперты обнаружили в И-системе Google Gemini сразу три критические уязвимости, получившие название Gemini Trifecta. Эти лазейки позволяли злоумышленникам похищать личные данные пользователей и отслеживать их активность в реальном времени.
Google быстро устранила выявленные проблемы, но исследователи подчёркивают, что инцидент говорит о рисках, связанных с уязвимостями ИИ, которые могут быть использованы как для атак, так и в качестве инструментов для них.
Первая из уязвимостей, получившая название Gemini Cloud Assist, позволяла злоумышленникам внедрять вредоносные команды через HTTP User-Agent, которые затем отображались в логах. Когда пользователи обращались к системе с просьбой проанализировать эти логи, искусственный интеллект обрабатывал скрытые инструкции.
Вторая проблема касалась системы персонализации поиска, где злоумышленники могли вводить вредоносные запросы в историю браузера, которые ИИ воспринимал как легитимные команды.
Третья уязвимость, считающаяся наиболее опасной, затрагивала браузерный инструмент Gemini. Злоумышленники могли заставить ИИ переходить по вредоносным ссылкам, передавая в параметрах URL пользовательские данные, что приводило к их утечке.
Атаки осуществлялись в два этапа: сначала киберпреступники вводили скрытые команды или вредоносные запросы, а затем незаметно извлекали данные. Исследователи продемонстрировали, что такие действия могут привести к компрометации пользовательских предпочтений, геолокации и другой конфиденциальной информации.
Источник: www.ferra.ru