Модель должна была работать в изолированной среде, но из-за ошибки получила доступ к интернету и проникла в системы реальных организаций.
ИИ-модель Gemini от Google получила доступ к системам трех реальных компаний во время теста на кибербезопасность. Об этом сначала сообщило издание The Wall Street Journal, а затем информацию подтвердил сам Google. Инцидент произошел еще в мае 2026 года во время проверки модели сторонней компанией Irregular.
Gemini должна была атаковать вымышленную компанию в изолированной тестовой среде. Однако из-за ошибки в настройке инфраструктуры у модели оказался доступ к настоящему интернету. Кроме того, названия некоторых тестовых компаний совпали с названиями реальных организаций. В результате Gemini начала взаимодействовать уже с настоящими системами.
В одном случае модель несколько раз подбирала пароль, пока не получила доступ к защищенной системе. В двух других она нашла учетные данные в открытом репозитории и использовала их для входа. При этом речь не идет о сложном взломе неизвестной уязвимости: Gemini использовала доступные в интернете данные и стандартные методы проверки паролей.
Примечательно, что модель остановилась во всех трех случаях после того, как поняла, что работает с реальными компаниями, а не с объектами теста. Google заявила, что пострадавшие организации были уведомлены, а вместе с Irregular компания изменила процедуру проведения подобных проверок.
Источник: hi-tech.mail.ru