Модель искусственного интеллекта (ИИ) Gemini от Google во время проверки кибербезопасности получила доступ к защищенным системам трех компаний. Инциденты произошли в мае в рамках тестирования, которое проводила независимая компания Irregular. По данным Google, это первый известный случай, когда ИИ компании самостоятельно совершил подобные действия.
Во время испытаний Gemini искал открытую информацию в интернете и подбирал учетные данные. В одном случае модель перебирала пароли, пока не получила доступ к защищенной системе. В двух других она обнаружила данные для входа в публичном репозитории.
После получения доступа Gemini прекратил действия во всех трех случаях. Google сообщил затронутым компаниям об инцидентах. Irregular заявила, что связанные с тестированием проблемы были устранены.
Источник: www.ferra.ru