Исследователь Шриву Шанкар провел эксперимент, в рамках которого запустил около сотни ИИ-агентов, поставив перед ними задачу взлома. За пять часов они смогли взломать пять онлайн-аккаунтов одного человека. Для этого они использовали уязвимости в старых проектах и подбирали пароли. Эксперимент показал, что даже относительно простые модели уже способны находить слабые места в цифровой безопасности без подробных инструкций и специальных знаний о цели. Подписывайтесь на Telegram-канал про технологии
Для проверки возможностей ИИ Шриву Шанкар запустил три открытые модели на собственных серверах. Все они прошли так называемую аблитерацию, при которой из модели удаляют часть механизмов отказа от выполнения запросов. Затем к ним подключили около сотни агентов, работавших в отдельных контейнерах с доступом к браузеру и инструментам разработки. Общая стоимость пятичасового эксперимента составила около 210 долларов.
Трижды агенты получали доступ к старым проектам исследователя, воспользовавшись ошибками в управлении доступом и учётными данными. Речь шла о небольших приложениях, созданных для личных экспериментов и хакатонов. При этом модели самостоятельно изучали опубликованные проекты, проверяли поддомены сайта и искали уязвимости, а не просто выполняли заранее составленный список проверок.
Ещё два аккаунта удалось взломать с помощью подбора паролей. Агенты собирали адреса электронной почты и другие идентификаторы, проверяли их по базам утечек и использовали найденные данные для дальнейшего поиска. В одном случае сработал пароль, который лишь немного отличался от ранее скомпрометированного. Кроме того, исследователь получил больше десяти уведомлений о попытках сброса пароля.
Отдельным результатом стал сбор личной информации. С помощью открытых поисковых сервисов и профилей знакомых агенты смогли установить домашний адрес, номер телефона и некоторые связи исследователя. Данные сверялись по нескольким источникам, поскольку отдельные сайты содержали неточности.
В 16 случаях агенты пытались использовать социальную инженерию. Они отправляли сообщения, предлагали встречи и оставляли комментарии со ссылками на поддельную страницу Substack. Большинство таких попыток выглядело подозрительно, а тексты напоминали типичные ответы нейросетей.
При этом модели не нашли уязвимостей нулевого дня в стороннем программном обеспечении и не смогли получить доступ к самым важным аккаунтам, включая Gmail, 1Password и банковские сервисы. По оценке исследователя, пока такие агенты уступают опытным специалистам, но их возможности быстро растут.
Главная опасность заключается в доступности подобных инструментов. Даже человек без серьёзных навыков может запустить множество агентов, которые будут искать слабые места в аккаунтах и опубликованных проектах. По мере удешевления вычислений такие атаки могут стать значительно дешевле и распространённее.
Источник: trashbox.ru