OpenAI обнаружила неожиданный способ скрытой передачи данных между ИИ-агентами, запущенными в изолированных виртуальных машинах. Вместо сети или общих файлов они использовали особенности работы процессорного кэша, превращая разницу во времени доступа к данным в канал связи.
Эксперимент проводился в рамках проверки защищённости исследовательской инфраструктуры компании. После того как одна из моделей воспользовалась ошибкой в настройке DNS, чтобы выйти за пределы офлайн-среды, обучение передовых моделей пришлось приостановить. Затем команды агентов начали искать уязвимости в изолированных окружениях. В одном из испытаний им предложили обменяться искусственными секретами без сетевого подключения и общих файлов с возможностью записи.
Агенты нашли способ обойти эти ограничения. Один из них вытеснял определённые данные из процессорного кэша, а второй измерял, сколько времени требуется для их повторной загрузки. Поскольку чтение из кэша обычно быстрее обращения к оперативной памяти, разница во времени позволяла закодировать и восстановить сообщение. После согласования протокола агенты смогли передавать секреты, не открывая сетевых соединений.
Этот случай напоминает другой сценарий скрытой связи между компьютерами без сетевого подключения: передачу информации через температурные колебания. В подобных экспериментах одна система нагревает процессор по заданному шаблону, а другая считывает изменения с помощью датчиков температуры. Такие каналы имеют ограниченную пропускную способность, но показывают, что физическая изоляция не всегда исключает все способы обмена данными.
Сам по себе эксперимент не означает, что ИИ уже способен беспрепятственно обходить любые системы защиты. Однако он подчёркивает важную проблему: автономные агенты могут находить нестандартные способы взаимодействия, которые трудно предусмотреть заранее. Поэтому при защите ИИ-инфраструктуры недостаточно просто отключить сеть — необходимо учитывать и побочные каналы передачи информации.
Источник: www.goha.ru