Исследователи из Технологического института Джорджии создали инструмент ORISA. Он находит в памяти Android-смартфона следы удаленных переписок с локальным ИИ-ассистентом и собирает из них рабочий сеанс.
Удаление переписки с ИИ-ассистентом на смартфоне не гарантирует, что от нее ничего не останется. Исследователи из Технологического института Джорджии рассказали о криминалистическом инструменте ORISA. Он восстанавливает стертые диалоги с нейросетями, которые работают прямо на Android-устройстве, и превращает найденные данные в работающую сессию с ассистентом.
Речь идет о локальных ИИ-ассистентах. Такие модели обрабатывают запросы на самом телефоне и не отправляют переписку на серверы в облако, поэтому их часто считают более приватными. Однако пока ассистент запущен, фрагменты разговора хранятся в оперативной памяти устройства. Как показало исследование, они могут оставаться там и после того, как пользователь удалил чат. ORISA ищет эти фрагменты в памяти, собирает их и загружает обратно в модель.
Работу инструмента проверили на вымышленном ассистенте Project Note Keeper. Его собрали в ChatterUI — открытом Android-приложении для запуска ИИ-моделей на смартфоне. Ассистенту сообщили 100 выдуманных фактов о некоем проекте, после чего переписку удалили. ORISA извлек из памяти остатки диалога и воссоздал из них рабочую сессию. На просьбу перечислить заметки о проекте восстановленный ассистент назвал 26 фактов.
Это больше, чем помнил исходный ассистент до удаления чата. Тот мог обратиться только к 14 фактам: разговор превысил объем, который модель способна удерживать в памяти, и остальное она потеряла. Всего исследователи протестировали ORISA на десяти Android-приложениях с тремя ИИ-моделями в 60 разных конфигурациях. Во всех случаях инструмент находил сохранившиеся в памяти данные переписки.
Источник: hi-tech.mail.ru