Компания Perplexity представила Portable Computer — специальную версию своего ИИ-агента, который работает полностью локально. Она была разработана совместно с NVIDIA и предназначена для пользователей, которым необходимо, чтобы их конфиденциальные данные хранились непосредственно на устройстве, а в облако передавались только тогда, когда это необходимо для выполнения задачи. На текущий момент для Portable Computer можно использовать компактный компьютер NVIDIA DGX Spark, но в планах Perplexity сделать ИИ-агента доступным на ПК с графическими ускорителями NVIDIA RTX. Подписывайтесь на Telegram-канал про технологии
Главная особенность Portable Computer заключается в том, что агент может самостоятельно анализировать локальные данные, обрабатывать файлы и выполнять сложные последовательности действий непосредственно на устройстве пользователя. При этом работа локальной модели не расходует кредиты, а пользователь сохраняет контроль над своими данными. При необходимости локальную модель можно перенести в облако для более сложных исследований и рассуждений. Но перед этим необходимо авторизоваться в системе, а перед отправкой данных с компьютера агент будет запрашивать разрешение пользователя.
На NVIDIA DGX Spark Portable Computer работает с моделями Qwen 3.8 27B и PPLX 27B, которые были дополнительно обучены. Позже появится поддержка NVIDIA Nemotron 3.5 Lightning. На самом компьютере локально работают также оркестратор, планировщик, маршрутизатор инструментов, планировщик задач, система очередей для длительных операций и локальный поисковый индекс — то есть значительная часть всей логики агента. Поскольку вычисления осуществляются локально, ИИ-агент выполняет большую часть задач без необходимости рассчитывать каждый запрос по кредитной модели.
Portable Computer поддерживает подключение внешних сервисов через специальные коннекторы. Среди них — Google Drive, Gmail, Slack и GitHub. Например, агент может локально проанализировать новые задачи в GitHub, сопоставить их с отчётами об ошибках из Gmail, определить три наиболее критичных проблемы и подготовить сообщение в Slack с указанием предполагаемых ответственных лиц. У локальной модели есть ограничение — она знает только то, что находится на компьютере. Поэтому для задач, требующих информации из внешнего мира, Portable Computer может использовать Perplexity Search, а также режимы широкого и глубокого исследования. Есть режим диктовки, использующий модель NVIDIA Nemotron 3.5 ASR для распознавания речи. Можно диктовать инструкции агенту во время чтения документов или работы с заметками. Расшифровка и все последующие действия остаются на компьютере.
По словам Perplexity, уровень безопасности Portable Computer соответствует облачной модели. Запуск кода и инструментов происходит в песочницах, которым предоставляется контролируемый доступ к локальным файлам и подключенным приложениям. Portable Computer уже доступен подписчикам Perplexity Pro и Max. Первая версия работает только на Linux, поддержку Windows обещают добавить позже.
Источник: trashbox.ru