В последнее время идея автономных ИИ-агентов, работающих локально (то есть без необходимости подключаться к облачным вычислительным мощностям) на десктопных система, обсуждается очень активно — и платформа Open Claw позволила существенно продвинуться в этом направлении. Но, как оказалось, запустить большую языковую модель непосредственно на устройстве можно не только на десктопе — проект PhoneClaw от пользователя под ником kellyvv является тому наглядным примером. Энтузиаст выпустил систему, которая позволяет локально запускать LLM Gemma 4 от компании Google на iPhone для выполнения агентских задач. Изображение: скриншот из видео kellyvv на GitHub
Разработчик проекта заявил, что в процессе создания PhoneClaw он сделал ставку на конфиденциальность и защиту пользовательской информации. Соответственно, все вычисления, обработка данных и вызов навыков выполняются локально на устройстве без передачи данных в сеть — приложение по умолчанию не создаёт никаких сетевых соединений и полноценно работает в режиме полёта. Кроме того, автор проекта заявил, что содержимое чатов пользователей, изображения в галерее и другие персональные данные никогда не покидают пределы устройства и не загружаются на внешние серверы. Это крайне важный момент, так как ИИ получает доступ к огромному пласту личной информации на смартфоне. Изображение: скриншот из видео kellyvv на GitHub
Также разработчик сделал акцент на модульную систему навыков, которую пользователь может гибко настраивать под свои задачи. Каждая функция PhoneClaw определяется в отдельном файле SKILL.md — это позволяет гораздо проще и быстрее расширять набор функций ИИ-агента, так как пользователи могут самостоятельно добавлять или изменять его возможности. Например, есть модуль, отвечающий за мультимодальное понимание изображений — система способна распознавать контент, интерпретировать диаграммы или описывать сцены. Ещё есть модуль для создания событий в календаре и напоминаний.
Правда, системные требования у проекта PhoneClaw довольно высокие — потянуть локальный запуск LLM сможет далеко не каждый iPhone. Например, для запуска модели Gemma 4 E2B весом 3,58 ГБ требуется процессор A16 Bionic или новее, то есть нужен iPhone 14 Pro и выше. А модель Gemma 4 E4B занимает 5,22 ГБ пространства — для её запуска рекомендуется использовать iPhone 15 Pro или новее. Кроме того, для установки проекта на смартфон нужен компьютер на macOS с Xcode 16, а на самом iPhone нужно иметь операционную систему iOS 17 и новее.
Источник: trashbox.ru