Liquid AI выпустила LFM2.5-2.6B — компактную агентную модель, которая умеет планировать действия, вызывать инструменты и выполнять многошаговые задачи полностью на устройстве, без облачного API. Компания позиционирует модель как решение для edge-сценариев: от смартфонов и ноутбуков до локальных рабочих станций, где важны приватность, низкая задержка и умеренное потребление памяти.
Модель получила 2,6 млрд параметров, контекстное окно 128K и расширенный словарь на 128 тысяч токенов. По словам Liquid AI, ее обучали примерно на 34 трлн токенов, а затем дорабатывали через цепочку специализированных экспертов: отдельно усиливали математику, код, работу с инструментами и длинный контекст, после чего знания переносили в единую модель с помощью on-policy distillation. Финальный этап обучения проходил в реальных агентных средах, включая Hermes Agent и OpenClaw.
Компания отдельно подчеркивает, что LFM2.5-2.6B работает быстро именно на локальном железе. В официальных тестах Liquid AI модель показала до 220 токенов в секунду на Apple M5 Max, до 113 токенов в секунду на Ryzen AI Max+ 395 и около 30 токенов в секунду на смартфоне, оставаясь при этом ниже 2,5 ГБ по памяти на CPU. На одной NVIDIA H100 при высокой параллельной нагрузке модель, по данным компании, выдает почти 15 тысяч выходных токенов в секунду.
В бенчмарках Liquid AI заявляет, что LFM2.5-2.6B обходит более крупные Gemma и Qwen в ряде задач на следование инструкциям и использование инструментов, хотя в сложном программировании большие модели по-прежнему сохраняют преимущество. Компания не позиционирует релиз как «самую умную» модель в абсолютном смысле — ставка сделана именно на баланс локальной скорости, агентности и компактности.
LFM2.5-2.6B уже поддерживается в популярных open-source стэках, включая llama.cpp, MLX, vLLM, SGLang и ONNX. Веса доступны на Hugging Face, а также предлагаются базовая и дообученная open-weight версии. На сайте Liquid AI модель представлена как часть семейства LFM2.5, ориентированного на on-device deployment.
Релиз интересен скорее из-за самого формата: агентная модель, которая может жить на телефоне и выполнять длинные цепочки действий без облака, постепенно перестает быть лабораторной демонстрацией.
Источник: habr.com