NVIDIA представила Nemotron 3.5 Super VL — модель с открытыми весами на 120 млрд параметров, из которых 12 млрд активируются при обработке каждого токена. Она работает с текстом, изображениями и видео, умеет рассуждать и вызывать инструменты. Основной сценарий — агенты, которые выполняют многошаговые задачи без постоянного участия человека.
В зрительной части модель ориентирована на работу с документами: распознавание текста, таблиц, графиков, веб-страниц и PDF. Она также обрабатывает видео длительностью до двух минут. Это может пригодиться для извлечения данных из отчётов, анализа экранных записей и автоматизации процессов, в которых нужно одновременно учитывать текстовую и визуальную информацию.
Гибрид Mamba-2 и Transformer
В основе Nemotron 3.5 Super VL лежит гибридная архитектура Mamba-2 и Transformer со смесью MoE. NVIDIA также использует спекулятивное декодирование для ускорения генерации.
Компания опубликовала и сжатую версию — Nemotron 3.5 Bolt 74B-A9B. В ней 74 млрд параметров, из которых активны 9 млрд. NVIDIA рассчитала эту версию на запуск в пределах 24 ГБ памяти, в частности на системах RTX и DGX Spark. Для полноценной Super VL требования существенно выше: четыре H100 или две GB200.
Что показывают тесты
В опубликованных NVIDIA результатах Super VL набрала 89,5 балла на GPQA Diamond против 86,7 у Qwen3.5-122B-A10B. Но на SWE-bench Verified, который проверяет решение реальных задач из репозиториев GitHub, результаты почти одинаковые: 71,1 против 71,9.
На Terminal-Bench 2.1 модель получила 60,7 балла. Для сравнения, у Qwen3.8-Flash-Next результат составляет 85,8, у GLM-5.3-Flash — 82,7.
Nemotron 3.5 Super VL и Bolt доступны с открытыми весами. NVIDIA также опубликовала технические отчёты и материалы для развёртывания.
Источник: habr.com