Китайская Moonshot AI, разработчик Kimi и одна из самых заметных открытых лабораторий Китая, опубликовала полные веса Kimi K3.1 Pro на Hugging Face 4 ноября. До этого модель с 23 октября работала только через API и приложения Kimi, а сама компания обещала выложить веса «до 4 ноября» и уложилась ровно в срок. Это MoE-модель на 2,8 трлн параметров, из которых на каждый токен активны 104 млрд, с контекстом в 1 млн токенов и вводом текста и изображений.
Что именно лежит в репозитории
Веса выложены сразу в квантованном виде. Модель обучалась с учетом квантования по технологии QAT, поэтому ее веса хранятся в MXFP4, активации считаются в MXFP8. Репозиторий открыт без запроса доступа и занимает около 1,56 ТБ в 96 шардах формата safetensors. Для сравнения, та же модель в BF16 заняла бы около 5,6 ТБ, так что четырехбитный формат здесь условие практической применимости, а не опция.
Что это значит для железа? Восемь B200 по 192 ГБ дают 1,54 ТБ памяти, и веса в один такой узел не помещаются даже без KV-кэша. Если исходить из простой арифметики, минимальный разумный вариант — узел на восьми B300 (около 2,3 ТБ HBM) или два узла H200. Причем на архитектуре Hopper (H100/H200) нет аппаратной поддержки FP4, из-за чего производительность инференса, скорее всего, заметно просядет.
Не стоит забывать, что для миллионного контекста сверху нужен огромный запас под кэш. Таким образом, self-hosting (локальное развертывание) K3.1 Pro по-прежнему остается задачей уровня полноценного кластера, а не одной стойки с ускорителями.
Перед открытым релизом Moonshot вычистила данные, связанные с кибератаками, из mid-training и RL. По ее собственному тесту xdev-bench-hard версия без фильтрации эксплуатировала 90,5% уязвимостей, выпущенная — 81%. Не часто можно увидеть, когда открытая лаборатория публично платит качеством за безопасность, хотя девять пунктов разницы сложно назвать радикальным ослаблением.
Что заявила компания и что подтвердили независимо
Бенчмарк
Kimi K3.1 Pro
Сравнение
Кто измерял
Terminal-Bench 4.0
65,7%
Claude Opus 5.5 — 66,4%, GPT-6 Astra — 58,2%
Moonshot
Terminal-Bench 4.0
63,64%
—
Vals AI
Vals Index
62,52%
DeepSeek V4.1 Flash — 61,26%, Kimi K3 — 52,96%
Vals AI
BenchCAD (с инструментами)
92,7%
Opus 5.5 — 96,2%
Moonshot
Доля галлюцинаций (Hard, с инструментами)
8,3%
GPT-6 Astra — 5,5%, Opus 5.5 — 15,0%
Moonshot
Вендорские цифры взяты из анонса Moonshot, независимые — со страницы модели на Vals AI.
Главный результат подтверждается, на агрегированном Vals Index модель обходит DeepSeek V4.1 Flash и прибавляет почти десять пунктов к K3, а в Terminal-Bench независимый замер лишь на два пункта ниже заявленного. При этом на отдельных отраслевых тестах Vals картина хуже. В юридических и налоговых агентных задачах K3.1 Pro уступает предшественнице, так что модель явно дотачивали под код и агентов, а не под все сразу.
Лицензия
Веса распространяются под собственной лицензией Kimi K3.1 Pro License, а не MIT. По описанию ее текста внутреннее использование, дообучение и производные модели разрешены без ограничений. Для корпоративного self-hosting под свои задачи лицензия фактически свободна.
Меняет ли это выбор модели
Еще неделю назад верхний сегмент открытых весов выглядел как DeepSeek V4.1 Flash и только что открытая Mistral Large 4. Теперь в нем модель, которая по независимому Vals Index стоит чуть выше DeepSeek, а в агентном коде, по заявлениям Moonshot, почти догоняет Claude Opus 5.5.
В очередной раз релизы крупных моделей идут друг за другом, и гонка «кто лучше в бенчмарках» продолжается. Расстояние между лучшей открытой и лучшей закрытой моделью в агентном коде теперь измеряется единицами процентов, а не поколениями.
Как вам Kimi в сравнении с DeepSeek и Mistral? Делитесь в комментариях, чьи открытые веса сейчас выглядят интереснее для бизнеса.
Token Factory: инференс открытых ИИ-моделей на серверах в РФ
Подключайте GLM, DeepSeek, Qwen и Kimi через OpenAI-совместимый API и платите в рублях только за используемые токены.
Подробнее →
Источник: habr.com