Moonshot открыла веса Kimi K3.1 Pro, репозиторий весит 1,56 ТБ

Moonshot AI 4 ноября 2026 года выложила в публичный репозиторий на Hugging Face открытые веса модели Kimi K3.1 Pro. По замерам самой компании, модель отстаёт от Claude Opus 5.5 в Terminal-Bench 4.0 всего на 0,7 процентного пункта (65,7% против 66,4%). Теперь её можно скачать, дообучить и запустить на собственных серверах без обращения к API Moonshot.

Доступ к репозиторию открыт без одобрения, а лицензия разрешает коммерческое использование и дообучение. Модель при этом серверная: репозиторий весит 1,56 ТБ, а официальные рецепты рассчитаны на узлы с восемью ускорителями NVIDIA B300 или AMD MI355X.

Архитектура относительно Kimi K3

Kimi K3.1 Pro вышла 23 октября 2026 года в API и приложениях Moonshot, а веса компания обещала опубликовать до 4 ноября. Репозиторий создан 2 ноября, публикация объявлена 4 ноября в 19:00 по Москве. По карточке модели это дообученная версия Kimi K3 с существенно большим объёмом обучения с подкреплением, а не новая базовая модель.

• Смесь экспертов на 2,8 трлн параметров, на каждый токен активны 104 млрд.
• 93 слоя, из них один плотный; 896 экспертов, на токен выбираются 16 плюс два общих.
• Контекст 1 048 576 токенов, вход текст и изображения, энкодер MoonViT-V2 на 401 млн параметров.

В K3 часть слоёв использовала линейное внимание KDA, часть полное Gated MLA. В K3.1 Pro 24 слоя полного внимания заменены разреженным Gated DSA по образцу DeepSeek: индексер выбирает для каждого запроса 2048 релевантных токенов. Пользователь Hacker News blackcat201 считает эту замену недооценённой частью выпуска, но это его оценка, а не проверенный результат.

Веса выложены в формате MXFP4: 4-битные числа с общим масштабом на группу из 32 значений. В эту схему сжаты маршрутизируемые эксперты, а внимание, общие эксперты, плотный слой и энкодер изображений остались в более высокой точности. Модель обучали с учётом квантования, отдельного чекпоинта в BF16 в репозитории нет.

Железо для запуска

Репозиторий содержит 112 файлов, из них 96 safetensors общим объёмом 1 561 293 160 568 байт. Для сравнения: Kimi K3 в том же формате весит 1,56 ТБ, Mistral Large 4 в FP8 1,06 ТБ, GLM-5.3 756 ГБ, DeepSeek V4.1 Flash 510 ГБ.

Базовая конфигурация рецепта vLLM — одна группа тензорного параллелизма на 8 GPU: две полки GB300 NVL4, один узел с восемью B300 или один узел с восемью MI355X. Нужен vLLM 0.34.0 или новее. Раскладки для 16 H200 и 32 H100 в SGLang пока не проверены.

По замеру рецепта vLLM на восьми B300, режим DCP8 вмещает около 18,5 млн токенов суммарно по всем запросам при FP8-кеше, против 2,6 млн при обычном TP8. Декодирование при этом замедляется на 7–25%.

В обсуждении на Hacker News (600 очков и 172 комментария на 5 ноября) пользователь __jf__ написал: «Жаль, что для запуска, скорее всего, нужно что-то вроде узла с восемью B300». Официальный API стоит $2 за миллион входных токенов, $10 за миллион выходных и $0,20 за миллион токенов из кеша.

Бенчмарки Moonshot и независимые замеры

Таблицу в карточке опубликовала сама Moonshot: она смешивает собственные замеры с цифрами конкурентов из их отчётов и публичных лидербордов. В Terminal-Bench 4.0 модель набрала 65,7% против 66,4% у Claude Opus 5.5 и 58,2% у GPT-6 Astra. В SWE Marathon v1.1 — 51,7% против 46,3% у Opus 5.5. В Program Bench, напротив, 31,5 против 65,0 у Opus 5.5.

Artificial Analysis 23 октября поставила K3.1 Pro на четвёртое место своего Intelligence Index (тогдашней версии) с 55 баллами. 27 октября индекс перешёл на версию 5 с новыми закрытыми тестами. На 5 ноября модель набирает 46 баллов и занимает 22-е место из 69. Через API она медленная: 36 минут на задачу индекса против медианных 12,5 минуты у моделей сопоставимой цены.

Дэниел Маккиннон, исследователь из Gamow Labs, проверил модель через API до выхода весов на собственном тесте RareBench и получил 38%, как у GPT-6 Astra. Он пишет, что это примерно четверть цены закрытых флагманов. Саймон Уиллисон, автор блога об LLM, 23 октября написал: «Впервые модель с открытыми (в скором времени) весами показала настолько высокий результат в сравнении с передовыми моделями».

Лицензия и порог в $20 млн

Лицензия начинается в духе MIT: использовать, изменять, продавать и дообучать модель можно при сохранении уведомления об авторских правах. Есть три условия.

• Компания, которая продаёт доступ к инференсу или дообучению модели третьим лицам, при совокупной выручке группы больше $20 млн за любые 12 месяцев подряд должна заключить отдельный договор с Moonshot.
• Продукт с более чем 100 млн активных пользователей в месяц или больше $20 млн месячной выручки должен указывать в интерфейсе название «Kimi K3.1-Pro».
• Оба требования не действуют при внутреннем использовании и при доступе через официальные продукты Moonshot и сертифицированных партнёров.

Лицензия не уточняет, как считается выручка группы компаний, и не касается экспортного контроля. Проект китайского каталога технологий, ограниченных к экспорту, обсуждается до 15 ноября, и его влияние на публикацию весов пока неясно.

Что делать разработчику

• Если есть узел с восемью B300, MI355X или две полки GB300, берите рецепт vLLM 0.34.0 или новее либо образ SGLang dev-kimi-k31-pro. Под веса нужно минимум 1,56 ТБ на диске и не меньше трёх с половиной часов загрузки даже при стабильном гигабитном канале.
• Официальный API на platform.kimi.ai совместим с форматами OpenAI и Anthropic. Модель называется kimi-k3.1-pro, глубина рассуждения задаётся полем reasoning_effort со значениями low, high и max.
• Для продажи доступа к модели стоит сверить выручку с порогом $20 млн за 12 месяцев и прочитать лицензию целиком до запуска.

Независимых прогонов опубликованного чекпоинта пока нет: значительная часть результатов в карточке получена самой Moonshot, а Artificial Analysis тестировала модель через API. Дальнейшие сигналы — появление модели в лидербордах с пометкой «открытые веса», первые квантованные сборки сообщества и проверка эффективности разреженного внимания на длинном контексте.