ARTICLE · 1314873

2.8万亿参数免费下载,但你大概率用不了——Kimi-K3.1-Pro开源权重到底意味着什么

发布时间：2026-11-05 18:07:00 最近访问：2026-11-05 18:07:00

11月4日，月之暗面把Kimi K3.1 Pro的完整模型权重放到了Hugging Face上，仓库名 moonshotai/Kimi-K3.1-Pro。总参数2.8万亿，激活参数1040亿，支持100万Token上下文——这几个数字放在一起，让它成为目前最大的开放权重AI模型之一。但先别急着点下载，因为大概率你也跑不动。

开放了什么

这次开放的是K3.1 Pro标准版的完整推理权重，不含Highspeed高速版。权重采用MXFP4格式（量化感知训练，不是事后压缩），112个文件合计约1.56TB。仓库里有权重文件、模型配置代码、分词器和视觉处理器，支持文本和图片输入。许可证主体是MIT，可以免费用、改、分发、微调、商用，但加了两条限制：做模型API服务且年营收超2000万美元的公司需另签协议；月活超1亿或月收入超2000万美元的产品需标注"Kimi K3.1-Pro"。对99%的开发者和中小团队，等同于MIT。

vLLM团队在发布当天就实现了部署支持，华为昇腾也同步完成了适配。同步上架了魔搭社区（ModelScope），国内网络下载可以走这边。

硬件门槛有多高

权重就有1.56TB，加上运行时的KV缓存，单机显存至少需要2TB左右。官方vLLM部署方案的最低配置是8卡B300或GB300（单卡288GB显存），或者AMD MI355X。具体来说：

8卡H100合计640GB——放不下。8卡H200约1.1TB——还是放不下。消费级4090、5090和单台Mac更不用想。Hopper架构（H100/H200）没有原生FP4计算单元，就算多机拼起来也拿不到Blackwell上的效率。

vLLM Recipes给出的已验证配置只有四种：两个GB300托盘（8卡）、一台8卡B300、一台8卡MI355X、以及平头哥真武PPU方案。全部是企业级硬件，全部需要张量并行。

换句话说，这个"免费下载"的模型，运行成本从一台8卡B300服务器起步——这东西的月租金，远超大多数团队的API账单。

示意图：左侧代表按需使用云端 API，右侧代表自建企业级 GPU 集群。图片由 AI 生成，不代表具体硬件品牌。

到底该不该自己部署

API这边，按Kimi开放平台定价：未命中缓存输入每百万Token 13元，命中缓存1.3元，输出68元。以一个中等编程Agent任务（约445万Token，95%输入，输入90%命中缓存）计算，单任务合计约26元，每月1000个任务约2.6万元。

自部署这边，成本是固定的：一台8卡B300服务器的租金或折旧，加上2TB级存储、机房电力和运维人力。它不随调用量变化，但前提是你能把这台机器喂满。官方测试里，单台8卡B300处理一个34万Token的长提示，预填充就要约10秒。

判断标准很简单：

每月任务量在几千个以内、用量有波峰波谷：调API。
有数据不能出域的硬要求（金融、政务、核心代码）：自部署是唯一选项。
已有Blackwell集群、能长期高并发跑满：自部署单位成本可能更低。
只是想试试效果：直接用API或网页版，Kimi网页版、Kimi Code和API里都已经能调用同一个模型。

评测分数怎么看

模型卡自带了评测表格：Terminal-Bench 4.0得65.7分（Claude Opus 5.5为66.4分，两者接近），BrowseComp 92.1分，GPQA-Diamond 94.2分。这些分数都来自月之暗面自家发布的模型卡，目前还没有第三方机构用下载到的权重独立复测的结果。可以作为参考，但不能直接当成实际使用效果。

Hugging Face页面显示，截至11月5日，上月下载量只有797。这个数字说明，真正下载并尝试部署的人非常少——大多数人选择了API或者网页版。