夜雨聆风学习资料网

ARTICLE · 1314883

2.8万亿参数免费下载,但你大概率用不了—

2.8万亿参数免费下载,但你大概率用不了—

2.8万亿参数免费下载,但你大概率用不了—

11月4日,月之暗面把Kimi K3.1 Pro的完整推理权重放到了Hugging Face上。

仓库名 moonshotai/Kimi-K3.1-Pro。2.8万亿参数、100万Token上下文,是目前最大的开放权重模型之一。许可证基本是MIT,能免费改、商用;年营收过2000万美元做API,或产品月活过1亿,才要另签协议。

但先别急着点下载——大概率你也跑不动。

权重就有1.56TB,运行时还得加KV缓存,单机显存至少2TB左右。8卡H100合计640GB,放不下;8卡H200约1.1TB,还是放不下。官方验证过的配置全是企业级硬件:8卡B300、GB300、AMD MI355X。说白了,这“免费下载”的门槛,从一台8卡B300服务器起步,月租金远超大多数团队的API账单。

到底该不该自己部署?

每月几千个任务、用量有波峰波谷,直接调API。按Kimi开放平台定价,一个中等编程Agent任务约26元,每月1000个也就2.6万。只有金融、政务、核心代码这种数据不能出域的硬要求,自部署才是唯一选项。已有Blackwell集群、能长期高并发跑满的,单位成本可能更低。

评测分数先打个问号——65.7、92.1这些数字都来自月之暗面自家发布的模型卡,目前还没第三方独立复测。Hugging Face上月下载量只有797,大多数人还是选了API或网页版。

对普通用户,它改变不了使用方式。先想清楚自己属于哪一层,再决定是下载、调API,还是继续用网页版。

原文2.8万亿参数免费下载,但你大概率用不了——Kimi-K3.1-Pro开源权重到底意味着什么
广东,1分钟前,

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料