夜雨聆风学习资料网

ARTICLE · 1392906

770B 开源了:Hy4 能下载,但你家 NAS 跑不动

770B 开源了:Hy4 能下载,但你家 NAS 跑不动

11 月 20 日,腾讯混元把 Hy4 的权重放了出来。770B 总参数、49B 激活、100 万 Token 上下文、Apache 2.0——朋友圈里刷屏的是「770B 全开源」,但对家里那台 NAS 来说,这句话基本没有可执行的部分。

这篇不吹参数,只讲三件事:这次放出来的到底是什么、1M 上下文改变了什么用法、以及普通用户面对它该怎么选。

一、放出来的不是「一个模型」,是一整套

按官方和媒体报道,这次开放的东西有这几样:

• Hy4 权重:GitHub、Hugging Face、ModelScope、GitCode 四个平台同步,Apache 2.0,允许商用和修改。

• FP8 量化版本:给显存不够的机器用的降级版。

• 预训练基础模型:不只是对话版,底座也给了,方便继续训练。

• System Card:安全评估报告,写了能力边界和风险。

• 加上此前的 Hy3 preview、Hy3、Hy4 preview、Hy4 flash,混元 LLM 系列这一轮全部开源。

最后一条其实比 770B 更值得注意。很多厂商开源的是「上一代」或「缩水版」,这次连刚发布两周的旗舰正式版(Hy4 于 11 月 4 日发布)都放了,还带商用许可。放在国内几家大厂里,这个动作不算常见。

二、770B 和 49B,不是两个数

Hy4 是 MoE 架构:总参数 770B 是「脑子里装了多少」,激活参数 49B 是「每次思考动用多少」。推理时只有一部分专家被唤醒,所以算力开销按 49B 算,知识容量按 770B 算。

这个结构决定了它的硬件账:显存装不下 770B,但也不一定需要装下——专家可以放在内存甚至 SSD 上,用的时候换进来。代价是换入换出的延迟,收益是能用便宜硬件跑大模型。

但 49B 激活仍然是 49B。就算全用 FP8,加上 KV 缓存和上下文开销,也不是 8GB、16GB 显存能碰的量级。一句话:它面向的是多卡或大内存服务器,不是家用 NAS。

真正会改变日常使用的,是另一个参数:100 万 Token 上下文。按中文粗算,这差不多是几本长篇小说的体量。以前要「先切块、再检索、再拼答案」的长文档任务,现在可以整本塞进去一次问完。

▲ 站在中间也能看到两端:1M 上下文改变的是「一次能摊开多长」,不是「跑得多快」

顺带说清一个容易混的地方:同批开放的 Hy4 flash 是另一种取舍——总参数 224B,其中含约 64B Engram 参数,每 Token 只激活约 12B,同样 1M 上下文,价格低不少。旗舰拼能力上限,flash 拼成本下限,这是两条不同的产品线,别拿 flash 的数去套旗舰。

三、能下载,不等于能跑

开源公告下面最常见的提问是「我的机器能跑吗」。在动手之前,先做一件比下载更有用的事:看清单。Hugging Face 的模型接口能直接返回文件列表,不用下载就能知道这仓库有多重、分了几个分片:

H=https://huggingface.co/api/models

curl -s $H/tencent/Hy4 -o m.json

tr ',' '\n' m.json | grep -c rfilename

再顺手看一眼盘:770B 的 FP8 权重是几百 GB 量级,加上分片和临时文件,实际占用还会更大。

df -h /volume1

顺便提一句社区那条路:Hugging Face 上有第三方整理的 GGUF 版本(AngelSlim/Hy4-GGUF)。GGUF 不等于「能塞进小机器」——它只是把模型打包成 llama.cpp 能读的格式,量化到 2 bit 也还是几百亿激活参数的量级。见到「GGUF 版」就以为能上 NAS,是最常见的误判。

▲ 下载这一步从来不是瓶颈,瓶颈是巷子口那道宽度:算力和显存

四、普通用户的三条路

把「我能不能用上」拆开看,其实只有三个选项,投入从低到高:

1. 用 API,不碰权重。开源对你最大的意义是「价格有参照、随时能换供应商」,而不是非得自己跑。日常问答、写稿、整理文档,API 一晚上几毛钱。

2. 在 NAS 上跑小模型。1B 到 8B 这一档配 Ollama 或 llama.cpp,跑分类、摘要、简单问答足够,隐私也守住。别指望它替代旗舰。

3. 自建推理集群。多卡、几百 GB 权重、专业运维。这是团队的事,不是家庭的事。

▲ 左边一台终端最省事,中间那根管子连的是你已有的设备,右边空机柜则是要自己填满的那种

这三条路可以同时走。合理姿势是:主业务用 API,敏感资料用 NAS 上的小模型,等哪天有真需求了再谈集群。

五、值得记下来的三个点

一,Apache 2.0 是这次最实在的部分。能商用、能改、能闭源分发,这条决定了它能不能进产品,比跑分重要。

二,1M 上下文对「自建知识库」是实质性利好。以前必须做的切片和检索,在超长上下文下可以退化成「整篇塞进去」,工程复杂度直接降一档——前提是你付得起那点算力。

三,别被「770B 开源」带着去下权重。先问自己一句:我到底要用它做什么?答不上来的时候,API 就是最好的开源。

信息来源:IT之家、腾讯新闻、凤凰网科技 2026 年 11 月 20 日报道;腾讯云开发者社区同日技术解读;模型仓库 huggingface.co/tencent/Hy4。参数与许可条款以官方仓库和 LICENSE 为准。

如果这篇对你有帮助,点个「赞」和「在看」支持一下~

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料