夜雨聆风学习资料网

ARTICLE · 1356715

145B大模型说能在笔记本跑:官方文档3处对不上,先看这5条

145B大模型说能在笔记本跑:官方文档3处对不上,先看这5条

11 月 13 日凌晨两点,做独立开发的老周在群里甩了个链接,一句话:"145B,笔记本能跑,我要试试。"

昨天下午他回我:装到第三步卡住了。不是他手笨,是官方博客和仓库文档,本来就不是一回事。

划重点:Edge0 开放了 145B 和 120B 两套权重,框架 Apache-2.0。但"能在笔记本跑"的前提,比宣传语多得多。

01一、先看它到底放了什么

权重在 Hugging Face,不设门禁,分 Q3_K 和 NVFP4 两套。145B 每生成一个 token 激活 10.12B,120B 激活 8.64B,都是 48 层、512 路由专家、top_k=10。

基座是 Qwen3.8-Flash-Next,官方 NOTICE 也写明不构成与 Qwen 的合作背书。

02二、三处对不上,逐条看

顺手说一句:看到想保存的图或视频却带水印,别再到处找工具了——「水印提取小助手」粘贴链接就能一键提取干净,点下面这张卡直接打开。

用着顺手的话,打开后点右上角「…」→ 添加到我的小程序,以后微信首页下拉就能找到,不用再搜。收藏起来,下次直接提。

03三、想装,先过这5条

1. 系统:Linux 或 Windows,Mac 现在不行。 2. 显卡:NVIDIA + CUDA 13,计算能力 7.5 以上(RTX 20/30/40/50)。 3. 显存至少 16 GiB,系统内存至少 20 GiB。 4. 权重另下:安装包不含权重,要单独从 Hugging Face 拉 40.81 GiB。 5. 预期:别把"80 tokens/s"当承诺,先查对应机型自测表。

官方评测里,145B 六项均值 72.8,基座 Qwen3.8-Flash-Next 是 71.7——但这是厂商内部评测,技术报告还没发。

一个模型能不能用,不取决于宣传页上的最快数字,取决于你那台机器的倒数第二行配置。

转给那个一看到"本地跑大模型"就想折腾的兄弟,让他先对一遍显卡型号。

你试过本地跑大模型吗?A 跑通了,B 卡在环境,C 还没开始。报个字母。


以上为作者个人实测与判断,不构成任何采购或使用建议。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料