Qwen 4要来了,本地AI要变天?

阿里巴巴下一代 Qwen 模型，可能再过几周就会与我们见面。

2026年9月22日，阿里巴巴正式确认，Qwen 4 正在训练中。官方尚未公布发布日期，但社区里的猜测，越来越集中在10月底或11月。对于一直关注开放权重模型进展的开发者来说，这可能是今年最值得留意的发布之一。

此前，Qwen3.5、Qwen3.6 和 Qwen3.8 已经在编程、推理和智能体能力上取得了明显进步。尤其是270亿参数这一档，对于希望在自有硬件上运行高能力 AI 的开发者，吸引力正在不断增加。

现在，阿里巴巴准备再往前走一步。公司已经发布实验模型 Qwen3.8-Flash-Next，提前展示了计划用于 Qwen 4 的架构。早期基准测试成绩令人期待，而效率方面的改进，可能和模型能力的提升同样重要。

但 Qwen 4 到底能强多少？更实际的问题是：到了下一代，我们还能不能用一张消费级显卡，把它跑起来？

发现一个低成本 AI 平台： 不降智  GPT-6 倍率0.10(限时)， Claude Opus5,Fable 5 都能用，倍率 0.25，首字请求速度5s内，还支持 image-2 生图。

Qwen 4 已正式确认即将到来

这项确认来自9月22日在杭州举行的阿里巴巴年度云栖大会。按照公司的官方公告，Qwen 4 目前正在训练，后续几代模型的参数规模可能达到5万亿至10万亿。需要分清的是，这个庞大的数字对应更长期的 Qwen 4.5 和 Qwen 5 路线图，并不是已经确认的 Qwen 4 规格。

截至目前，阿里巴巴还没有公布发布日期、最终模型阵容、基准测试结果，以及开放权重的具体许可信息。

不过，Qwen 4 已经不再只是一个设想中的后续版本。

在 r/LocalLLaMA 的讨论中，有人传播了一条未经核实的消息：阿里巴巴可能在10月底推出这款模型。据称，消息来自一位了解阿里发布合作伙伴情况的人士，而非官方公告。这个来源不足以确定发布日期，但确实与外界对未来几周可能迎来发布的预期相吻合。

我个人更倾向于认为，发布会落在10月底或11月，可能先推出旗舰模型，再陆续放出更小的开放权重版本。

时间还没有定论，技术方向却已经逐渐清晰。

Qwen 4 27B 能提升多少？

对于本地 AI 社区，这大概是最让人关心的问题。

以参数规模来看，Qwen3.8–27B 的能力已经相当突出。它兼具代码仓库级编程、终端自动化、指令遵循和多模态能力，参数量又处在消费级硬件可以考虑的范围内。与此同时，阿里巴巴连续几代27B模型之间的进步，也已经有目共睹。

这些积累，让我们有理由对一个尚未确认的 Qwen4–27B 作出有依据的预测。

从 Qwen3.5 到 Qwen 4：基准测试预期

下面的比较，采用了 Qwen3.5–27B 和 Qwen3.8–27B 的官方模型卡资料。

对于已公布、且具备足够可比性的评测，我计算了这三代模型之间的平均提升。Qwen 4 那一栏是我的预测，不是泄露数据，也不是实测结果。

这里的平均增幅，指每次已观察到的代际变化所提升的百分点，并非相对增长百分比。星号表示，目前只有 Qwen3.6 到 Qwen3.8 这一段的变化数据。Qwen3.5 缺失的成绩，并没有按零分处理。所有预测都建立在两个前提上：仍然是规模接近的27B模型，并采用可比的评测流程。

另外，这些历史成绩均由厂商报告。评测条件、模型配置和基准版本都可能变化，因此，即便数字看起来能够直接比较，也不能把它们当成一次控制条件完全一致的长期实验。

真正值得关注的，除了 Qwen3.8 有进步，还有它究竟在哪些地方进步了。

Terminal-Bench 2.1 的成绩从63.4升到了73.0；SWE-bench Pro 提高了8.2个百分点；用于衡量长程专业任务的 CoWorkBench，则提升了9.7个百分点。对于参数规模大致相同的模型，这样的变化已经很可观。

相比之下，传统科学推理的增长慢一些，GPQA Diamond 从87.8升到89.2。这或许说明，后续提升会越来越多地体现在实际智能体任务上，而不只是传统知识类基准测试。

为什么预测不是简单地再提高10分

最省事的预测方法，是把上一代的涨幅，直接加到这一代成绩上。但模型的发展，并不会沿着一条可以提前算好的直线前进。分数越高，继续提升往往越难；一些评测还在逐渐接近饱和，小幅数字变化的意义也会随之减弱。

架构因素同样不能忽略。

Qwen3.8 的进步，来自训练、后训练和模型优化等多方面调整。我们不能默认，这样的提升幅度还能原样再来一次。因此，我的基准预期会相对保守：成熟推理基准稳步前进，编程能力和智能体可靠性则争取更明显的改善。

假如未来的 Qwen4–27B 能在 Terminal-Bench 2.1 上达到80分，在 SWE-bench Pro 上达到70分左右，就已经算得上一次有分量的代际升级。我尤其想知道，它能不能在达到这些成绩的同时，减少推理 token 的消耗。

对于本地推理，模型更聪明当然有价值。如果计算成本还能一起降下来，价值就更大了。

Qwen3.8-Flash-Next 给了我们另一条线索

关于下一代模型，我们手里还有一份难得的参考。

8月27日，阿里巴巴发布了 Qwen3.8-Flash-Next。这是一款实验性的混合专家模型，官方明确将其描述为 Qwen 4 架构的预览。它带来的变化，已经超出普通小版本更新的范围，也展示了阿里打算如何在继续增强模型能力的同时，提高运行效率。

它目前的基准测试表现，已经相当亮眼。

Flash-Next 与 Qwen3.8–27B 的比较

来源：Qwen3.8-Flash-Next 官方模型卡。成绩由厂商报告，部分评测使用了不同的智能体运行框架或评分流程。表格采用的是阿里巴巴公布的对比结果，没有将不同来源、互不相关的榜单成绩拼在一起。

Flash-Next 在智能体任务上的表现尤其突出。JobBench 的提升幅度很大，DeepSWE 1.1 也出现了明显增长。

传统推理和竞赛编程基准上的差距相对小一些，不过，整体方向仍然令人期待。

这里有个前提必须讲清楚：Flash-Next 并不是27B稠密模型。它采用规模大得多的混合专家架构，主模型约有125B参数，每次激活约6B参数，另外还有51B的 n-gram 嵌入参数。因此，不能把它的全部性能提升，都归功于架构变化。

即便如此，它仍然证明了，阿里巴巴的下一代设计已经能够交出有竞争力的成绩。

我们应该对 Qwen4-Flash 有什么期待？

说到这里，预测开始变得更有意思。

Flash-Next 是实验性质的架构预览，并不是最终的 Qwen 4 旗舰版，也不是最终的 Flash 模型。阿里巴巴明确表示，这只是早期实现，后续还会继续完善。

因此，可以合理期待，未来的 Qwen4-Flash 会通过追加训练、更好的后训练、架构调整，或者更大的模型容量，在 Flash-Next 的基础上继续提升。

我会重点看三个方向。

第一，智能体编程。Flash-Next 在复杂软件工程任务中已经取得明显进展，正式推出的 Qwen4-Flash 有机会继续增强这部分能力。

第二，长程专业任务。JobBench 和 CoWorkBench 展现出的潜力说明，让模型完成一长串连续操作，还有不小的提升空间。

第三，推理效率。Flash-Next 的架构变化，可能让 Qwen 4 在处理长上下文时表现更好，同时不必让内存需求和计算成本按同样的比例增长。

我预计，Qwen4-Flash 在大部分主要评测中都会超过 Flash-Next，只是具体能超出多少，现在还无法可靠判断。对于使用大内存工作站或多 GPU 系统的开发者，它也可能成为更值得关注的型号。

27B这一档，可能继续承担单卡部署的实用选择；Flash 模型则会在能力、实际激活计算量和内存需求之间，提供另一种取舍。

一种新架构，而不只是更多参数

Flash-Next 背后的架构变化，最后可能才是 Qwen 4 最重要的部分。

按照阿里巴巴的技术介绍，新设计主要围绕注意力效率、残差信息流、额外的嵌入容量，以及训练优化展开。这些调整之所以重要，是因为限制现代 AI 推理的因素，早已不只是参数数量。

长上下文窗口会带来很大的内存压力。大型模型需要极高的内存带宽，而智能体应用又可能形成包含数千次工具交互的漫长对话。

阿里巴巴看起来正在直接处理这些难题。

Qwen 稀疏注意力：降低长上下文成本

Flash-Next 将 Gated DeltaNet 与一种名为 Qwen Sparse Attention、简称 QSA 的新机制结合起来。Gated DeltaNet 负责保存前文信息的紧凑表示，QSA 则从选定的上下文区域中，提取更详细的信息。模型不再对所有历史 token 一视同仁，而是先识别相关区块，再将注意力集中到这些位置。

这有助于降低长上下文的处理成本。

阿里巴巴报告称，在100万 token 的上下文长度下，QSA 注意力内核在预填充阶段最高提速7.6倍，在解码阶段最高提速4.9倍。注意，这些数字对应特定的注意力运算，并不代表端到端生成速度也提高了同样的倍数。

不过，这种改进仍然可能很重要。一个处理大型代码仓库的编程智能体，可能需要保留大量源文件、终端输出、调试记录，以及此前作出决策的历史信息。

如果 Qwen 4 能更高效地处理这些内容，长时间运行的本地智能体，就会更有实用价值。

门控残差：改善信息流

Flash-Next 还引入了 Gated Residual，也就是门控残差连接。

传统 Transformer 通过残差流，在不同层之间传递信息。阿里巴巴的新设计将残差流扩展为四个分支，并动态控制信息如何读取和写入。

目的在于改善信息传递和训练稳定性，同时避免引入过高的计算开销。

用户不会直接感知到这个功能，但它可能帮助模型得到更充分的训练，进而改善推理能力，或者提高长程任务中的行为可靠性。当它与更高效的注意力机制配合使用时，尤其值得关注。

N-gram 嵌入：增加容量，而不同比例增加计算量

第三项创新，有些不同寻常。

Flash-Next 在125B主模型之外，额外加入了约510亿个 n-gram 嵌入参数。这些嵌入通过查表操作表示较短的 token 序列，而不是依赖常规的稠密计算。

由于查表位置可以提前确定，阿里巴巴提出，可以将这些嵌入存放在系统 RAM 中，再通过异步预取调用。这为本地推理带来了一种值得探索的可能。

模型可以扩大表示容量，而不必让每一个新增参数，都参与昂贵的 GPU 矩阵运算。

当然，这些参数总要占用某个地方的内存。放进系统 RAM，不等于不花成本，实际表现仍然取决于内存带宽和实现质量。尽管如此，它还是提供了另一条路线：增强模型能力，同时避免单纯堆高实际计算需求。

这些机制会不会原样出现在更小的 Qwen 4 模型中，目前还不清楚。

我们应该期待哪些 Qwen 4 模型？

阿里巴巴尚未确认 Qwen 4 最终会有哪些型号。不过，参考前几代产品，大致可以推测这个系列可能如何展开。

我预计会有一个大型旗舰模型、一个强调效率的 Flash 版本，以及随后推出的一个或多个较小的开放权重版本。

对于自行部署的用户，后两类最值得关注。

[图片占位]

这些只是预期中的类别，并非已确认的模型名称或规格。

27B模型尤其重要，因为阿里巴巴已经连续在这个参数档位推出了能力很强的产品。不过，我也不会排除参数规模或架构发生变化的可能。

他们可能选择更大的稠密模型、更小的混合专家模型，或者一套全新的配置。

对用户而言，比精确参数量更重要的，是模型质量、内存需求和推理速度之间的关系。

一个推理效率更高的30B模型，可能比参数大得多、却把大量时间花在冗余推理上的模型更实用。

Flash 也是同样的道理。总参数超过1,000亿的模型，如果每生成一个 token 只激活其中一小部分，仍然可能拥有不错的推理性能。但完整权重需要多少存储空间，始终是绕不开的现实约束。

Qwen 4 能在消费级 GPU 上运行吗？

假设阿里巴巴继续推出27B级别的稠密模型，那么硬件要求应该不会太陌生。

Qwen3.8–27B 已经可以借助合适的量化方式，在消费级 GPU 上运行。如果假设中的 Qwen4–27B 架构和参数量接近，权重存储需求也应该大体相似。

下面的数字，都是近似估算。

这些只是理想化的权重存储估计。实际量化模型还需要为元数据、运行时缓冲区、注意力状态，以及其他组件预留内存。包含大型嵌入表的模型，情况也可能有所不同。

24—32 GB 显存的 GPU 类别

对于 RTX 4090、RTX 3090、RTX 5090 以及类似显卡的用户，27B级别的模型会是最值得期待的选择。

只要模型规模仍然接近 Qwen3.8–27B，高质量的4比特量化版本，应该可以在24 GB显存的硬件上实用运行。

到了32 GB显存，就能给上下文和运行时开销留出更多空间。

FP8 也可能成为一种选项，不过，对智能体应用而言，几乎把全部显存都用来装模型权重，通常不是理想状态。

长时间运行的编程智能体，会不断积累上下文，KV 缓存的需求可能因此成为重要限制。

16 GB 显存的 GPU 呢？

对于16 GB显存的用户，余地就没有那么宽裕了。

常规27B模型可能通过更紧凑的量化方式装进去，但留给上下文和其他运行时分配的显存，会比较有限。

这也是为什么，我希望阿里巴巴在推进27B模型的同时，继续发展更小的版本。

一个架构和训练都有改进的新14B模型，实际体验可能比经过激进量化的27B版本更好。

目前还没有这方面的确认，但如果真的出现，对更广泛的本地 AI 社区会很有意义。

Apple Silicon 和更大的 Flash 模型

大内存的 Apple Silicon 系统，可能尤其适合关注 Qwen4-Flash。

现有 Flash-Next 架构已经展示了，混合专家推理如何将较低的实际激活计算量，与较大的模型总容量结合起来。

拥有64—128 GB统一内存的系统，可能容纳具有实用价值的大型稀疏模型量化版本，具体还要看模型权重和运行时支持。

社区中已经有开发者，尝试为 Flash-Next 使用基于 SSD 的专家加载，以及混合内存技术。

这些方法会增加实现复杂度，也不能与模型完全驻留在 GPU 中的推理等同看待。

但它们说明，本地部署的选择确实正在扩大。

下一代模型，可能会在纯 GPU 推理、统一内存系统，以及 CPU-GPU 混合配置之间，提供更多路径。

真正的考验：更好的智能体，而不只是更好的基准成绩

Qwen3.8–27B 在编程和工具使用工作流中的表现，已经相当不错。

不过，对于使用 Hermes Agent、OpenCode、OpenClaw 等自主系统的开发者，基准成绩只说明了一部分问题。

一个有效的智能体，除了生成正确代码，还必须理解目标、维护计划、选择工具、检查结果、从错误中恢复，并判断任务是否真正完成。

这些能力，很难用一个分数概括。

Qwen 4 有一个尤其值得关注的机会，那就是推理效率。模型可能最后做对了任务，却花了太多时间反复考虑决策、重复验证，或者生成过长的推理内容。

在本地推理中，这种消耗很实在，因为每多生成一个 token，都需要 GPU 时间和内存带宽。

我特别想知道，阿里巴巴能否提高任务完成率，同时不让推理开销同比增加。一个完成任务数量增加15%、token 消耗却减少30%的模型，可能比依靠大幅延长推理时间、换来略高编程分数的模型，更值得升级。

长上下文的可靠性，同样需要观察。Flash-Next 的架构改进说明，处理大规模上下文的成本可能下降。

然而，支持100万 token 的上下文，并不自动意味着模型能够可靠地利用其中全部信息进行推理。

检索准确性、注意力分配，以及持续维护连贯计划，依然是各自独立的挑战。

因此，对于本地智能体，最合适的 Qwen 4 型号，可能是同时具备更强推理、高效上下文管理和可靠工具执行能力的那一个。参数最多的型号，未必就是它。

首日自行部署可能需要耐心

还有一个实际问题，需要提前考虑。

新架构发布时，推理框架往往还没有提供完整支持。

Flash-Next 的注意力和嵌入机制，就已经需要专门实现。Qwen 4 也可能继续调整这些设计。

如果打算本地部署，我会密切关注 llama.cpp、vLLM、SGLang、MLX、Ollama 和 LM Studio。早期支持可能依赖最新开发版本、新量化格式，或者更新后的注意力内核。

许可协议也是一个问题。Qwen3.8–27B 采用 Apache 2.0，而 Flash-Next 使用 Qwen Community License 1.0。不能默认所有 Qwen 4 模型都会使用同一种许可证。对于商业部署、再分发和微调，这种差别都很重要。

开放权重发布后，第一批社区量化版本可能很快就会出现。但可靠的部署配置，以及经过独立验证的基准成绩，可能还需要再等一段时间。

如果你打算第一时间运行 Qwen 4，我不建议仅凭传闻中的模型规格，就提前购买硬件。

在规划内存需求时，现有 Qwen3.8 模型仍然是更稳妥的参考。

为什么 Qwen 4 的意义可能超过又一次旗舰发布

过去一年，开放权重 AI 的格局已经发生了很大变化。

大型模型还在进步，但开发者越来越关心：不依赖昂贵的云端推理，自己究竟能做到什么。如今，本地模型已经能够支持复杂的编程助手、文档分析系统、私有研究工具，以及能力不断增强的自主智能体。

Qwen 之所以变得重要，一个原因是阿里巴巴持续为不同硬件档位，推出有竞争力的模型。27B系列，在能力和使用门槛之间取得了很有吸引力的平衡。

与此同时，Flash-Next 展示了另一条路线：通过架构调整，提升模型容量和长上下文效率，而不只是依靠增加实际计算量。

Qwen 4 有可能把这两个方向结合起来。

如果阿里巴巴推出能力明显增强的27B级模型，它可能再次成为单卡 AI 的热门选择。如果 Qwen4-Flash 能在已经表现出色的 Flash-Next 之上继续取得实质进步，就会对大内存工作站和私有推理服务器更有吸引力。而如果新架构还能降低长时间运行智能体的计算成本，收益就会超出某几项基准分数。

当然，重要的不确定性仍然存在。

发布日期尚未确认，模型阵容也不清楚。最终如何平衡基准表现、推理效率与硬件要求，目前还只能推测。但与许多尚未发布的模型不同，Qwen 4 已经有了一个实验性的架构先行版本，开发者可以实际研究和测试。

因此，我们手里不只有传闻，还有技术方向、历史性能数据，以及期待下一次明显代际进步的合理依据。

Qwen 4 最值得关注的版本，可能不是阿里巴巴做出的最大模型，而是那个能让开发者利用现有硬件，就用上下一代 AI 能力的模型。

如果近期的传闻属实，我们或许不用等太久，就能知道答案。