ARTICLE · 1230757
通用计算与AI塞进同一颗芯片,RISC-V这次真要抢推理的饭碗
通用计算与AI塞进同一颗芯片,RISC-V这次真要抢推理的饭碗英伟达在AI推理市场的护城河，正在被一条不太一样的路线试探。 蓝芯算力不久前发布了智通融合超节点。核心卖点不是堆算力，而是把通用计算和AI推理塞进同一颗芯片，用统一内存架构把数据搬运这件事尽量消灭掉。放在RISC-V的语境里看，这个动作的信号意义比产品本身更大：RISC-V盯上的已经不是边缘设备那点事，而是数据中心推理这个英伟达最赚钱的腹地。 问题是，它真能抢走饭碗吗？答案没那么简单，但也没那么遥远。 大模型推理有个常被忽略的成本结构：算力往往不是最贵的，数据在存储和计算单元之间来回搬才是。 传统架构里，CPU和AI加速器是分开的，内存也是分开的。一次推理请求进来，数据先在主机内存里待着，然后被搬到加速器的显存里，算完了再搬回去。这个过程消耗的能耗和时间，在训练阶段还能被大规模并行掩盖，到了推理阶段就格外刺眼——推理是高频、低延迟、对单次成本极度敏感的场景。 业内一个被反复引用的判断是，先进封装和内存墙问题正在让数据搬运的能耗占比越来越高。具体数字各家口径不一，但方向是明确的：谁能让数据少跑路，谁就能在推理的能耗和延迟上拿到优势。 蓝芯算力这套智通融合超节点的思路就卡在这里。它用统一内存架构，让通用计算单元和AI推理单元共享同一块内存空间。数据不需要在两条总线、两套内存之间反复倒腾。再叠加超节点的互联设计，把多颗芯片的推理资源拉成一个整体。 这不是蓝芯一家的发明。英伟达的Grace Hopper、AMD的MI300，走的都是CPU和GPU统一内存的路子。区别在于，英伟达和AMD是在x86和自有GPU生态里做这件事，蓝芯算力是在RISC-V架构上做。架构不同，代价和空间也不同。 先泼一盆冷水：如果比单颗芯片的峰值算力，RISC-V阵营短期内不可能追上英伟达。这不是路线问题，是生态和资本投入的差距。 但推理市场有个特点，它比训练市场更分散、更看重性价比和能效比。训练要大集群、要顶级互联、要CUDA生态锁死。推理的很多场景其实对绝对性能没那么敏感，反而对每token成本、功耗、部署灵活性更在意。 RISC-V的开放指令集特性，让它在这件事上有两个天然优势。 第一，可定制。做推理芯片的公司可以在RISC-V基础上加自己的AI扩展指令，不用像x86那样受制于授权和架构约束，也不用像ARM那样在商业模式上跟对方反复博弈。蓝芯算力能把通用计算和AI推理做深度耦合，前提就是指令集层面对这种融合没有障碍。 第二，生态压力小。这话听起来反直觉，但推理场景对CUDA的依赖确实比训练弱。大量推理框架支持多后端，ONNX、TVM这些中间层也在成熟。RISC-V只要能接上主流推理框架，就不需要从零重建一个CUDA。 当然，这两点优势都不足以单独撼动英伟达。真正让RISC-V在推理上有想象空间的，是它和统一内存架构结合之后，能在一个更低的成本结构上提供够用的推理能力。 英伟达的推理护城河，很大程度上是训练护城河的延伸。 因为训练用CUDA，推理自然也用CUDA最省事。模型从训练到部署在同一套生态里跑，迁移成本最低。这个逻辑在过去几年非常牢固，但正在松动。 松动的原因不是RISC-V变强了，而是推理市场的需求结构变了。大模型推理正在从少数几家云厂商的自建集群，扩散到大量行业客户和边缘节点。这些场景对CUDA生态的依赖远没有云厂商那么深，它们更在意的是能不能用更低的功耗、更低的成本把模型跑起来。 英伟达当然看到了这一点。它推出NIM、TensorRT-LLM这些推理优化工具，还专门发了针对推理的芯片型号。但这些动作本质上还是在CUDA体系内做优化，没有改变“数据要搬到GPU显存里算”这个基本结构。 蓝芯算力这类RISC-V玩家的切入点，恰恰是这个结构本身。统一内存架构减少搬运，RISC-V降低授权和定制成本，超节点设计提供横向扩展能力。这套组合不追求在单点性能上打败英伟达，而是试图在推理的能效和成本上找到一个新的平衡点。 这不代表英伟达会丢掉推理市场。它在互联、软件栈、客户关系上的积累仍然深厚。但推理市场的份额结构，确实存在被重新分配的可能。 硬件架构讲得再好，RISC-V推理能不能落地，最后要看软件。 英伟达最深的护城河从来不是GPU本身，是CUDA。十几年积累下来的算子库、编译器、调试工具、开发者社区，构成了一个极高的迁移成本。RISC-V阵营现在最缺的就是这一层。 蓝芯算力需要回答的问题很具体：主流推理框架能不能顺利跑起来？算子覆盖够不够全？性能调优的工具链好不好用？开发者从CUDA迁过来要花多少时间？ 这些问题没有捷径。RISC-V生态里的公司普遍在补课，有的在做编译器，有的在做算子库，有的在跟框架社区合作。进展有，但离“开箱即用”还有距离。 另一个变量是时间。英伟达的推理护城河不是永恒的，但它的软件栈优势在短期内仍然难以被替代。RISC-V推理芯片要真正进入数据中心的主流采购清单，软件成熟度至少还需要一到两年的密集投入。 这不是唱衰。恰恰相反，统一内存架构加RISC-V这个组合，是目前看到的少数几个能从结构上挑战英伟达推理成本模型的路线之一。它不一定赢，但它指出了一个方向：推理市场的竞争，可能不会在英伟达最擅长的维度上分出胜负。 回到最初的问题：RISC-V这次真要抢推理的饭碗吗？ 我的判断是，它抢的不是英伟达最肥的那块，而是英伟达还没完全吃透的那块。 云厂商的大规模推理集群，短期内仍然会以英伟达为主，因为软件栈和生态惯性太强。但行业客户的私有化推理部署、边缘推理节点、对功耗和成本极度敏感的专用场景，这些地方RISC-V加统一内存架构有真实的机会。 蓝芯算力的智通融合超节点，如果能在软件栈上把主流推理框架跑通，并且在能效比上给出有说服力的数据，它就有机会在这些场景里站住脚。站住脚之后，再往上走就是时间问题。 对英伟达来说，这不是一个需要恐慌的信号，但确实是一个需要认真对待的信号。推理市场的份额流失往往是从边缘场景开始的，等到主流场景感受到压力，护城河已经出现缺口。 对国内芯片产业来说，RISC-V加统一内存架构这条路线值得关注，但也要清醒：架构融合只是入场券，软件栈和生态才是真正的比赛。蓝芯算力迈出了第一步，后面的路还很长。 推理市场的格局不会在一夜之间改变，但改变的方向已经清晰了。英伟达仍然是最强的玩家，只是现在，它需要开始回头看看身后的人了。
