ARTICLE · 1272395
2026上半年中国AI加速器出货200.8万颗、非GPU占101.6万颗首次过半:2027年ASIC占比到54%,推理把训练挤下桌
2026上半年中国AI加速器出货200.8万颗、非GPU占101.6万颗首次过半:2027年ASIC占比到54%,推理把训练挤下桌上个月有个做SaaS的朋友找我喝茶,话题绕到算力预算上,他说了一句让我印象很深的话。 "我们今年新增的卡,八成以上是用来扛用户请求的。" 他停顿了一下,补了半句:"以前开会讨论的是训练能不能跑完,现在讨论的是一次调用要花几分钱。" 这两句话之间的差别,比任何一份行业报告都清楚。 因为它说的不是技术,是账单结构变了。而账单结构,永远是产业变革里最早亮起的那盏灯。 01 
一条被低估的数据 先把IDC那组数字摆出来。 2026年上半年,中国数据中心AI加速器出货 200.8万颗,其中非GPU占到 101.6万颗,首次超过一半(来源:IDC,科技日报2026年10月15日早报援引)。 超过一半。 这个"首"字,值得停一停。 过去我们讨论AI芯片,默认主语是GPU。GPU是什么?是那种什么都干得不错、尤其擅长大规模并行计算的通用芯片。它之所以统治这个行业,是因为训练这件事,是纯粹的暴力美学:模型越大、数据越多、卡越多,结果越好。 但非GPU品类——ASIC、XPU、NPU,各种叫法——终于跨过了那条50%的线。 这跟出货多少无关,它是一个结构性的信号:这个市场的主力品类,第一次不再是那个万能选项。 摩根大通的预测把这个信号往前又推了一步:预计到 2027年,ASIC/XPU在AI加速器出货中的占比将升至 54%(来源:摩根大通报告,2026湾区半导体产业生态博览会公开数据,10月14日)。 而IDC的另一条预测,则给这件事加了一个解释:推理将占中国智能算力需求的 70% 以上(来源同上)。 七成的算力需求,来自推理。 把这句话读懂,后面的一切就都说得通了。 02 
训练和推理,是两门完全不同的经济学 很多人觉得推理只是"训练之后的事",是副产品。 这是过去五年最大的误解之一。我从三个维度把它拆开。 第一,发生的频次完全不同。 训练是一次性的重投入。一个模型可能训练两个月,然后上线。但推理是用户每问一次问题,就要跑一次。 如果按消耗的总算力算,训练是"基建期",推理才是"运营期"。基建期再贵,也只有一次;运营期看着便宜,但是按秒计费,七年八年地计。 这就是为什么行业里越来越多的人说:训练决定你能不能入场,推理决定你能不能活下去。 第二,追求的目标完全不同。 训练看的是峰值算力、是能不能在可接受的时间里训完。为了快,贵一点没关系,浪费一点也没关系。 推理看的是单位成本。一次调用耗多少电、延迟多少毫秒、单卡能并发多少路请求、显存能不能塞下这个模型还是得切两张卡。 一个是竞速赛,一个是马拉松。用同一辆车跑,一定是妥协的结果。 第三,谁做决策完全不同。 训练采购通常来自大模型的研发部门,他们关心的是能不能抢到卡。 推理采购往往来自业务的运维或者成本部门,他们关心的是这个月的账单。 采购决策权从"能不能跑"转到"划不划算"的那一刻,整个竞争逻辑就翻了个面。 03 
为什么推理天然偏爱ASIC 既然推理要的是省,那什么样的芯片更省? 答案是:针对性设计的芯片,永远比通用芯片省。 道理不复杂。GPU为了兼容各种算子和网络结构,留了大量"用不上但必须存在"的电路。这些电路要面积、要功耗、要成本。 而ASIC的思路是反过来的:我先把要跑的那个负载定下来,然后为它专门设计一条最短的路径,路径上不需要的一律砍掉。 推理恰恰适合这么干。因为一个成熟的模型上线之后,它的结构是固定的,激活值是多少、权重是多少、算子是哪些,都是已知的。 已知的,就是可以被固化的。 这带来三个结果:更低的功耗、更低的单位延迟、更低的成本。而这三项,正好是前面那位朋友开会时讨论的三件事。 所以ASIC的崛起不需要什么宏大叙事,它只是被账单推着走到了台前。 04 
供给端已经在动了 理论说完,看动作。过去一个季度,至少有五个信号。 信号一:谷歌TPU第一次被摆上公有云的货架。 美东时间10月27日,甲骨文宣布将首次在其云平台上向客户提供基于谷歌TPU芯片的算力(来源:财联社/《科创板日报》2026年10月28日报道)。 TPU是这条路线最成功的样本,过去它主要服务于谷歌自身。现在它变成了商品。这一步一旦迈出,专用芯片就正式有了商业化的对外通道。 信号二:创业公司在端侧发力。 深圳迈特芯在湾芯展展示了自研张量脉动TPU架构的端侧大模型芯片,采用3D-IC架构,带宽利用率提升到80%以上,预计 Q4 量产(来源:科技日报2026年10月15日早报)。 带宽利用率这个指标被单独拎出来说,本身就说明行业关注点已经从"算力多大"转到了"算力有没有被用上"。 信号三:通用计算架构也在往数据中心挤。 进迭时空在第六届RISC-V中国峰会上正式发布 V100 芯片,这是业内首颗完整符合RISC-V服务器规范的通用计算芯片,同时推出计算、智算、存储三类服务器整机方案。 它的关键突破是:打通了芯片、固件、操作系统整套适配链条,主流操作系统可以直接安装运行,不用像过去的嵌入式芯片那样单独定制系统,从而降低服务器厂商的适配成本(来源:《中国电子报》报道,2026年RISC-V中国峰会)。 一句话里两个关键词:降低适配成本。这又是经济学的胜利,不是参数的胜利。 信号四:互联网大厂自己做。 相关分析指出,国内大厂正在从卷大模型转向卷AI芯片,阿里平头哥年化营收已达百亿级别(来源:36氪分析,科技日报2026年10月15日早报引述)。微软这样的巨头则在把全球数据中心容量从 12GW 向 38GW 推进,并押注自研芯片(来源:通信世界2026年10月14日报道)。 为什么要自己做?因为他们的推理负载是确定的,自己造最划算。这不是讲故事,这是会计。 信号五:模型厂商开始配合国产算力的"云+端"。 科大讯飞在2026年10月22日的全球1024开发者节主论坛上发布星火X2.6,并给出基于全国产算力的"云+端"协同方案(来源:科技日报2026年10月15日早报预告,活动于10月22日举行)。 模型端主动向国产算力靠,这一步的意义不亚于芯片本身的进步。因为它意味着生态对接的意愿从"被动适配"变成了"主动设计"。 05 
国产厂商的机会,具体在哪三处 写到这儿,落到实操。我认为机会有三处,按确定性排序。 第一处,也是最确定的:把迁移成本打下来。 ASIC最大的弱点是"换个模型可能就得换颗芯"。谁能把这个痛点解决掉,谁就赢。解决的办法不在硬件,在编译器、在算子库、在图优化工具。 一套能让客户三天内把PyTorch模型搬过来的工具链,价值远远高于10%的峰值性能提升。这是软件生意,但它是芯片生意里最赚钱的那部分。 第二处:盯住"云+端"的两头,跳过中间。 中间那部分(大型数据中心训练)短期很难撼动,因为生态太厚。但边缘侧和端侧是新的战场,那里没有历史包袱,客户更看重功耗和成本。 端侧芯片一旦起量,出货量的规模效应会反哺到云端架构的能力。 第三处:把"带宽利用率"当成对外披露的核心指标。 这一点可能听着有点超前,但我认为未来两年,行业会逐步从"有效算力"替代"峰值算力"来做宣传口径。谁先把这个标准建立起来,谁就掌握了话语权。 06 
也别把话说满:ASIC有三道坎 泼冷水环节。ASIC不是没有软肋,而且软肋很致命。 第一道坎:算法在变,芯片不变。 专用芯片的前提是负载固定。可AI领域恰恰是算法迭代最快的地方。今天的主流架构,十八个月后可能就过时了。摩尔线程刚适配完的算子,可能下个月就被一个新注意力机制取代。 一旦押错架构,这颗芯片就不是资产,是库存。 第二道坎:软件生态的厚度。 这一点不用展开,国产厂商都懂。CUDA积累的不只是代码,是几百万小时的调试经验。 第三道坎:规模门槛。 ASIC的经济性要靠量。一颗专用芯片如果只卖十万片,摊不掉那笔流片成本,单位成本反而比GPU还贵。这就形成了一个死循环:没量就没成本优势,没成本优势就没量。 打破这个循环的方法只有一个:找到一个足够大、又足够稳定的场景。这也是为什么具身智能、端侧这些场景现在这么受追捧——它们提供的是确定性。 07 
最后说句大白话 训练时代看谁更强,推理时代看谁更省。 强这件事,是有门槛的,追起来慢。 省这件事,是没有天花板的,而且永远可以做得更细。 所以我一直认为,推理主导的这一轮,才是国产算力真正有机会的那一轮。不是因为我们突然把GPU做出来了,而是因为比赛的项目换了。 一个总是输短跑的人,换了场地,也许跑的是长距离的越野。 没人保证他一定赢。但这至少是第一次,他没有站在别人的主场上。






















































































