AI 算力厨房:大模型背后的超级工厂

在微软、谷歌、阿里巴巴、腾讯、字节跳动等大厂的数据中心机柜里，数以万计的服务器昼夜不停地闪烁着信号灯，轰鸣声盖过一切。这里没有键盘和鼠标，只有海量的数据以光速流动、万亿次的计算在毫秒间完成。而这，正是支撑当今AI大模型训练和推理的“算力基础设施”，2025年全球科技巨头在算力基础设施领域的资本开支规模空前，AI算力“军备竞赛”进入全面加速期。

整个AI算力基础设施可大体解构为逻辑芯片（GPU、CPU、ASIC、FPGA等）、存储系统（HBM、SSD）、物理实现、互连网络、能源供应、散热系统等核心层级，各层级紧密耦合形成完整的效能链条。任一环节的薄弱都将成为整体性能的瓶颈，直接制约大模型的训练与推理效率。如果把AI数据中心比作厨房的话，各部分的作用如下图所示：

各层级与厨房类比

▍第一层：逻辑芯片——AI算力厨房的“四大名厨”

一块小小的芯片，从石英砂到高纯硅晶，再经历光刻、刻蚀、沉积、离子注入、金属互联等数百道纳米级精密工序，最终蜕变为汇聚亿万晶体管的数字核心。在AI数据中心这座“超级后厨”里，逻辑芯片就是掌勺的大厨，一共四位，各怀绝技。

CPU：行政总厨

什么菜系都懂，什么环节都能管。CPU擅长处理复杂的逻辑判断、多任务调度和串行任务，就像行政总厨——一个人能同时盯着六个灶、统筹出菜顺序、尝味道、调火候，厨房里没他不行。但他只有几只手，面对上千道菜同时下单，自己下场炒根本忙不过来。

一个反直觉的反转：前几年AI浪潮刚起时，CPU被当成了“配角”，GPU才是聚光灯下的主角。但随着AI Agent全面火爆，CPU重新杀回了C位。Agent需要自主规划、调用工具、多步推理，这些恰好是CPU的主场——它不是在蛮力计算，而是在“动脑子”做决策。从云端推理到企业本地部署，英特尔至强、AMD EPYC和ARM架构芯片都迎来了新一轮爆发。一句话：GPU负责“大力出奇迹”的暴力训练，CPU负责“聪明又省电”的推理和Agent运行，两者从主仆变成了双主角。

GPU：切配流水线大军

GPU不会做什么复杂的菜，它只会一件事——简单重复的矩阵运算。但它带了成千上万个徒弟，人手一把刀，排成流水线同时切菜。一道菜切一万刀，CPU一个人慢慢来，GPU一万个徒弟一秒搞定。这就是并行计算的威力，也正是AI训练最需要的能力。

英伟达就是这个“切配军团”的军火商。它的最新“旗舰后厨装备”——GB300 NVL72，把72颗Blackwell Ultra GPU封装进一个机柜，单柜AI算力超过1 ExaFLOPS。这是什么概念？相当于一秒完成10的18次方次浮点运算，已经不是“切菜快”的问题，是整个后厨直接装上了涡轮引擎。

但故事到这里远没结束。一场围剿英伟达的厨房革命，早已全面开打。

围剿第一招：对面开了一家“山寨厨房”。AMD推出MI300X系列，直接对标英伟达H100，性能不输，价格更便宜。英特尔也押注Gaudi系列加速卡，企图在训练和推理市场撕下一块肉。

围剿第二招：大客户集体“自学成才”。云巨头们不愿永远交“英伟达税”，纷纷用脚投票——谷歌的TPU已经迭代到第五代，亚马逊祭出Trainium和Inferentia双线自研芯片，微软也拿出了Maia芯片。这些超级客户宁愿自己招人、自己研发，也要把命运攥在自己手里。

围剿第三招，也是最狠的一招：拆掉英伟达的“传菜通道”。英伟达真正的护城河不是单颗GPU，而是NVLink——它能让几百颗GPU像连体婴儿一样高效协同。但AMD、博通、思科、谷歌、微软等巨头联手组建了UA-Link联盟，要打造一套开放的GPU互联标准，让任何芯片都能用这套"通用传菜系统"互通。这就好比几家大饭店联合起来，自己修了一条高速公路，不再交英伟达那条私家路的过路费。这场战争的核心逻辑就一句话：用开放生态对抗一家独大。

CUDA：比芯片更难撼动的“厨师学校”

说到英伟达的护城河，硬件之外还有一道更隐蔽、更坚固的墙——CUDA软件生态。你可以把CUDA理解为一座全球最大的“厨师培训学校”。过去近二十年，全世界超过500万AI开发者，从学生时代起就学着用CUDA的“菜谱”写代码、调模型、优化性能。他们所有的编程习惯、工具链、调优经验，全是英伟达体系里长出来的。一旦你用熟了这套“菜谱”，换个灶台连火都打不着——不是别家的硬件不行，是换了整个手艺都得重学。

市场上有句话：就算AMD造出一块比H100快两倍的芯片，企业也不一定敢换——因为背后的软件迁移成本、人才重新培训成本、代码重构时间，比芯片本身贵得多-。这就是CUDA的“捆绑效应”：开发者一旦投入英伟达生态，在软硬件工具链、代码库、人才培训上全部深度绑定，脱离成本极高。中国很多AI芯片公司甚至选择了一条“曲线救国”的路——主动兼容CUDA，让开发者能用熟悉的CUDA语法在自己芯片上跑模型，以此降低迁移门槛。连黄仁勋自己都敢放狠话：对手就算把芯片免费送，也干不过英伟达——因为客户看的不只是芯片单价，而是整座“AI工厂”的全系统总成本。

更绝的是，英伟达在2025年底推出了CUDA 13.1，这是CUDA问世二十年来最大的一次更新。核心变化叫CUDA Tile，让开发者可以直接用Python写GPU底层内核代码，15行代码就能达到200行C++代码的性能，开发门槛断崖式下降。表面上是“造福开发者”，本质上是一步狠棋——当全世界越来越多的人只用英伟达的语法思考问题，这道护城河就不是挖在土地上，而是筑在了几百万开发者的脑子里。

不过，传奇芯片架构师Jim Keller却泼了一盆冷水：CUDA Tile让代码移植变得更容易，反而可能给竞争对手可乘之机——别人可以更容易地把英伟达生态里的代码搬到AMD等平台上。CUDA到底是加固了护城河，还是自拆了城墙？这场争论至今没有定论。

英伟达的反击：用资本把对手和客户绑上同一条船

面对四面八方涌来的挑战，黄仁勋没有坐以待毙。他的反击核心策略就四个字——资本绑定。既然你们要围剿我，那我就用真金白银把整个产业链绑上我的船。

第一板斧：200亿美元“吞下”最具威胁的挑战者。2025年12月24日，英伟达以约200亿美元现金，达成对AI芯片初创公司Groq核心资产的授权协议——这是英伟达史上最大的一笔交易，远超2019年69亿美元收购Mellanox的规模。Groq凭什么值200亿？它的LPU（语言处理单元）芯片采用片上SRAM设计，替代传统GPU依赖的HBM存储，在AI推理场景中推理延迟降低60%以上，能效提升5到10倍。简单说，训练是英伟达的天下，但推理这块肥肉Groq威胁最大。英伟达不仅在交易中获得了Groq全部技术授权，更把创始人Jonathan Ross和核心团队全员收入麾下。这场“反向收购”没有触发反垄断审查，却让英伟达从此形成了“GPU负责训练+LPU负责推理”的全场景覆盖。

第二板斧：20亿美元入股新思科技，卡住芯片设计的咽喉。2025年12月，英伟达以每股414.79美元的价格投资20亿美元入股全球芯片设计软件（EDA）霸主新思科技。这意味着什么？所有芯片在设计阶段就离不开新思的工具，英伟达把自己的GPU加速工具直接集成进新思的设计软件里，从芯片诞生之初就深度绑定。黄仁勋自己评价："这不是一笔普通投资，这是一场技术和设计的深度融合。

第三板斧：20亿美元砸向马斯克的xAI，把客户变成自己人。2025年10月，英伟达在xAI的新一轮200亿美元融资中，投资高达20亿美元。这笔钱表面上是股权投资，实质是通过特殊目的公司购买英伟达处理器，再租给xAI使用。黄仁勋公开表示对这笔投资非常兴奋，唯一的遗憾是没给xAI更多投资，希望能参与马斯克的所有业务。他把最大的客户变成了自己的被投企业——用你的芯片就是投你自己，一荣俱荣，一损俱损。

这三板斧打下来，黄仁勋的完整谋略就清晰了：横向吞下威胁最大的推理芯片挑战者（Groq），纵向卡住芯片设计工具的咽喉（新思科技），再用资本把下游大客户绑上战车（xAI），三管齐下，构建起“技术+资本+生态”的三重壁垒。对手想围剿？先过这三堵铜墙铁壁再说。

ASIC：只会一道菜的祖传老师傅

ASIC就是专用定制芯片，一辈子只炒一道菜——但这一道菜炒了三十年，炉火纯青，效率极高，功耗极低，成本还贼便宜。老师傅不会做别的，但就这一道菜，谁也比不过他。

谷歌的TPU就是ASIC的典型代表。它从设计之初就只干一件事：跑TensorFlow框架的AI计算。因为专注，所以极致。

随着大模型迭代放缓、推理需求爆发，算力市场正从"买万能菜刀"向“雇专精老师傅”加速转移。博通、Marvell等定制芯片巨头业务增长迅猛，靠的就是给云大厂量身打造ASIC——你要什么菜，我就给你焊一台只做这道菜的专用灶，连灶眼数量都精确匹配你的菜单。但是，ASIC 芯片与 GPU 的不是简单的非此即彼的替代关系，两者都有自己的优势，两者会形成长期共存、互补发展的格局。

FPGA：百变名厨

FPGA最神奇：它不是只会一道菜的老师傅，而是一位随身带着整套厨具的“百变名厨”。今晚想吃西餐，他能当场把炒锅换成平底锅，把蒸笼改成烤箱——硬件电路可以随时重新编程，功能想变就变。灵活性无人能及，特别适合研发新菜、试错迭代的场景。

不过FPGA也有软肋：单论效率比不上ASIC老师傅，比通用性又不如CPU总厨。所以它的主战场是5G基站、金融高频交易这些需要“极低延迟+可重新配置”的细分领域。在AI数据中心里，FPGA更像一支特种突击队——不打大规模战役，但执行特定任务时无人替代。

一个您可能没想到的视角：厨房里的“磨刀石战争”

四位名厨各显神通，但别忘了——他们手里的“刀”，也就是芯片制造工艺，几乎全攥在台积电和三星两家手里。

无论是英伟达的GPU、AMD的加速卡、谷歌的TPU还是英特尔的CPU，绝大多数顶尖逻辑芯片都要找台积电代工。台积电的3nm、2nm先进制程就像“磨刀石”，谁拿到更好的磨刀石，谁的刀就更锋利。这场厨房大战的底层，还藏着一场地缘政治博弈下的“磨刀石争夺战”——但那就是另一个更大的故事了。

▍第二层：存储系统——AI算力厨房的“三级仓库”

存储芯片，大白话就是“负责记”的芯片。AI模型动辄几千亿参数，每一次运算都需要高速读写海量数据。没有足够快、足够大的存储，再强的算力也白搭——就像后厨配了四位顶级名厨，但菜板只有巴掌大、冰柜五分钟才开一次门，大厨们只能干瞪眼等食材。所以，AI数据中心这座超级后厨，必须建一套层层递进的仓库体系。数据不能全堆在一个地方，也不能每次都跑远路去取。最聪明的做法，是按“用得多频繁、要得多快”分三级存放，离灶台越近越快，也越贵越小。

第一级：HBM——厨师手边的菜板，离锅最近的方寸之地

HBM全称高带宽内存，是整个存储体系里离GPU核心最近、速度最快的一层。它就是厨师灶台边那块菜板。切好的蒜末、码好的肉丝、调好的酱汁，全搁在菜板上。锅一热，手一伸就能够着。菜板不需要大，但必须抬手就到，分毫耽误不得。

技术上，HBM干了一件很绝的事：它不往旁边铺，而是往上叠。传统内存是一张一张平铺在电路板上，数据得走远路。HBM通过TSV（硅通孔）技术把多层DRAM芯片垂直堆叠起来，像盖摩天楼一样往上走，层与层之间用微米级的“电梯”直连。这样一来，数据不用横跨整张主板，而是垂直穿透，带宽直接飙到传统内存的上百倍。

英伟达最新的GB300搭载的是HBM3E，但战场的焦点已迅速转向HBM4。目前HBM4已正式进入量产商用阶段——SK海力士、三星、美光三大巨头正开足马力生产，全力保障英伟达等大客户的订单交付。这种16层DRAM堆叠的“超级菜板”，凭借翻倍的传输通道和超40%的能效提升，正在成为2026年算力厨房里最抢手的“战略物资”。这块菜板，不仅越做越大，围绕它的产能争夺也愈发白热化。

但无论菜板多快，它终归有个死穴：容量有限，而且贵得离谱。一块HBM的价格是同等容量普通内存的好几倍，所以只能放最紧急、最常用的数据。剩下的料，得往后面放。

第二级：DRAM——中央备餐台，正在做的菜全摆在这

DRAM就是服务器里的普通运行内存。它比HBM慢一拍，但容量大得多，是后厨里那张长长的中央备餐台。洗好的菜、备好的料、待用的调料碗，一盘一盘码在备餐台上。厨师转身就能拿，比去开冰箱快得多，但不如菜板抬手就到。

DRAM有个致命特性：断电就清空。下班拉闸，备餐台上所有东西全没。所以它只能放“正在做”的数据，不能当长期仓库用。真正存东西的地方，在后面。

第三级：SSD——后厨冰柜和冷库，长期存放的主力仓库

SSD就是固态硬盘。它是厨房里那台巨大的冰柜，或者说整座冷库。所有食材、半成品、冻品全在里面。容量巨大，价格便宜，但取一次得开门、翻找，速度跟菜板和备餐台没法比。

在AI训练场景里，训练数据、模型检查点、历史日志这些海量文件，平时全躺在SSD里。训练开始前，数据从SSD搬到DRAM备餐台，再搬到HBM菜板上，然后GPU大厨才开火。这条“SSD → DRAM → HBM → GPU”的搬运链路，每一步都在耗时间、耗电。

一个更绝的思路：存内计算——把仓库直接改成厨房

即便HBM快到这个地步，数据搬运仍然是整个系统最大的瓶颈。传统架构下，数据必须从HBM“坐车”去GPU核心完成计算，再把结果送回HBM。来回搬运的能耗和延迟极高。实测显示，大模型解码阶段，GPU超过95%的计算能力在闲置“干等”数据——相当于大厨握着锅铲，95%的时间不是在炒菜，而是在等传菜员把菜板上的料递过来。

于是有人提出了一个破天荒的思路：既然搬运这么累，那就在仓库里直接开火。这就是PIM（存内计算）。它直接在HBM内存芯片内部植入计算单元，让大部分数据无需搬运，在内存里当场完成计算，只有最终结果才送出去。三星在这方面走得很靠前，已推出HBM-PIM产品。在合作测试中，搭载HBM-PIM的AMD MI100加速器取得了性能翻倍、能耗减半的成绩。

三星、英伟达等机构还推进了PNM（近内存处理）技术——在HBM的逻辑芯片上放置特殊计算单元，直接在内存旁边执行计算。AMMA架构方案已将注意力计算延迟降至H100的1/15.5。用厨房的话说：HBM是把菜板搬到厨师手边。PIM是直接把菜板换成了带火的小灶台——料不用离开菜板，当场就炒了。

▍第三层：物理实现——AI算力厨房的“灶台与地基”

一、Chiplet（芯粒）→ 标准化预制菜模块

以前做芯片，走的都是SoC（系统级芯片）路线——把所有功能模块塞进一颗大芯片里，从零开始刻。就像做一道大菜，非得从切葱姜蒜开始，一步不能省。

但芯片越做越大，晶体管越塞越多，这条路快走到头了。原因很粗暴：芯片面积越大，制造良率越低。一颗巴掌大的芯片，只要上面有一个点坏了，整颗都得扔。

于是Chiplet思路登场：不搞大而全，改拼积木。把原来一颗大芯片拆成几颗小芯粒——计算芯粒、存储芯粒、I/O芯粒——分别用最合适的工艺造好，再拼在一起。也就是以前做满汉全席，得一个厨子从切葱姜蒜开始全包。现在直接上标准化预制菜模块——“肉块模块”、“菜叶模块”、“酱汁模块”——哪个模块坏了换哪个，肉用5nm工艺做，菜叶用成熟便宜的28nm工艺做，最后拼成一盘菜。良率上去了，成本下来了，迭代速度也快了。

AMD是Chiplet路线最激进的推行者，其EPYC服务器芯片早就用上了多芯粒拼接。英伟达B200也采用双芯粒设计，两颗计算芯粒通过高速互连拼成一颗“超级GPU”。这场从“大而全”到“模块化”的革命，正在重塑整个芯片产业。当然 Chiplet 也不是万能的，它最大的痛点是 "互连开销"：拼起来的芯片，芯粒之间的通信功耗和延迟，永远比单芯片内部高。这也是为什么现在 Chiplet 主要用在对功耗不那么敏感的服务器芯片，手机等消费级芯片还在谨慎尝试。

二、2.5D / 3D封装 → 立体中央灶台

芯粒有了，但怎么把它们拼在一起？这就轮到封装出场。现在AI 芯片的竞争，已经从“谁能造出最好的晶圆”，变成了“谁能把最多的芯粒拼在一起”。

2.5D封装：硅中介层→超平整中央灶台。

把几颗芯粒平铺在一整块硅基板上（硅中介层），灶台内部埋了密密麻麻的铜线，芯粒之间通过灶台内部的线路高速通信。比在PCB上绕远路快得多，密度高出一个数量级。台积电的CoWoS就是这个路线的绝对王者——目前唯一被大规模验证的2.5D方案，没有它，英伟达H200、B200、AMD MI300X即使晶圆造得再好，也只能干等着拼装。

3D封装：垂直堆叠→灶台不够大，直接盖楼。

把一颗芯片直接压在另一颗头顶上，中间打TSV（硅通孔）穿线，垂直互连。距离从厘米级缩到微米级，带宽暴涨，功耗骤降。HBM内存就是3D封装的典型——8层、12层、16层DRAM垂直叠在一起，通过TSV通信，带宽是传统平面内存的上百倍。但代价也明显：楼盖太高，散热是个大问题——芯片堆叠区热量极难导出，现在学界和产业界为了给3D芯片降温，冷板、微流道甚至芯片内嵌液冷全在攻关。

3.5D封装→混合方案。 

对传料要求最高的那对芯片叠起来（3D），其他平铺（2.5D），兼顾速度和散热。英伟达GB300就用的是3.5D——GPU和HBM通过硅中介层平铺连接，而HBM内部自己垂直堆叠。

有一个反直觉的真相：GPU设计得再好，封不进去也白搭。2026年台积电CoWoS产能较2025年底提升超过3倍，英伟达仍紧急追加全年订单包产线，AMD同样锁定了2027年上半年的全部预留产能。目前台积电 CoWoS 的最大瓶颈不是晶圆，而是封装测试设备，特别是高精度键合机，全球只有 ASML 和东京电子能造，交货周期已经排到了 2028 年，封装速度，正在决定AI芯片的出货上限。

三、PCB / 玻璃基板 → 厨房地基与承重梁

封装搞定了芯粒之间的互连，但整个封装模块最终还得装在什么东西上？这就是基板。

PCB（印刷电路板）→ 传统水泥地基。几十年来一直是芯片的底座——便宜、工艺成熟、产业链完整。但它有个致命弱点：软。芯片越做越大、芯粒越拼越多，基板尺寸从巴掌大往脸盆大走，有机材料的热胀冷缩和翘曲问题越来越严重。地基一晃，上面再精密的芯片都得跟着裂。

玻璃基板→ 新型钢化玻璃地基。玻璃极硬、极平、耐高温、热膨胀系数跟硅几乎一样——地基和上面的芯片“同胀同缩”，不会晃。更重要的是，玻璃能做更精细的打孔和布线，互连密度比有机基板高出一个数量级，还能在玻璃内部刻光路，直接把光模块集成进去。英特尔、三星、台积电都在重注投入玻璃基板技术，预计2027年前后量产导入。这条路线一旦跑通，就是AI算力厨房从“泥土地基”跨入“钢化玻璃地基”的质变。

▍第四层：互连网络——AI算力厨房的“传菜与调度系统”

光有人和料没用——菜和料必须流动起来，而且流动的速度直接决定大厨的利用率。AI集群的扩张有三种方式，分别对应后厨的三层调度：

Scale-Up（纵向扩容）→ 把一个厨房做大：不增加厨房数量，而是在同一个厨房里塞进更多大厨，让他们贴身协作。追求极致带宽和零延迟。

Scale-Out（横向扩展）→ 增加厨房数量：一栋楼里建几十上百个厨房，通过高速传菜系统协同出菜。追求弹性扩展和规模效应。

Scale-Across（跨域互联）→ 把不同楼栋的厨房连起来：跨越地理边界，让分布在城市各处的厨房也能协同作战，相当于组建一个“厨房联盟”。

互连网络就是支撑这三种扩张方式的后厨传菜与调度体系，完整路径是：GPU → 网卡 → 交换机 → 光模块 → 光纤 → 对端光模块 → 对端交换机 → 对端网卡 → 对端GPU，那么在这个过程中就出现了各种不同的提升传递速度的思路。

一、单机柜内互连（NVLink）→ 贴身传菜员

-NVLink是英伟达的私有高速互连协议，第六代产品单GPU带宽达3.6TB/s，是PCIe 6.0的14倍以上，Vera Rubin NVL72机架整体带宽达260TB/s——用黄仁勋的话说，“超过了整个互联网的带宽”。几位大厨配合一道大菜时，贴身传菜员就在他们身后小跑，直接把备料从一人手边递到另一人手边。专线服务，不跟别人挤，速度最快。此外，NVLink还通过NVLink-C2C（Chip-to-Chip）技术实现GPU间的直接通信，跳过CPU中介，将延迟压缩至微秒级，满足AI推理对实时性的严苛需求。这就是Scale-Up的核心——在一个厨房里做到极致协同。

二、机柜内总线（PCIe）→ 厨房内部公共走廊

大厨（CPU）去冰柜（SSD）拿东西、去备餐台（DRAM）搬料，全得走这条走廊。路宽（带宽）决定拿东西快不快，但因为是公用的，人多时得排队。当前主流的PCIe 5.0提供32GT/s速率，而即将普及的PCIe 6.0将带宽翻倍至64GT/s。更重要的是，PCIe通过CXL（计算快速链接）协议支持内存共享与资源池化，让不同厨房（服务器）可动态调用彼此的“食材库存”（内存资源），提升利用率。例如，某厨房缺某种调料时，可直接从隔壁厨房的“共享备餐台”调取，避免资源闲置。

三、跨机柜互连（InfiniBand / RoCE）→ 高速传菜电梯

不同厨房之间传菜，必须走专用传菜电梯，不能跟客人挤楼梯（标准以太网），否则菜凉了（延迟高），还容易掉包。InfiniBand是专用电梯，性能顶级但贵且封闭；RoCE是VIP快送通道，跑在标准以太网上，成本低、兼容性好，越来越多云厂商在用。此外，超以太网（Ultra Ethernet）由Meta等云巨头推动，基于标准以太网升级，通过PAM4调制和FEC技术提升带宽并降低延迟，试图打破InfiniBand的封闭生态，成为更开放的跨机柜互连方案。这就是Scale-Out的命脉——把几十上百个厨房串成一张网。

四、交换机→ 中央分拣中心

每个厨房门口的调度员把包裹送来后，都汇集到这里。没有它，几百个厨房之间的传菜就会变成一团乱麻。当前主流：电交换机，核心芯片被博通和思科高度垄断。它每收一个包裹都得拆开看地址再转发，每一步光电转换都在烧电，满载功耗动辄几千瓦。

未来方向：OCS（光路交换机）→ 全光分拣中心。思路很颠覆：不拆包裹，直接用MEMS微镜阵列把光束从入口反射到对应出口，全程光速直达。功耗直降70%-80%，一个320端口OCS满载不超过150W，同级别电交换机往往要几千瓦。但它一次只能建一条点到点光路，没法同时处理海量并发，所以更适合承担大规模、确定性强的跨机柜流量，和电交换机各司其职。谷歌是全球OCS最大的部署者：TPU v4集群用48个OCS把4096颗芯片织成3D环面网络，实测吞吐量提升30%、功耗降低40%、网络宕机减少50倍、资本开支降了30%。英伟达也在加速入局，计划2028年实现芯片集成OCS。我国工信部已明确要求推动OCS在算力中心的应用部署。

五、网卡（NIC / DPU）→ 厨房门口的收发室/调度员

每个厨房门口站一个调度员。普通调度员（NIC）只管收发快递；全能调度员（DPU）还能帮忙拆快递、查库存、甚至安保巡逻，把行政总厨（CPU）从杂活里解放出来。

六、光模块→ 这场厨房大战里最值钱的“军火”

如果说NVLink、InfiniBand、交换机是传菜的“调度体系”，那光模块就是让这些调度体系真正运转起来的底层物理通道。没有它，调度指令再精密也传不出去。光模块的工作很简单也很关键：把电信号变成光信号，顺着光纤“嗖”一下送到目的地；到了那头，再把光信号变回电信号。这一“电→光→电”的转换，就是AI算力厨房里最核心的远距离传菜方式。铜缆只能跑几米，光模块能跑几十米到几公里，还更省电。但光模块怎么突然成了资本市场的宠儿？原因就八个字：速率暴涨，供不应求。

随着AI集群从万卡迈向十万卡，每颗GPU需要配套的光模块数量急剧增加。一个由25万颗GPU组成的AI网络，如果每颗GPU配6个光模块，光模块费用本身就为每颗GPU增加约6000美元、功耗增加180W。2025年全球400G以上高速光模块出货量超6000万只，2026年800G以上预计冲到近6300万只，增长高达2.6倍。而1.6T光模块2026年需求预计达2500至2800万只，实际产能只有1500万只，缺口超40%。光模块企业满产满销，订单排到2028年。

一个光模块里面到底装了什么宝贝，能让资本市场这么疯狂？核心就三样东西，咱们用“传菜管道”的比喻一个一个说：

（1）激光器芯片——管道里的“光源引擎”。光模块的“心脏”是一颗能把电变成光的激光器芯片。这条管道用什么光源，直接决定能传多远、能传多快。目前主流方案有三种，选哪一种，基本等价于“这道菜要送多远”：

VCSEL（短跑选手） ：便宜、省电，但跑不远。主要用于数据中心内部几十米的短距离连接，目前市场占比约15%。

EML（马拉松选手） ：基于磷化铟衬底，把激光器和调制器集成在一起，调制速率高、长距离传输稳定性强。800G光模块普遍搭载多颗EML芯片，但成本占比也高。更要命的是——2026年EML芯片供需缺口接近1000万只，直接卡住了1.6T光模块的产能脖子。磷化铟衬底由海外企业高度垄断，国内厂商多依赖外部采购。国产厂商源杰科技（100G/200G EML量产）、长光华芯（200G EML验证中）正在加速突破。

硅光+CW激光器（弯道超车选手） ：用CMOS工艺做光芯片，成本低、功耗小、能集成。硅本身不发光，所以需要外接一颗CW连续波激光器当“光源外援”。2026年硅光模块渗透率预计突破50%，1.6T时代可达70%至80%。中际旭创、新易盛通过布局硅光芯片和CW激光器抢占技术制高点。

还有一个面向未来的“潜力股”：薄膜铌酸锂。铌酸锂的电光系数极高，能做超高速调制器，是高端光模块的关键材料，市场空间预计2031年达30亿美元。但目前薄膜铌酸锂和硅基异质集成的良率较差，纯硅光方案预计2026年才能突破。

（2）探测器芯片——管道另一端的“接收器”

有发就有收。光纤那一头需要一颗探测器芯片把光信号变回电信号。主流方案是PIN（便宜够用）和APD（加了信号放大器，用于长距离）。

（3）DSP芯片——管道里的“信号矫正员”

光信号传远了会变形，所以光模块里通常需要一颗DSP芯片来做信号修复和纠错。但这东西功耗大、还贵。于是有人开始琢磨：能不能把这玩意儿干掉？这就引出了光模块封装形态的演进——一场从“插U盘”到“焊死在芯片上”的技术革命：

可插拔光模块（传统方案）→ 可拆卸的管道接头：光模块是独立封装的器件，通过标准接口插在交换机面板上，像插U盘一样。好处是生态成熟、坏了随时换；问题是电信号从交换机芯片走到前面板接头，路径太长，损耗大、功耗高。

LPO（线性驱动可插拔）→ 拆了DSP的节能版接头：保留可插拔的形态，但把光模块里的DSP芯片干掉了，信号处理交给交换机芯片来干。好处是功耗直降40%至50%，800G场景下模块功耗仅8到10W；短板是传输距离受限，一般不超过2公里，还得跟配套交换机深度适配。目前中际旭创、新易盛在LPO技术上布局领先。

NPO（近封装光学）→ 把管道焊在交换机主板上：光引擎不再插在面板上，而是直接放在交换机芯片旁边的同一块主板上，电信号路径从几十厘米缩到几厘米。好处是功耗和损耗大幅下降——224G通道速率下，可插拔方案损耗超20dB，NPO约10dB。同时光引擎坏了还能单独换，兼顾了可维护性。业界公认NPO是CPO全面成熟前最实用的过渡方案。

CPO（光电共封装）→ 把管道直接焊进芯片里：终极方案。光引擎和交换芯片封装在同一个基板上，电信号路径缩到毫米级，功耗最低、密度最高。224G通道下损耗仅5dB。听着完美，但工程落地困难重重——64个端口集成在一块，任何一个失效整个芯片报废，整体良率远低于可插拔方案；而且坏了没法单独更换，维护成本极高。目前主要由英伟达推动，其他厂商多持观望态度。行业普遍判断，至少到2028年以后，可插拔方案仍将主导市场，CPO仅能作为特定场景的补充。

从可插拔到LPO、NPO再到CPO，本质上就是一场“把接头越做越近”的革命：离芯片越近，信号路径越短，功耗越低——但技术门槛和成本也越高。

▍第五层：能源供应——AI算力厨房的“能量基石”

一颗H100功耗700W，一颗B200飙到1000W，一台NVL72机柜功率密度直逼120kW——相当于同时开着60台家用空调。没有一套精密强悍的供电系统，芯片连机都开不了。能源供应层不负责计算，不负责存储，不负责传输，但它是一切的基础。厨房可以缺个配菜员，但绝不能断电。 而更严峻的现实是：电本身正变得紧张。国际能源署数据显示，2025年全球数据中心用电量飙升17%，AI数据中心增幅更达50%，同期全球电力需求增速仅3%。这场“能耗赛跑”中，AI算力厨房的“能量基石”正面临前所未有的挑战。

一、电力血脉：从电网到芯片的精密“能量转化链”

市电从电网输入是高压交流电，而AI芯片需要的是低压直流电。这中间，必须经历一场精密的“能量变形记”。

功率芯片——厨房的总配电柜： 它是电力系统的“核心翻译官”。基于氮化镓（GaN）的功率半导体是当前前沿方案：开关频率高、体积小、耐高温，效率可达98%以上。意法半导体已推出12kW级氮化镓功率变换器，英飞凌、德州仪器等加速布局，中国厂商亦在AI服务器电源领域抢占氮化镓赛道。功率芯片如同厨房的总配电柜——高压电从市政管道涌入，经它变压后，分配至各条用电线路，保障“安全”与“适配”。

高压直流供电（HVDC）——燃气管道总阀： 传统数据中心采用交流供电（AC），需经UPS转换，损耗高达10%-15%。HVDC技术“直击本质”：将市电直接整流为高压直流电送入机柜，省去一级转换，效率提升至95%以上。正如厨房燃气管道直接供应稳定气压，HVDC是AI机房的“主能源动脉”——电压稳定、路径最短、损耗最低。GPU功耗飙升的当下，HVDC已成标配，为算力“火炉”提供不熄的“气源”。

VRM（电压调节模组）——灶台上的终极减压阀： 高压直流电送入机柜后，仍需降压。GPU核心电压仅约1V，VRM便是“毫伏级精准减压师”，将电压精准调控至芯片所需。它必须紧贴芯片部署，因低压下线路损耗极为敏感。先进方案已将其集成至芯片封装基板，缩短供电路径。这如同灶台上的减压阀——燃气总管气压汹涌，VRM将其精细调节为文火或猛火，精准匹配芯片的“火力需求”。

二、智能调度：让每度电都“物尽其用”

硬件就绪后，如何智慧用能？电源管理系统如同“智能燃气调度中心”，精准指挥能量分配：

动态功率分配：实时监测GPU负载，为训练任务“爆炒”的芯片全力供能，为推理待机“慢炖”的芯片降低供电，闲置芯片则进入“微火”模式。更通过“削峰填谷”技术，预判功耗尖峰并平滑供电曲线，避免“总闸跳闸”。这恰似管理八台同时开火的灶台——爆炒者气足，慢炖者省气，空灶即关火，杜绝浪费。

AI赋能的能源大脑：融合AI算法的EMS系统更进一步，通过预测负载、优化电压动态调整水泵转速（如液冷系统中），甚至与电网互动：电价低谷时“储能充电”，高峰时“反向供电”或降载运行。这实现了“源网荷储”一体化，让数据中心从“用电大户”变身“电网伙伴”。

三、绿色突围：从“耗能巨兽”到“低碳先锋”

当AI算力厨房的灶台越烧越旺，环境压力如影随形。绿色化已从“加分项”变为“生存项”，贯穿能源生产、传输与消纳的全链条。

PUE：衡量能效的“黄金标尺”：PUE是核心指标，等于总能耗除以IT设备能耗，越接近1越高效。传统风冷数据中心PUE达1.5-1.8，冷板式液冷可降至1.1-1.2，浸没式液冷更突破1.05。中国新建大型数据中心PUE要求已低于1.3，一线城市不高于1.25，液冷成为“准入门槛”。降低0.01的PUE，可能意味数千万度电的年节省。

绿电直供：灶火燃自清风与阳光：“东数西算”战略将算力引向西部风光资源富集区。贵州、内蒙古等地绿电占比超50%，国家要求新建大型枢纽节点绿电消纳比例2027年不低于60%。数据中心可直接与新能源电站签订10-20年长协，绿电价格较电网低15%-20%。更前沿的“源网荷储一体化”让数据中心变身“柔性负荷”：电网高峰时降载，低谷时满发储能，最大化消纳绿电。

余热回收：废气变“暖意”： 服务器废热通过热交换器回收，用于供暖、泳池加热甚至农业温室。瑞典Stokab数据中心为哈姆比湖区供暖，年省能源相当于1.2万户家庭用电；国内万国数据河北园区已实现余热覆盖周边3平方公里。这恰如将厨房废气转化为温室暖风，让每一度热都不被浪费。

▍第六层：散热系统——AI算力厨房的“降温系统”

一颗H100功耗700W，一颗B200飙到1000W，一台NVL72机柜里几十颗GPU同时全速运转，散热量堪比一个大功率电炉持续烘烤。芯片不降温，十秒内就能把自己烧穿。厨房里别的可以凑合，排烟降温系统绝不能掉链子。散热系统，本质上就是一场“热搬运大赛”——芯片产生的海量热量，必须用最快、最省、最稳的办法搬出厨房，否则整个算力厨房将陷入“热熔瘫痪”。这关乎AI算力的生死存亡：灶台可以缺个炒勺，但绝不能停降温！

一、风冷时代：传统厨房的“排烟哲学”

风冷是数据中心的“原始降温法”，依赖空气对流搬运热量——服务器风扇狂吹，冷空气从地板涌入，热空气被天花板抽走，如同厨房用抽油烟机和排气扇对抗油烟。其优势不言而喻：便宜、结构简单、维护方便，曾支撑起互联网时代的算力需求。但AI算力厨房的“烈火”面前，风冷已成“杯水车薪”：

效率瓶颈：空气的导热系数仅为水的1/3000，搬运热量效率极低。GPU集群高功率密度下，风扇狂转也无力驱散“热浪”，机房如同用普通抽油烟机对抗几十口爆炒大锅，热空气淤积，局部热点频现。

能耗陷阱：风冷依赖大量空调和风扇，耗电量惊人。PUE值普遍高达1.5-1.8，意味着每1度电用于计算，需额外0.5-0.8度电用于散热——算力越高，电费账单越“烫手”。

空间枷锁：风冷需要巨大空间构建冷热通道，机柜功率密度受限，AI集群的“寸土寸金”需求难以满足。风冷如同旧厨房的排烟系统——应付家常菜尚可，面对AI算力的“满汉全席”，排烟管早已不堪重负。

二、液冷革命：水管编织的“极速冷却网”

当风冷力竭，液冷登场，用水的导热魔力重塑散热规则。其核心逻辑是：用液体替代空气，将热量“秒传”出机房。

1.冷板式液冷：芯片的“水冷铠甲”。技术原理：芯片表面紧贴一块布满微通道的冷板，冷却液（如水或专用冷却液）在板内高速流动，直接“贴肤”带走芯片热量，如同为芯片披上“水冷背心”。 

优势突破：效率飞升：导热效率是风冷的百倍，可将机柜功率密度提升至30kW以上；静音节能：无需高噪音风扇，PUE可降至1.1-1.2，节能效果显著。

2.浸没式液冷：服务器泡在“冷却温泉”

技术颠覆：将服务器完全浸没在绝缘冷却液中，热量通过液体直接吸收或相变带走，分为单相与两相：

单相浸没：液体保持液态循环，靠比热容吸热，系统简单可靠，如同“给整个灶台泡冷水澡”。

两相浸没：利用低沸点氟化液，芯片热量使液体沸腾汽化，通过相变潜热带走巨量热量，蒸汽冷凝后循环。散热效率再提升20%，节水48%，但部署成本与环保争议并存，如同“用冰镇汽水沸腾带走热量，蒸汽回收再利用”。

液冷正从“奢侈选项”变为“生存刚需”。2025年中国液冷市场规模破120亿元，2030年剑指1000亿，年增46.8%；2026年全球液冷渗透率将达30%。液冷水管，正编织成AI算力厨房的“生命冷却网”。

三、水耗之困：AI厨房的“隐形水源危机”

液冷虽高效，却背负“隐性偷水”争议——AI算力厨房正成为“吞水巨兽”，其水源消耗远超想象：

冷却塔蒸发：液冷系统并非完全闭环。热量被冷却液带走后，常通过蒸发冷却塔排入大气，约80%的冷却用水最终蒸发消失。数据中心的“冷水管”，实则连接着城市的“隐形排水管”。

发电水耗链：更隐蔽的是电力生产的水足迹。美国56%数据中心电力来自化石燃料发电，火电站需巨量水冷却。AI的每一次推理与训练，都在驱动两条水链：一条为芯片降温，一条为电厂供冷。

大型数据中心日耗水百万加仑，谷歌弗吉尼亚中心日需200万-800万加仑；生成100字AI文本耗水500毫升。国际能源署预警：2030年全球AI数据中心年耗水将翻倍至12000亿升，相当于纽约市日均用水峰值，AI的“智慧之火”越旺，市政水管的“干涸之危”越深。

结束语

这场AI 算力厨房的军备竞赛，从来不是单一口灶的比拼，而是从“四大名厨”的算力输出、三级仓库的存储流转，到传菜调度的互连网络、动力与降温的能源散热，全链条、全环节的系统较量。任何一个短板，都会成为整座超级后厨的效率瓶颈。今天，我们站在算力革命的关键节点：一边是大模型与 AI Agent 带来的指数级算力需求，一边是能源与环境的刚性约束。未来，技术融合将打破计算、存储与传输的边界，绿色算电协同将成为行业标配，开放生态也终将挑战一家独大的格局。算力不是冰冷的数字，而是数字时代的水和电。谁能打造出更高效、更绿色、更自主的算力底座，谁就能掌握下一个十年的数字经济话语权。

作者：杨玉林 国合华夏城市规划研究院人工智能产业研究中心主任、博士