摘要

如果今年你要给公司上一批 AI 服务器，第一反应可能是问：GPU 是哪一代？多少卡？算力多少？但真正到了机房落地，另一个问题会更早跳出来：这一柜热量怎么带走？最近 Dell 发布 PowerRack 和 PowerCool CDU C7000，把机架级 AI 基础设施和 220 千瓦级冷却能力放在一起讲；NVIDIA 从 GB200 NVL72、GB300 NVL72 到 Vera Rubin NVL72 / NVL144，也在把液冷、供电、互连、泄漏检测、模块化托盘和运维控制一起推进。这说明液冷不再只是“高级散热方案”，而是在 AI 服务器从单机走向整柜时，变成了基础设施问题。

热从哪里来？

如果今年你要给公司上一批 AI 服务器，第一反应大概率是问：

GPU 是哪一代？

有多少卡？

算力是多少？

这些当然重要。

但等项目真的落到机房，另一个问题会更早跳出来：

这一柜热量怎么带走？要理解这个问题我们要先问一下热从哪里来

热当然不是凭空出现的。

AI 服务器里的热，主要来自三个地方。

第一，是 GPU 本身。

训练和推理时，GPU 会长时间处在高负载状态，大量电能被转化为计算能力，同时也被转化为热量。GPU 数量越多、功耗越高，热量就越集中。

第二，是围绕 GPU 工作的一整套高性能部件。

高带宽内存、CPU、PCIe Switch、高速网卡、电源模块，都在为数据搬运和计算协同服务。AI 计算不是单个芯片在发热，而是一整套高速系统在持续发热。

第三，是密度。

过去一台服务器的热量可以分散在机柜里慢慢处理，但 AI 服务器往往把多张高功耗 GPU、复杂互连和大功率供电集中在很小的空间里。单台机器功耗上去了，整柜功率也会被迅速推高。

所以 AI 机柜的问题，不只是“总热量变大”，而是“单位空间里的热量变得非常集中”。

这也是为什么 AI 服务器一旦进入整柜交付阶段，散热就不再是后置配套问题，而会变成方案设计一开始就必须考虑的核心问题。

从单机部署到整机柜交付

过去买服务器，很多企业习惯先看配置，再看机柜有没有位置，最后让机房同事确认电和空调能不能接住。

这个顺序在传统 IT 时代通常没太大问题。

因为一台普通服务器再热，大多还在风冷体系能处理的范围里。

但 AI 服务器不一样。

AI 服务器不是普通服务器多插几张卡。

它会把 GPU、高带宽内存、CPU、高速互连、供电模块集中在很小空间里。

热量不仅更大，而且更集中。

更关键的是，今天很多 AI 方案已经不是“买几台服务器”，而是“交付一整柜”。

一台机器热，是设备问题。

一整柜机器热，就是机房问题。

这就是为什么液冷这两年越来越常出现在 AI 服务器讨论里。

它不是为了听起来高级，而是为了回答一个朴素的问题：

当一柜设备动辄几十千瓦、上百千瓦时，热量到底怎么被稳定带走？

最近的厂商动作已经把这个问题摆到台前。

2026 年 5 月 18 日，Dell 发布 PowerRack 机架级 AI 基础设施方案。

这条消息最值得注意的，不是 Dell 又做了一套 AI 机柜，而是它把 PowerRack 和 PowerCool CDU C7000 放在一起讲。

Dell 官方提到，PowerCool CDU C7000 面向 NVIDIA Vera Rubin NVL72 这类高密平台，4U 体积可覆盖超过 220 千瓦冷却能力。

这说明散热已经不是“服务器到了之后再配”的事，而是在机架级方案设计时就要一起确定。

NVIDIA 的路线也一样。

从 GB200 NVL72 到 GB300 NVL72，再到 Vera Rubin NVL72 / NVL144，NVIDIA 讲的也不再只是某颗 GPU，而是一整套机架级系统：

GPU、CPU、NVLink、交换托盘、DPU、网络、供电、冷却和运维控制。

换句话说，AI 服务器正在从“单机采购”变成“整柜工程”。

只要理解这一点，就能理解为什么液冷会突然变重要。

先讲最基本的。

风冷到底在做什么？

它其实很直观：

冷空气从服务器前面进去，流过 CPU、GPU、内存、电源等发热部件，把热量带走，再从后面排出去。

机房里的空调、冷热通道、回风系统，再把这些热空气处理掉。

风冷的优点很多。

成熟。

便宜。

运维熟悉。

配件和经验都很丰富。

所以我们不应该把风冷说成“落后技术”。

在大量普通业务里，它仍然是非常合理的选择。

问题在于，AI 服务器把风冷带到了更难的位置。

难点有三个。

第一，热量更大。

AI 服务器的 GPU、HBM、CPU 和供电模块功率都很高，一台机器就可能顶过去很多普通服务器。

第二，热量更集中。

普通服务器可能是“整台都温热”。

AI 服务器更像“几个核心部件特别烫”。

局部热点如果压不住，就可能影响频率、稳定性和寿命。

第三，热量更密。

过去一批热源可能分散在很多机柜里。

现在一整柜 AI 节点集中上架，热都挤在同一片空间里。

对机房来说，真正难的不是总热量，而是单位空间里的热量。

可以用一个很简单的比喻：

一杯热水放在桌上，很容易散热。

一整箱热水堆在柜子里，就不是同一个问题了。

AI 服务器现在越来越像后者。

那液冷到底是什么？

先记住一句话：

风冷搬走的是热空气，液冷搬走的是热量本身。

风冷先让热量进入空气，再把热空气带走。

液冷尽量在热源附近就把热接走。

为什么液体更适合做这件事？

因为液体携带热量的能力比空气强得多。

空气要带走很多热，需要很大的风量、更高的风压和更强的气流组织。

液体则可以用更小的体积带走更多热。

这就是液冷在高密 AI 服务器里越来越重要的原因。

不过，“液冷”不是一种方案，而是一组方案。

从三种主流液冷路线

第一类，是后门热交换器。

可以理解成在机柜后门加一个换热装置。

服务器排出的热空气经过它，被冷却后再回到机房环境里。

这种方式对既有风冷体系比较友好。

第二类，是直触芯片液冷，也就是 Direct-to-Chip。

它通过冷板贴近 CPU、GPU、内存等发热部件，让冷却液在热源附近把热带走。

这是当前 AI 服务器最常被讨论的路线。

但要注意，直触芯片液冷通常不等于完全不要风冷。

很多 D2C 方案主要负责 CPU、GPU 这些核心热源，剩下的电源、网卡、SSD、主板其他部件仍然需要空气带走余热。

所以真实部署里经常是“液冷为主，风冷补足”。

第三类，是浸没式液冷。

这类方案把服务器或部件放进绝缘冷却液中，让液体直接吸热。

它看起来最有冲击力，换热能力也强，但对设备形态、维护习惯、材料兼容性和运维流程要求更高。

还有一个词必须认识：CDU。

CDU 可以理解为冷却液分配单元。

如果用电力系统做类比：

配电柜负责把电分给不同设备。

CDU 则像液冷系统里的“冷量分配站”。

服务器里的热被冷板和液体带出来后，不是随便找根管子流走。

它要经过机柜内分配、行级汇流、CDU 换热、设施侧冷却回路，最终把热排出去。

所以液冷不是“服务器上多几根管子”。

它是一条完整链路：

芯片发热。

冷板接热。

冷却液带热。

CDU 分配和换热。

设施侧系统把热排走。

这条链路中任何一环没做好，整柜稳定性都会受影响。

讲液冷，最好的观察样本之一是 NVIDIA 这几代机架级平台。

因为它们不是简单“GPU 更强”，而是把 AI 服务器从单机推向整柜系统。

先看 GB200 NVL72。

官方资料显示，它把 36 个 Grace CPU 和 72 个 Blackwell GPU 放进一个机架级、液冷设计里，并通过 NVLink 让 72 个 GPU 形成一个高带宽计算域。

重点不是“72”这个数字。

重点是：过去很多人熟悉的是 8 卡服务器，再通过网络把很多服务器连起来。

GB200 NVL72 则试图把一整柜做成一个更紧密的计算系统。

这么高密度的计算和互连，靠传统风冷很难舒服地承接。

所以在 GB200 NVL72 里，液冷不是附属条件，而是让整柜架构成立的基础条件。

NVIDIA 后来还把 GB200 NVL72 的机架、计算托盘、交换托盘液冷设计贡献给 OCP。

这说明液冷机架正在从厂商内部方案，走向开放设计和生态复用。

一句话概括：

GB200 NVL72 把液冷带进 72-GPU 机架级计算域，让“整柜即系统”成为主线。

再看 GB300 NVL72。

到了 GB300，变化不只是“更强”。

GB300 仍然是 72 个 GPU、36 个 CPU 的机架级形态，但重点开始从“能不能装进一柜”，转向“这一柜能不能长期稳定运行”。

NVIDIA 的企业参考架构里写得很细：

满柜功率最高可到 142 kW。

机架内有 9 个 NVSwitch 托盘。

有托盘级和机架级液体泄漏检测。

供电侧包括 8 个 33 kW power shelf。

这些数字不是为了炫参数。

它们告诉机房团队：到了 GB300 这一代，液冷已经和供电、泄漏检测、交换托盘、设施侧冷却、运维管理绑在一起。

一句话概括：

GB300 NVL72 把液冷从“散热方案”推进到“高密机架的运维系统”。

再看 Vera Rubin。

NVIDIA 把 Vera Rubin NVL72 称为第三代 MGX NVL72 机架设计。

它不只包含 Rubin GPU 和 Vera CPU，还引入 NVLink 6、ConnectX-9、BlueField-4、Spectrum-X 以太网交换，以及更模块化的托盘设计。

这说明下一代机架已经不是单独优化 GPU。

它是在同时优化计算、网络、DPU、安全、管理、存储和冷却。

Vera Rubin NVL144 CPX 又把重点放到更大上下文推理和更大机架级内存上。

未来 AI 负载不只是训练大模型，也会有越来越多长上下文推理、agentic AI、检索和多轮推理任务。

这些任务会让机架级计算、内存、网络和冷却继续一起升级。

一句话概括：

Vera Rubin 把液冷放进下一代 AI 工厂底座里，和网络、DPU、模块化托盘、长上下文推理一起演进。

把三代连起来看，路线很清楚：

GB200 解决的是：高密 GPU 和高速互连怎么放进一个液冷机架。

GB300 解决的是：这个高密机架怎么供电、监控、检测泄漏、接入设施侧冷却，并长期运行。

Vera Rubin 解决的是：下一代 AI 工厂如何把计算、网络、DPU、模块化托盘和液冷一起作为底座。

所以，NVIDIA 的液冷演进不是“水冷越来越强”。

更准确地说，是整柜工程能力越来越完整。

那中国液冷现在怎么样？

先说结论：

中国液冷不是空白，进展也很快。

ODCC 很早就发布过液冷应用和发展白皮书，国内云厂商、运营商、整机厂、冷却设备厂商也都在推进冷板、浸没、喷淋等路线。

但如果拿国内多数项目和 NVIDIA、Schneider、Vertiv 围绕 GB200、GB300、Vera Rubin 做的全球前沿 AI 工厂方案相比，差距不只是“有没有液冷设备”。

差距主要在五个地方。

第一，从部件能力到系统闭环，还有距离。

国内冷板、CDU、管路、快接头、冷却液和整机厂商都在发展。

但真正难的是把这些部件放进同一套高密 AI 机架里，做到长期稳定、可维护、可复制。

第二，标准接口和生态协同还需要完善。

液冷最怕每家都有方案，但彼此不好兼容。

快接头规格、冷板接口、监控协议、告警模型、维护流程，如果不能逐步统一，规模化以后运维成本会很高。

第三，长期运行数据还需要积累。

液冷样板项目跑通，只是第一步。

真正关键的是三年、五年维度的数据：

泄漏率、堵塞、腐蚀、冷却液衰减、故障恢复、备件周转、维护窗口。

这些数据越多，企业才越敢大规模上。

第四，老机房改造经验不均衡。

头部互联网和运营商经验更多，但很多普通企业和区域智算中心面对的是老机房。

难点可能不在服务器，而在配电、承重、管路路径、维护通道、施工组织和消防协调。

第五，运维人才和软件体系还要补课。

液冷运维不是风冷运维的简单升级。

它需要看流量、压差、供回液温度、CDU 状态、泄漏检测、材料兼容性和液路维护。

如果还要把功率管理、液冷控制、数字孪生、AI 基础设施管理打通，就需要 IT 和 OT 团队一起工作。

这对很多企业来说，是新的组织能力。

所以，对中国液冷更准确的判断是：

中国有市场需求、制造基础和样板项目，但下一阶段竞争重点会从“能不能做液冷设备”，转向“能不能做整柜验证、标准接口、长期可靠性和运维软件闭环”。

最后，企业怎么判断自己是不是该认真考虑液冷？

不要问“液冷是不是趋势”。

这个问题太大，也太容易变成口号。

更实际的问题是：

我们现在是不是到了该认真考虑液冷的阶段？

可以问五个问题。

第一，我们只是试点几台 AI 服务器，还是一年内可能扩到多柜？

第二，我们买的是单台服务器，还是整柜、预验证、一体化方案？

第三，现有机房真正卡在哪里，是电、冷、承重、管路，还是维护空间？

第四，我们是在老机房改造，还是新区域建设？

第五，我们的目标是先跑起来，还是长期扩起来？

如果答案越来越偏向高密、整柜、持续扩容，那液冷就不该放到最后才讨论。

最后，把今天这篇文章压缩成一句话：

液冷越来越重要，不是因为它是新技术，而是因为 AI 服务器正在从单机走向高密整柜；到了整柜时代，先被考验的往往不是芯片，而是机房能不能把热带走。

这意味着什么

事实：NVIDIA 从 GB200 NVL72、GB300 NVL72 到 Vera Rubin NVL72 / NVL144，持续把液冷、供电、互连、泄漏检测、模块化托盘和运维控制一起推进；中国液冷市场增长很快，但标准接口、长期可靠性数据和整柜工程闭环仍需要继续完善。

判断：液冷正在从高端加分项变成高密 AI 服务器部署中的基础设施前提；下一阶段竞争重点会从单点部件能力，转向整柜级验证、设施协同和运维软件闭环。

推断：未来企业讨论 AI 服务器时，会越来越早把 NVIDIA 机架代际要求、冷却路线、CDU、设施侧回路和老机房改造边界纳入前期评估。

参考来源

Dell 官方博客（2026-05-18）

NVIDIA GB200 NVL72 官方产品页

NVIDIA GB200 NVL72 OCP 设计贡献新闻稿 / 技术博客

NVIDIA GB300 NVL72 官方产品页与 Enterprise Reference Architecture

NVIDIA Vera Rubin NVL72 / NVL144 CPX 官方资料

Schneider Electric 支持 NVIDIA GB300 NVL72 的参考设计新闻稿

Vertiv 教育文章与液冷白皮书

ASHRAE Journal 冷板文章

ODCC 液冷白皮书与 ODCC/C2E2/ITU 液冷简报

IDC / 浪潮信息中国 AI 计算力报告相关公开报道