乐于分享
好东西不私藏

从一个“数据中心外行”的角度,拆解 AI 数据中心最后 10 米配电

从一个“数据中心外行”的角度,拆解 AI 数据中心最后 10 米配电
从 rPDU、Power Shelf 到 DC Busbar,我重新理解 AI 服务器到底怎么“耗电”。
以前我对数据中心不能说陌生。
之前 Dell 的数据中心项目,我也参与过一些配电改造。市电进来以后,经过中压柜、变压器、低压开关柜、UPS,再到后面的列头柜、母线槽、rPDU,最后给服务器供电,这个大框架我是知道的。
大概就是:
这个结构以前看过,也做过项目,所以不算陌生。
但最近我发现一个问题:
我知道的是“大框架”,但到了末端,尤其是从插接箱、rPDU,一直到服务器内部 PSU、GPU 供电这一段,其实并没有拆得特别细。
比如这些问题,我以前并没有真正一层一层想清楚:
  1. AIDC 到底为什么这么耗电?耗电是耗在整机、GPU,还是机柜和Pod级系统上?
  2. 从 H100 到 GB200 NVL72,服务器形态到底发生了什么变化?为什么从“服务器插电”走向了“整柜级供电”?
  3. 单柜从 40kW 走到 130kW 以后,原来的列头柜、母线槽、插接箱、rPDU 还能不能支撑?
  4. rPDU 的边界在哪里?它解决的是插座级计量,还是机柜级供电健康?
  5. 服务器明明最终是直流供电,那从 10kV 市电到 GPU 芯片 1V 左右,中间到底经过了哪几级 AC/DC、DC/DC 变换?
  6. 为什么 AI 服务器越来越多变成 48V / 50V?Power Shelf 和传统服务器 PSU 的区别到底是什么?
  7. Power Shelf、DC Busbar、BBU 出现以后,数据中心末端供电的监测点会不会从 rPDU 转移到母线插接箱、Power Shelf、DC Busbar 和机柜级备电?
这件事的起因也很直接。有客户把我们的 EnerTrek 用到了数据中心。
但我反过来问自己:为什么要用?有没有必要用?到底用在什么位置?rPDU 不是已经有计量、告警、通信了吗?那客户为什么还要接我们的设备?
如果这个问题不想清楚,我就不知道 EnerTrek 在数据中心这个场景里到底怎么定位。所以我想把这条线扒一遍。沿着电的流向,从电网一直看到 GPU 芯片,看看中间到底经过了哪些设备,哪些地方发生了变化,哪些地方可能需要监测。

PART 01

先从功率变化说起
以前普通数据中心机柜,几 kW 到十几 kW 很常见。服务器多一点的机柜,二三十 kW 已经不低。
但 AI 服务器上来以后,功率变化很明显。
以 NVIDIA DGX H100,或者基于 HGX H100 平台的 8 卡服务器为例,整机最大功耗大约 10kW 级别。DGX H100 官方规格约为 10.2kW max;如果按单颗 H100 SXM GPU 约 700W 计算,8 颗 GPU 本体功耗合计约 5.6kW。
也就是说,一台 8 卡 H100 服务器里,GPU 本体就已经占了整机功耗的一半以上,剩下的功耗来自 CPU、内存、NVSwitch、网卡、SSD、风扇/液冷、电源转换损耗等。
DGX H100
                             Supermicro SYS-821GE-TNHR
如果一个机柜放 4 台这样的服务器:4 台 × 约 10kW ≈ 40kW
再加上风扇、网络设备、供电损耗等,整柜大概可以按 42kW 这个量级理解。
这个阶段虽然功率已经不低,但它还是比较传统的服务器供电方式
也就是说,H100 / H200 这一代,本质上还是“服务器插电方式供电”。一台服务器里面有多个 3000W 左右的 PSU。单个 PSU 在 200V 到 240V 输入下,电流大概十几安培。这个时候用 C19/C20、高规格 rPDU、三相 rPDU,逻辑上还是成立的。
rPDU 柜内供电给服务器设备,给H100供电,只是rPDU 要变成更高功率的版本。但是到了 GB200 NVL72,情况就不一样了。
如果说 H100/H200 时代,一台 8卡服务器大约是 10kW 级别,那么到了 B200/B300 时代,8卡服务器已经接近 14kW~14.5kW。
SuperServer SYS-822GS-NB3RT
这意味着一个机柜如果继续放 4 台 8卡服务器,整柜功率会从 H100 时代的 40kW 级,进一步上升到接近 60kW(A/B 路冗余,实际电源功率会更大)。
这个阶段 rPDU 仍然可以使用,但已经要求更高规格的三相输入、A/B 路冗余、温升监测和上游母线插接箱配合。
再往上到 GB200/GB300 NVL72,不是几台服务器装进一个机柜,而是一个整柜级系统。它的整柜功耗大约 124kW 到 132kW,其中 GB200 超级芯片功耗大约 97kW,占整柜功耗大约 78%。这个量级就很夸张了。一台柜子本身就是 100kW 以上的负载。情况就不再是“几台服务器插到 rPDU”了,而是整柜级 Power Shelf + DC Busbar 架构,单柜直接进入 125kW~135kW 级别。
                                    NVIDIA GB200 NVL72 Rack
这个“小霸王”的配电结构肯定和H100 B100/200的方案不一样了,C19 C20的那玩意支持不了这么大的电流。 单个 Power Shelf  33kW 如果按 400V 三相、33kW、功率因数粗略按 0.95 算:I = 33,000 ÷ 1.732 ÷ 400 ÷ 0.95≈ 50A
这里我还有一个问题没有完全想明白:当单柜功率继续增大时,Power Shelf 从 Tap Box 取电的方式会不会发生变化?
目前公开资料里,ORv3 Power Shelf 的上游仍然明确出现 tap-box / facility power。比如 33kW ORv3 Power Shelf 资料写到,它可以 direct connection to tap-box / facility,中间不需要传统 PDU;Advanced Energy 的 33kW Power Shelf 资料也写到 upstream 是 60A IEC breaker。
Vertiv 的 AI 数据中心参考设计里,也能看到 Busbar and Tap-off Boxes。一些设计里甚至直接写到:每个计算 rack 配 60A TOB,同时每个计算 rack 配 8 个 33kVA DC Power Shelf。
所以从公开资料看,现阶段 Power Shelf 上游仍然可以是:
但我还没有完全想明白的是:如果像 GB200 / GB300 NVL72 这种整柜系统,一台机柜有 8 个 Power Shelf,实际项目里这个 Tap Box 到底怎么做?
是多个 60A TOB 分别给 Power Shelf 供电?
还是一个高电流 Tap Box 内部集成多路保护输出?
或者是母线槽先把电送到机柜附近,再由 Rack Power Cabinet / Sidecar Power Cabinet 进一步分配给多个 Power Shelf?
这个问题很现实。因为母线槽容量可以做大,但机柜宽度、Tap Box 尺寸、出线数量、断路器数量、线缆弯曲半径、温升和维护空间都不是无限的。
所以我现在的理解是:Tap Box 仍然存在,但它的角色可能正在从传统 rPDU 上游取电点,变成高密度 AI 机柜的多回路电源入口。至于具体是多个 60A TOB、高电流 TOB,还是机柜侧配电柜,需要看不同厂商和项目设计。
这块我还没见过足够多的资料,有做过高密度 AI 机柜供电设计的朋友,欢迎给点指点。

PART 02

从 42kW 一柜,到 1.2MW 一个 Pod
我们拆一下 NVIDIA Blackwell DGX 4×1.2MW SuperPODs 那张供电和冷却系统图,一开始只是觉得图比较复杂。
但我们仔细把数字一个个拆出来,才发现这张图其实很有价值,很快就能理解 AIDC的配电结构。一个 Pod 里面大概是:
8 个 132kW 计算机柜 + 10 个 12kW 网络 / 存储机柜
计算机柜部分:8 × 132kW = 1056kW
网络和存储机柜部分:10 × 12kW = 120kW
所以一个 Pod 的 IT 负载就是:1056kW + 120kW = 1176kW
也就是大约 1.176MW。(意味着什么?不做冗余,单路 N 架构,给配电行业兄弟们找个熟悉的对比,一个Pod 就是 1 台 2000kVA 变压器,可想这数据中心有多大,当然我也没去过这么大的数据中心,如您有这么的数据中心资源,可以带我去参观学习一下。)
这就是为什么它是 1.2MW 级的 SuperPOD。一个 Pod 就已经是 MW 级 IT 负载了。
这个功率层级变化,来直观的感受一下
一台 8 卡 H100 服务器,大约 10kW;
一个 H100 风冷机柜,如果放 4 台 8 卡服务器,大约 42kW;
到了 GB200 NVL72,一台柜子已经不是几台服务器的组合,而是一套整柜级 AI 计算系统,功率直接进入 125kW~135kW;
再往上,一个 Blackwell SuperPOD,IT 负载大约 1.176MW。
从一柜 42kW,到一个 Pod 1.2MW:数据中心末端供电 也跟着变了。

PART 03

从 10kV 到 1V,电到底怎么到 GPU?
之前给数据中心做配套时候,大概知道 UPS、列头柜、rPDU、服务器。从来没有想过电网到 GPU 芯片,到底需要几个环节,每个环节有哪些不同的情况。我们细剖一下
中压交流到低压交流
数据中心一般从 10kV 或者更高电压等级接入。经过中压柜、变压器、低压开关柜以后,变成 380V(400V)  交流电。
这一层是传统电气工程比较熟悉的部分。对 EnerTrek 来说,这一层当然也可以做监测,但中压柜、变压器、低压总柜这些环节,属于重资产、强认证、强品牌、强工程交付领域,不一定是最容易切进去的第一入口。
第二层,UPS / HVDC / 巴拿马电源 / SST
低压交流出来以后,传统方案通常进入 UPS。UPS 的路径是:AC → DC → AC
先整流成直流,再逆变成交流,保证输出质量和不断电能力。
HVDC 的路径更短:AC → DC
它省掉了逆变环节,直接输出直流给后端。目前 HVDC 里常见 240V DC 和 336V DC 两类方案。240V DC 用得更广一些,主要是兼容性好,对既有服务器电源、配电设备和运维体系更友好。
                               2.4MW-10kVAC/240DC-SST产品实物图
再往前端集成化方向看,就会出现巴拿马电源,我都不知道有这么个配电结构,这是阿里联合中恒台达做的一个方案,但是国际推广不多。
我现在理解的巴拿马电源,不是简单的普通 HVDC,而是把前端供电链路做得更集成。它把一些原来分散的环节放到一个系统里,
再往后看,就是 SST 固态变压器,这玩意现在比较火,我相信知道的人应该很多。SST 更像电力电子变压器,也可以理解成能源路由器。它可以把中压交流直接变成多种直流或交流输出,未来更适合和储能、光伏、微电网、高压直流结合。
第三级,服务器 PSU / Power Shelf
传统服务器里,这一级是服务器内部 PSU 完成的:220V AC 或 240V DC  → 服务器 PSU→12V DC
以前很多服务器内部是 12V 体系。但现在 GPU 功耗越来越高,12V 的问题就出来了。同样是 100kW:100kW ÷ 12V ≈ 8333A           100kW ÷ 48V ≈ 2083A
电压提高到 48V / 50V 后,电流压力会小很多,母排、连接器、损耗都会更容易处理。所以现在高密度 AI 机柜越来越多往 48V / 50V 架构走。
到了 GB200 NVL72 这种机柜,供电变成:AC 输入→Power Shelf 集中整流→50V DC Busbar  Compute Tray / NVSwitch Tray
也就是说,AC/DC 转换从每台服务器内部,前移到了机柜级。以前是每台服务器自己带 PSU。现在是整柜级 Power Shelf 统一供电。
Power Shelf 不是简单的大号电源模块。它是整柜级供电入口。以 GB200 NVL72 为例,一台机柜里面有 8 个 1U 33kW Power Shelf。
每个 Power Shelf 内部有 6 个 5.5kW PSU:6 × 5.5kW = 33kW
8 个 Power Shelf 总装机能力就是:8 × 33kW = 264kW
但这个 264kW 不是这台机柜的实际运行功耗。GB200 NVL72 整柜实际运行功率大约是 125kW 到 135kW。264kW 是电源系统装机能力和冗余能力。换句话说,一部分 Power Shelf 或者一条供电路径出问题时,剩下的电源仍然要能支撑整柜运行。
最后一个板卡电源
Power Shelf 输出的 48V / 50V,并不是直接送到 GPU 芯片。以 GB200 这类整柜级系统为例,机柜里的 48V / 50V DC 会先通过 DC Busbar 进入 Compute Tray,再进入托盘内部的 Power Distribution Board,也就是电源分配板。
这张图里标出来的48V Bus Bar Connector,就是整柜直流母排和计算托盘之间的电源入口。中间的Power Distribution Board,负责把进入托盘的直流电继续分配到不同板卡和电源区域。
但 GPU 芯片真正工作的电压,并不是 48V,也不是 12V,而是 1V 左右甚至更低的多路低压电源。所以最后还需要板卡上的 DC/DC,也就是 VRM,把上一级直流电继续降压:
48V / 50V 或中间 12V板卡 DC/DC / VRM1V 左右及多路低压GPU Core / CPU / HBM / NVSwitch

PART 04

DC Busbar 在机柜里到底干什么?
Power Shelf 输出 50V DC 以后,不可能再靠一堆传统电源线去分。这时候就需要 DC Busbar。DC Busbar 可以理解成机柜内部的直流母排。它把 Power Shelf 输出的 48V / 50V DC 分配给 Compute Tray、NVSwitch Tray 等负载。
传统服务器时代,机柜里的供电更多是:
rPDU一根根电源线服务器 PSU
也就是说,rPDU 负责把交流电分给每台服务器,每台服务器再通过自己的 PSU 做 AC/DC 转换。
到了整柜级 AI 系统,逻辑变了:
Power Shelf
↓
DC Busbar
↓
Compute Tray / NVSwitch Tray
↓
板卡电源
Power Shelf 负责把输入电源集中转换成 48V / 50V DC,DC Busbar 再把这一路直流电分配到机柜内的 Compute Tray、NVSwitch Tray 等负载。

PART 05

rPDU 不会消失,但会分层
有了 Power Shelf,不代表 rPDU 马上消失。
5kW 到 30kW
普通服务器、存储、网络设备、企业机房、传统云计算机柜,仍然会大量使用 rPDU。
这些场景需要的是:
  • 插座输出支路计量
  • 远程开关
  • SNMP / Modbus 接入
  • A/B 路管理
rPDU 仍然是主流。
30kW 到 80kW
H100 / H200 这类高功率 GPU 服务器,一个柜子放 3 到 4 台,功率可能到 40kW 左右。
这时候 rPDU 还能用,但要用更高规格:
  • 三相 63A / 100A
  • C19 输出
  • A/B 路冗余
  • 支路电流监测
  • 温度监测
  • 上游母线插接箱配合
这一阶段 rPDU 也能用 。
100kW 以上
到了 GB200 NVL72 这种 125kW 到 135kW 整柜系统,传统插座条式 rPDU 就不再适合作为核心供电入口。
这个阶段应该是:
母线槽 / RPP
↓
Power Whip
↓
Power Shelf
↓
50V DC Busbar
↓
Compute Tray / NVSwitch Tray
Power Shelf 成为机柜供电入口。
DC Busbar 成为机柜内部直流分配主干。

PART 06

Busway会成为趋势
传统数据中心末端配电一般是:
UPS 输出柜
↓
列头柜
↓
电缆
↓
机柜 rPDU
这个方式很成熟。但它的问题是固定。
列头柜位置固定,电缆路径固定,回路容量固定。
如果后期机柜功率变化,或者一排机柜从普通服务器换成 AI 服务器,就很麻烦。
AI 数据中心的问题恰恰是变化太快。
一代服务器可能是 40kW 一柜,下一代变成 130kW,再下一代可能到 300kW 甚至更高。
如果末端配电还是一次性固定设计,那每次服务器换代,配电系统都要跟着改。
母线槽的价值在于:
  • 先把主干供电能力铺好
  • 机柜需要哪里取电,就在哪里插接
  • 负载变化时更换或增加插接箱
  • 扩容时不必大规模重新敷设电缆
  • 监测点可以靠近负载
所以母线槽不是为了好看,也不是单纯替代电缆。
它更像是把末端配电从一次性工程,变成一个可扩展、可调整、可监测的平台。

PART 07

BBU 会不会改变后备电源方式?
除了 Power Shelf,还要关注 BBU。
BBU 是 Battery Backup Unit,也就是电池备份单元。由集中变分散的一种思路?
传统数据中心更多依赖集中式 UPS。
但是 AI 机柜功率太高,未来可能会出现:集中 UPS+机柜级 BBU+Power Shelf+DC Busbar
BBU 可以做什么?
  • 短时备电
  • 削峰填谷
  • 掉电保持
  • 降低集中 UPS 压力
  • 配合 Power Shelf 做直流侧备电
  • 提高机柜级供电连续性
但 BBU 也会带来新的监测需求:
  • 电池电压
  • 充放电电流
  • SOC
  • SOH
  • 温度告警
  • 备电时间
  • 均衡状态
  • 寿命预测
所以 BBU 不是一个孤立的电池问题,而是未来机柜级供电架构的一部分。
当 Power Shelf、DC Busbar、BBU 结合起来以后,AI 机柜内部其实已经形成了一套独立的直流供电系统。
如果这套系统没有监测,就会变成黑盒。

PART 08

再来看看这个问题,rPDU 已经智能了,为什么还需要 EnerTrek?
拆完这条供电链路以后,发现问题不在 rPDU 有没有智能,而在于:
需要监测的节点,已经不止 rPDU。传统数据中心里,rPDU 是比较靠近服务器的末端监测点。
但 AI 数据中心里,供电链路多了很多新的关键节点:
  • 母线插接箱
  • Power Whip
  • Power Shelf
  • DC Busbar
  • BBU
  • CDU液冷泵
  • MCCB / MCB
  • A/B 路输入
  • Pod 级供电路径
这些位置不一定都由 rPDU 覆盖。
这就不是一个普通多回路电表能完整解决的,也不是单个 rPDU 能完全解释的。
它需要的是一套覆盖末端供电节点的电力感知系统。

PART 09

EnerTrek 应该站在哪里?
如果只把 EnerTrek 理解成一个多回路电表,那价值会被低估。
它真正适合做的是:高密度 AI 数据中心末端配电的电力感知层。
未来可以重点看这些位置:
  • 母线插接箱监测
  • rPDU 上游监测
  • DC Busbar 支路监测
  • 接点温升监测
  • MCCB / MCB 状态采集
  • BBU 状态采集
  • Pod 级容量管理
  • 机柜级能效分析
所以 EnerTrek 的机会不是做一个普通电表。
而是把数据中心从母线插接箱、rPDU、Power Shelf、DC Busbar、BBU、CDU 这些节点,变成可识别、可监测、可告警、可分析的能源对象。

PART 10

赶紧结束
AI 数据中心不是简单多用一点电,而是在重构从中压输入到 GPU 芯片之间的整条供电链路
前端会更集成化,比如 UPS、HVDC、巴拿马电源、SST;末端会更直流化、机柜化,比如 Power Shelf、DC Busbar、48V / 50V 供电;后备也可能从集中 UPS,逐步走向 BBU 和机柜级备电。
这也是我重新研究 AIDC 供电的原因。
过去我们知道数据中心有变压器、UPS、列头柜、rPDU,也知道服务器要供电。但到了 AI 服务器时代,问题被放大了:一个 Pod 是什么?CDU 和 Rack 怎么配合?为什么 H100 时代还能用 rPDU,而 GB200 NVL72 开始出现 Power Shelf 和 DC Busbar?
这些问题不拆清楚,就很难判断 EnerTrek 应该放在哪里。
我的理解是,机会不一定在 UPS、HVDC、SST、Power Shelf 这些主设备上,而是在那些越来越重要、但还没有被充分感知的供电节点上。比如母线插接箱、rPDU 上游、CDU 供电、BBU 状态、端子温升和机柜级容量管理。
把这些节点看清楚、捋清清楚,才是 EnerTrek 进入 AIDC 场景更现实的路径。