夜雨聆风你肯定听过 GPU。A100、H100、H200、B200……英伟达每发一代新品，股价就上一个台阶。
但你可能没注意到一个细节：每一代 AI 芯片旁边，都贴着几颗像积木一样叠起来的小方块——它们不是 GPU 本身，但没了它们，再强的 GPU 也只能发呆。
这东西叫 HBM（High Bandwidth Memory，高带宽内存），是当前 AI 芯片里最贵、最难造、最卡脖子的零部件之一。
一、不是所有"内存"都一样快
我们常说的"内存条"——电脑里的 DDR5——数据传输靠一根 64-bit 的总线，一秒大概跑 50 GB。听着不少，但在 AI 训练面前完全是灾难。
大语言模型（比如 ChatGPT、Claude、DeepSeek）每做一次推理，要在数千亿个参数和中间结果之间来回读取数据。这些数据如果每次都从远处的主存拉过来，GPU 90% 的时间都在等数据，只有 10% 的时间在算——这就是所谓的**"内存墙"（Memory Wall）**。
HBM 把解决办法做到了极致：把内存搬到 GPU 旁边，再把内存叠高、叠密、叠快。
结果是：HBM3e 单颗带宽已经干到 1.2 TB/s——是 DDR5 的 24 倍。一块 H200 贴 6 颗 HBM3e，总带宽 4.8 TB/s，才勉强喂饱里面那个 Hopper GPU。
AI 芯片的性能天花板，早就不是算力，是带宽。 这也是为什么黄仁勋在 GTC 上说"HBM 是 AI 芯片最稀缺的资源"——因为全世界只有一家公司能大规模量产它，就是 SK 海力士。
二、HBM 的物理原理：把芯片叠起来
HBM 的精髓是一个词：TSV（Through-Silicon Via，硅通孔）。
普通芯片是平铺的。CPU 一块、内存条几根插在旁边，数据要穿过主板走线、内存控制器、PHY 接口……每一段都是延迟，每一段都在吞带宽。
HBM 的思路完全不同：
把 8 到 12 层 DRAM 芯片垂直叠在一起，每层之间打通数千个微孔——TSV——让数据直上直下穿过整摞芯片。
底层是一颗逻辑 die（Base Die），负责和 GPU 对话。上面是 DRAM 堆栈，每层之间靠 microbump（微凸块） 连接。整颗 HBM 通过 硅中介层（Silicon Interposer） 和 GPU 并排焊在同一个封装基板上，物理距离从"几厘米"缩到了"几百微米"。
这个过程需要三个核心技术，每一个都是工程地狱：
① TSV 深孔刻蚀。 在几百微米厚的硅片上钻出直径 5-10μm、深宽比 10:1 以上的孔，孔壁必须光滑到原子级别，否则后续铜填充会出空洞。这用到的是 Bosch 工艺——和刻芯片沟槽的深层硅刻蚀是同一套原理，但 TSV 的孔径更小、密度更高、良率要求更苛刻。
② 超薄晶圆减薄。 每一层 DRAM 芯片要减薄到只有几十微米——比头发丝还细——才能叠 12 层还能保持总厚度在 700μm 以内。减薄过程中稍微一个应力不均匀，整片晶圆就裂了。这就是为什么 HBM 的晶圆厂良率管理比逻辑芯片还要严。
③ 芯片堆叠键合（Stacking & Bonding）。 12 层芯片要在一颗 HBM 封装里精对准到微米级精度，然后通过热压键合一次性压在一起。任何一层歪了，整颗 HBM 的电性能就崩了。一台 TC Bonder（热压键合机）售价数百万美元，目前全球能稳定出货的不到三家设备商。
这套工艺的壁垒有多高？这么说吧：三星追了八年，目前 HBM3e 的良率才刚过 60%，而 SK 海力士做到了 80% 以上。 八年的技术差距，体现在量产良率上就是 20 个点。
三、为什么 HBM 是中国半导体的一块心病
2025 年，美国对华芯片出口管制再次升级，HBM3e 被列入禁运清单。英伟达卖给中国的 GPU（如 H20）被强制削减了 HBM 带宽——因为带宽就是训练大模型的关键，卡带宽就等于卡算力。
中国的逻辑芯片——GPU、AI 加速器——已经有华为昇腾、寒武纪、海光在追。但 HBM 这个东西，全球供应链极度集中：
- SK 海力士
：占全球 HBM 市场 50% 以上，HBM3e 独家供应英伟达 - 三星
：拼命追赶，良率爬坡中 - 美光
：HBM3e 刚量产，份额不到 10% - 长鑫存储（CXMT）
：目前在 HBM2 阶段，距 HBM3 还有三年窗口
这意味着一个残酷的事实：即使你设计出世界顶级的 AI 芯片，如果买不到 HBM，这颗芯片就是一块砖。
这也是为什么从大基金三期到各地 Fab 建设，HBM 相关项目的优先级已经被提到了"国家战略"级别。长鑫存储的合肥二期项目、武汉新芯的 HBM 专用产线、以及配套的 TSV 设备国产化，都是围绕这根"最细的瓶颈"来布局的。
四、一张表看懂 HBM 的演进
规律很明显：层数每代增加 2-4 层，带宽每代翻约 1.5 倍，制造成本每代翻约 1.3 倍。 HBM 已经成为驱动 AI 芯片更新的节奏器——英伟达的 GPU 路线图，事实上是和 SK 海力士的 HBM 路线图绑定的。
三星为什么急了？因为三星是一个"全栈"玩家——既做逻辑芯片（自家 LSI 部门设计 Exynos 处理器），又做存储芯片。如果 HBM 赛道被 SK 海力士甩太远，等于拱手让出了"AI 时代的存储之王"这把椅子。这就是为什么三星在 2025 年底进行了一次大规模管理层换血，把芯片部门负责人换成了一位有三十年存储经验的元老，誓要把良率提上去。
五、对普通人来说，这意味着什么？
第一，AI 会越来越贵。HBM 占 AI 芯片总成本的 25%-30%，而且由于供不应求，价格还在涨。AI 大模型的训练成本近期因算力需求的指数级增长而被进一步推高。
第二，国产替代有希望但路很长。长鑫存储的 HBM2 量产是第一步，但 HBM3 及以上的 DRAM 工艺、TSV 良率、先进封装（CoWoS）这整套能力不是一家企业能搞定的，需要一条完整的国产供应链。
第三，如果你是做硬件的——TSV 设备、先进封装设备、硅中介层材料、HBM 测试设备，这四条子赛道是未来五年半导体国产化最大的增量市场，值得关注。
芯片工坊，记录半导体制造的每一个技术细节。关注我，下一期我们拆解：为什么先进封装（CoWoS）比光刻机还难买？
