乐于分享
好东西不私藏

别小看HBM!这些数据说明它才是算力时代真正的核心

别小看HBM!这些数据说明它才是算力时代真正的核心

所有人都在盯GPU算力,但真正的瓶颈藏在你看不见的地方,内存带宽!

GPU峰值算力2年增长3倍,但存储带宽仅增长1.6倍。当内存喂不饱算力,再强的GPU也只能降频运行。

这就是HBM(高带宽存储器)成为AI时代核心的原因。

这个藏在GPU背后的赛道,正在成为半导体产业链里最关键的胜负手。

算力墙的背后是存储墙。HBM,才是AI时代那个被忽视的核心。

1. 存储墙:AI算力的隐形瓶颈

冯·诺依曼架构下,存储器带宽决定了硬件算力效率的上限。

内存带宽年增速仅约15%,远低于GPU算力增速。

当GPU算力越来越强,内存却跟不上,这就是"存储墙"问题。

在AI训练和推理中,大量矩阵计算需要快速内存访问。

当内存无法跟上计算速度,GPU利用率下降,系统性能无法线性提升。

峰值算力2年增长3倍,而存储带宽及互连带宽仅增长1.6、1.4倍

来源:《Al and Memory WalI》

A100存储架构中配备了私有缓存与HBM共享缓存,设计理念与CPU类似

但内存带宽的增速远落后于算力增速,导致算力利用率存在天花板。

2. HBM:解决存储墙的核心方案

HBM采用3D堆叠DRAM和宽总线并行访问设计,每颗HBM拥有1024-bit总线,远超传统GDDR的64-128bit。

从HBM1到HBM3e:单堆栈层数从8层提升至16层,单颗容量从16GB扩展至64GB,单颗HBM带宽从256GB/s提升至1.2TB/s

同时,HBM功耗比GDDR降低30-50%,同等带宽下耗电更少,有利于控制高性能芯片的功耗和发热。

HBM各代基础数据传输路径

传统GDDR 6X封装体积较大,同等数量下带宽远低于HBM。

研究表明,HBM比GDDR在类似带宽下功耗低30-40%,这是AI芯片选择HBM的关键原因。

3. HBM制造壁垒:TSV是关键工艺

HBM制造涉及TSV(硅通孔)、微凸点、混合键合等核心工艺。TSV工艺约占堆叠封装成本的37%

高深宽比TSV刻蚀、精密镀铜填充、化学机械抛光,每一个环节都是技术壁垒。HBM的量产难度,丝毫不亚于先进制程。

TSV通道+TSV背面露铜+TSV通道良率损失合计占3D堆叠成本37%

来源:3DinCities

TSV刻蚀需要高深宽比Bosch工艺,填充需要"Bottom-up"无空洞电镀,抛光需要精确控制露铜程度。

99%键合良率与99.5%键合良率对最终成本的影响差异巨大。

在HBM制造中,SK海力士、三星、美光三家合计占全球HBM市场绝大多数份额,中国大陆企业正在这一领域加速追赶。

HBM相关工艺设备以欧美、日本企业主导,国产替代空间巨大。

SK海力士凭借技术先发优势,在HBM3e市场占据领先份额。

三星则在奋力追赶,2025年其HBM3e良率已有明显改善。

美光通过HBM4的差异化路线寻求弯道超车。

HBM的战争,不只是存储芯片的战争,更是整个半导体制造能力的战争。

谁能突破TSV和混合键合,谁就能在HBM赛道站稳脚跟。

存储墙和算力墙,你觉得哪个更制约AI的发展?

#HBM#存储墙#高带宽存储器#AI算力#硬科技投研

感谢阅读,喜欢请点个❤️在看谢谢,明天继续更新...

数据来源:公开研报,仅供行业交流参考,不构成投资建议。