乐于分享
好东西不私藏

CoWoS:让AI芯片性能飞跃的秘密武器

CoWoS:让AI芯片性能飞跃的秘密武器

从ChatGPT到自动驾驶,从高性能计算到云计算,一颗颗强大的芯片背后,藏着一个不为人知的关键技术——CoWoS。

🔍 什么是CoWoS?

CoWoS(Chip-on-Wafer-on-Substrate,芯片-晶圆-基板堆叠封装)是台积电(TSMC)开发的2.5D先进封装技术

简单来说,它就像一座"微型城市"的规划师——把多颗芯片(处理器、存储器等)紧密排列在一块硅中介层(Silicon Interposer)上,再通过高密度互连,实现芯片间的超高速通信

对比维度

传统封装

CoWoS封装

芯片布局

芯片各自独立

多芯片集成在同一封装内

互连距离

芯片间通信距离远

芯片间距离仅微米级

带宽

受限

超高带宽(TB/s级别)

功耗

较高

低功耗、高效率

⚙️ CoWoS的核心原理

1️⃣ 硅中介层(Silicon Interposer)

这是CoWoS的"灵魂"。

传统封装中,芯片通过基板上的铜线互连,信号要走很长的距离。而CoWoS在芯片和基板之间加入了一层硅中介层——这块硅片上刻满了超高密度电路(TSV,硅通孔技术),相当于在芯片之间修建了一条"高速公路"。

传统封装:

引线键合
Plastic BGA

FlipChip BGA

CoWoS封装:

2️⃣ TSV(Through-Silicon Via,硅通孔)

TSV是垂直贯穿硅片的导电通道,直径仅几微米,密度可达每平方毫米上万个。正是TSV技术,让硅中介层能同时承载多颗芯片的超高密度互连需求。

3️⃣ 微凸点(Micro-Bumps)

芯片与硅中介层之间的连接点,间距仅20~40微米(传统焊球间距约100~130微米),实现了超高密度互连。

🚀 为什么CoWoS对AI如此重要?

HBM:AI芯片的"最佳拍档"

HBM(High Bandwidth Memory,高带宽存储器)是AI训练芯片的标配。一颗AI芯片通常需要搭配4~8颗HBM。

HBM与计算芯片之间的数据传输量极其惊人——以NVIDIA H100为例,HBM带宽高达3.35 TB/s

如此高的带宽,传统封装根本无法实现。只有CoWoS这类2.5D封装技术,才能在有限空间内提供足够多的互连通道。

NVIDIA H100 封装结构(CoWoS-S)

CoWoS的三大革命性优势

优势

说明

超高带宽

芯片间互连带宽可达TB/s级别

低延迟

微米级互连距离,延迟极低

高能效

短距离传输,功耗大幅降低

🏭 CoWoS的三大技术路线

台积电针对不同的应用场景,开发了三种CoWoS技术路线:

CoWoS-S(Silicon Interposer)

特点:使用完整硅中介层,互连密度最高

应用:顶级AI芯片(NVIDIA H100/A100、AMD MI300等)

挑战:硅中介层尺寸受限(受限于光罩尺寸),成本较高

CoWoS-R(RDL Interposer)

特点:使用有机重分布层(RDL)替代硅中介层,成本更低

应用:对互连密度要求稍低的应用

优势:中介层尺寸不受限,可做大尺寸封装

CoWoS-L(Local Silicon Interconnect)

特点:仅在需要高密度的局部区域使用小硅片,其余区域用RDL

应用:平衡性能与成本的方案

优势:兼顾高密度与大面积,是未来主流方向

🌍 CoWoS的竞争格局

台积电:绝对霸主

台积电的CoWoS技术起步最早、生态最成熟,目前占据90%以上的高端AI芯片封装市场。

三星/英特尔:奋起直追

三星:推出类似技术I-Cube,积极争取AI芯片客户

英特尔:推出EMIB(嵌入式多芯片互连桥)技术,走差异化路线

中国大陆:追赶中

长电科技通富微电华天科技等封测厂商正在积极布局先进封装

与台积电仍存在代际差距,但追赶速度加快

🔮 CoWoS的未来演进

更大尺寸

随着AI模型规模不断增长,单颗芯片需要集成的HBM数量持续增加。台积电正在推进更大尺寸的CoWoS封装,从目前的3倍光罩尺寸5倍、甚至更大演进。

CoWoS + SoIC:向3D迈进

台积电的SoIC(System on Integrated Chips)是真正的3D堆叠技术,可将多颗芯片垂直堆叠

未来,CoWoS(2.5D)与SoIC(3D)将融合,实现3D+2.5D混合封装,进一步提升集成度和性能。

光学互连:突破物理极限

当电互连遇到物理极限,光学互连(Optical Interconnect)将成为下一代方向。台积电已宣布布局硅光子(Silicon Photonics)技术,未来芯片间或将通过光信号互连,带宽将再上一个数量级。

💡 写在最后

CoWoS虽不为大众所知,却是支撑当今AI革命的关键基石之一。每一颗NVIDIA H100的背后,都有CoWoS技术的默默贡献。

随着AI、高性能计算、自动驾驶等领域的持续爆发,先进封装技术的重要性将愈发凸显。这不仅是技术的竞争,更是产业链话语权的较量。

对于中国半导体产业而言,先进封装是必须攻克的堡垒。道阻且长,行则将至。

📌 参考资料

TSMC CoWoS Technology Overview

IEEE Transactions on Components, Packaging and Manufacturing Technology

NVIDIA H100 White Paper

本文为技术科普文章,如需转载请注明出处。