乐于分享
好东西不私藏

先进封装为什么成为AI芯片时代的新战场?

先进封装为什么成为AI芯片时代的新战场?

过去二十年,芯片行业一直遵循一个规律:

晶体管越来越小,芯片越来越强。

但到了AI时代,行业突然发现:

真正限制芯片性能的,已经不再是计算能力,而是数据传输能力。

GPU拥有数万个计算核心,却常常因为等数据而闲置。

于是,一场新的革命开始了。

它不是继续缩小晶体管,而是把多个芯片拼装”成一个超级芯片。

这就是今天最火的技术——先进封装(Advanced Packaging)。

一、什么是封装?

很多人以为芯片制造完成后就能直接使用。

其实不是。

晶圆厂生产出来的是一整片晶圆,需要经过:

晶圆制造

切割(Die)

封装(Package)

测试

成品芯片

封装的作用不仅是保护芯片,还负责电源供给信号传输散热与主板连接多芯片互联

早期封装只是一个外壳”,而今天,封装已经变成芯片性能的重要组成部分。

二、为什么传统封装越来越不够用了?

传统CPU时代:

CPUDDR内存两者之间通过PCB连接,距离达到几厘米。

数据需要经过PCB走线插槽引脚控制器,延迟较高,带宽有限。

AI时代却不同

例如训练一个大模型,GPU每秒需要读取TB级数据,如果数据供应跟不上,大量计算单元处于空闲状态。所以,数据离计算越近,性能越高。

先进封装就是解决这个问题。

三、什么是先进封装?

先进封装可以理解成:

把多个芯片组合成一个系统,而不是单独制造一颗超大芯片。

例如:CPUGPUHBMAI加速器IO芯片,全部放在同一个封装内部。

对外表现得像一颗芯片,但内部实际上由多个Die组成。

这就是Chiplet时代。

四、先进封装主要有哪些技术?

目前主流先进封装主要包括四大方向。

第一种:2D封装(传统封装)

所有芯片独立安装。

CPUGPU内存之间依靠PCB连接。

优点:成本低工艺成熟

缺点:延迟高带宽有限

适合消费电子产品。

第二种:2.5D封装

这是目前AI芯片最主流方案。

多个芯片放在同一块硅中介层(Interposer)上。

不是上下堆叠,而是在同一个硅底板上并排放置。

因此被称为2.5D封装。

优势:数据距离缩短几十倍带宽提升数倍功耗降低可集成更多HBM

目前绝大多数AI GPU都采用这种方案。

第三种:3D封装

进一步升级,芯片不是横着摆,而是竖着堆。

通过TSV(硅通孔)直接连接。

相当于在芯片内部打了一根根垂直电梯。

电子无需绕路,直接上下传输。

优势:更高集成度更低延迟更低能耗更小体积

未来有望成为高性能计算的重要方向。

但散热和制造难度也更高。 

第四种:Chiplet(小芯片架构)

传统做法:做一颗超大GPU,良率低,成本高。

Chiplet方案拆成多个小芯片,再通过先进封装连接。

优点:良率提升成本降低易于扩展不同工艺组合制造

未来越来越多CPU、GPU都会采用Chiplet设计。

五、什么是CoWoS封装?

说到先进封装,就绕不开CoWoS。

CoWoSChip-on-Wafer-on-Substrate中文一般翻译为晶圆级芯片封装技术,实际上是一种2.5D封装技术。

它由代工企业率先实现产业化,目前已成为高端AI芯片的重要封装方案。

其结构如下:

GPU和HBM共同放置在硅中介层上。

再整体安装到底部封装基板。

这种结构兼顾:超高带宽大规模集成良好散热较高可靠性

因此非常适合AI训练芯片。

六、CoWoS带来了哪些好处?

① HBM可以紧贴GPU

距离缩短到毫米级,数据带宽大幅提升。

② 功耗更低

电子传输距离越短,电阻越小损耗越低同样算力下,更节能。

③ 可支持超大模型训练

如今的大模型参数量越来越大,需要海量数据吞吐。

CoWoS能够连接多颗HBM,为GPU提供超高内存带宽。

没有先进封装,再强的计算核心也难以充分发挥性能。

④ 可以组合更多Chiplet

未来芯片可能由:CPU DieGPU DieAI DieCache DieIO DieHBM共同组成。

先进封装就是它们之间的高速交通枢纽”。

七、为什么先进封装越来越重要?

过去十年,芯片性能主要来自制程升级。

未来十年,性能越来越来自:ChipletHBM先进封装片上互连光互连数据流优化

原因很简单:

AI时代最大的瓶颈,不是计算,而是数据移动。

谁能让数据跑得更快,谁就拥有更强的芯片。

写在最后

进入AI时代后,行业正在从单芯片时代”迈向系统级封装时代”。

先进封装不再只是芯片最后一道工序,而成为决定性能、功耗、带宽和成本的核心技术。

未来的高性能芯片,很可能不是一块巨大的硅片,而是由多个不同功能的小芯片,通过先进封装紧密连接,组成一个协同工作的超级系统。

芯片的未来,不只是做得更小”,更是连得更近、协同更强”。