乐于分享
好东西不私藏

AI最大的瓶颈, 可能不是GPU

AI最大的瓶颈, 可能不是GPU
第二期 · 芯片越来越强,但真正的瓶颈在别处

英伟达的芯片越来越强。算力翻了又翻。

但一个反常识的事实是:AI真正卡脖子的地方,可能不在芯片本身。

如果你在关注科技股,或者好奇AI这波浪潮里到底谁在闷声赚钱——接下来这个认知,可能会帮你看到别人看不到的机会。

🏎️ 一个比喻你买了一辆最强的超跑,发动机世界第一。但如果油管太细,油跟不上——发动机再强,也只能空转。AI芯片现在面临的,就是这个问题。

这一期,我们用大白话聊聊AI芯片的三个真正瓶颈。

第一个瓶颈:喂不饱的"内存"

芯片再强,数据喂不进去也没用。

打个比方:你请了一个最聪明的大脑,每秒能算几十万道题。但如果题目送不到他手上,他只能干坐着。

AI芯片旁边有一种特殊的高速内存,它的任务就是快速把数据送进芯片。这个"送题速度"如果跟不上算力速度,芯片就只能空转。

业内管这个问题叫"内存墙"

💡 白话翻译大脑再聪明,记忆跟不上,也跑不快。超跑再猛,油管太细,也只能空转。GPU强,不代表AI一定快。

目前全球能造这种高速内存的,只有三家公司:SK海力士(占了一半以上)、三星美光。英伟达的芯片离不开它们。

说句实话:不是芯片算力不够,而是数据送不到位。这种高速内存的产能,比芯片本身还稀缺。谁手里有货,谁就说了算。

在讲第二个瓶颈之前,先搞懂一件事

AI有两个阶段,搞懂了这个,后面的事才说得通:

训练

📚 就像上学学知识

把模型"教"出来,需要最强大的算力。英伟达的芯片在这个阶段确实无可替代。

推理

✍️ 就像考试答题

模型学好了,开始回答用户的实际问题。不需要那么强的通用算力,但要大量、反复地运行。

理解了这个区别,你就能明白下面这件事——

第二个瓶颈:太贵了

谷歌、亚马逊、Meta、微软,全都在自己造AI芯片。

为什么?因为一直买英伟达的通用芯片,太贵了。

🧰

通用芯片(GPU)

像一个万能工具箱,什么活都能干。但你为每个任务都付了"全能溢价"。

🔧

定制芯片(ASIC)

像一把专门定制的工具,只干一件事,但更快、更省电、更便宜。

英伟达的芯片是"全能型选手"——什么任务都能跑,但你为每个任务都付了"全能溢价"。训练大模型时这钱花得值,但到了推理阶段(也就是考试答题),专用芯片可以做得更便宜、更省电、更快。

公司
在做什么
谷歌
自己造芯片,训练和推理都用,已经用了好多年
亚马逊
专门为自家云服务定制芯片
Meta
重点优化推理,省钱
微软
为自家云服务设计芯片

道理很简单:AI用得越多,自研芯片省的钱就越多。

AI正在从"上学"阶段进入"考试"阶段。当每天有几十亿次AI对话发生,大厂没有理由继续为每次回答都付英伟达的"过路费"。定制芯片的份额,只会越来越大。

第三个瓶颈:装不起来

芯片和内存不是放在一起就能跑的。

它们需要一种叫"先进封装"的技术,像精密拼图一样,把不同的芯片高效地拼在一起,让数据在它们之间飞速穿梭。

台积电有一种封装技术,是目前行业的标杆。没有它,芯片和内存之间的"高速公路"就修不起来。

🔧 白话翻译你有了最好的发动机(芯片)和最好的油箱(内存),但如果它们之间的管道太细、接头太松,一样跑不快。先进封装,就是那根又粗又短的管道。设计出来,不等于量产出来。

问题在于:芯片画出来图纸只是第一步。能不能真正造出来、能不能量产、能不能保证散热不出问题——才是真正的难关。

2023到2024年,封装产能不够,一度成为英伟达出货的最大瓶颈。台积电拼命扩产,但需求涨得更快。

谁掌握了封装技术,谁就捏住了AI芯片量产的"命门"。

所以,AI芯片竞争到底在比什么?

看到这里,你会发现一个有意思的变化:

AI芯片的竞争,早就不是单纯比谁算得快了。

"AI芯片竞争,已经不是单纯比谁算得快,而是比谁的数据更快、成本更低、封装能力更强。"

芯片是舞台中央的主角,但真正的戏,在幕后。

高速内存决定了数据能不能跟上,定制芯片决定了成本能不能降下来,封装技术决定了芯片能不能造出来。这三件事,任何一件卡住,芯片再强也没用。

这也是为什么,SK海力士、台积电这些"幕后公司"的股价,这两年同样涨得惊人——市场开始意识到,瓶颈在哪里,利润就在哪里。

· · ·

芯片层面的问题讲完了。但芯片要真正跑起来,还需要一整套基础设施。

客户真正买的,可能不是一颗芯片,而是一整台AI服务器。

第三期 · 基础设施篇 · 敬请关注

本内容仅用于投资教育与市场观察,不构成任何买卖建议。投资有风险,入市需谨慎。

本系列共三期

① 总览篇② 芯片瓶颈篇③ 基础设施篇