乐于分享
好东西不私藏

芯片变天了?光电融合正在把AI推理成本打下来

芯片变天了?光电融合正在把AI推理成本打下来

「光电融合芯片能把Token成本降50%。」

我在一个不太起眼的行业简讯里看到这句话的时候,第一反应是,这个数字是不是写错了。

50%。

不是5%,不是15%。是砍一半。

我盯着这个数字看了挺久。

不是因为兴奋。是因为我突然意识到,这个数字背后藏着的东西,比表面上沉得多。

过去两年,但凡聊AI,开口闭口都是「算力」。

英伟达股价涨成那样,所有人都觉得算力就是一切。

但真正拿AI去做事的人,心里都清楚一件事。

光有算力,没用。

卡在哪?卡在芯片和芯片之间传数据上。

延迟高,功耗大。

我当时听到一个比喻,觉得特别准——一辆超跑,发动机再猛,你在土路上跑,速度怎么也上不去。

光电融合解决的就是这条路。

用光子替代电子做数据传输。光速比电子快,不发热,功耗直接降一截。

我后来翻了一下,摩根士丹利能坐上华尔街AI债务交易的头部位置,背后接的那些数据中心,正在拼命升级这种光电混合架构。

钱往哪走,方向就在哪。这个我信。

Token成本降一半,这个事我得掰开说。

它不是芯片厂商让利那么简单。

它意味着AI推理的边际成本,整体在下移。

我原来跑不起的应用,现在能跑了。

我原来只能给企业用户服务的,现在可以杀向消费级了。

我想了个类比。

4G刚普及时,流量贵成什么样,我现在还记得。看个视频心疼半天。

现在呢?视频通话随手就用,谁还算流量。

基础设施成本下来,应用层才会真正爆发。

光电融合现在干的就是这个事——把AI的「流量费」打下来。

当然,我也得说句实话。

50%是实验室数字。量产落地,还得等。

但方向是对的。

我看过太多次了。技术成熟度这东西,一旦过了某个临界点,普及速度会比所有人预期的都快。

我接触过不少业内人士,现在有一种焦虑挺普遍——芯片被卡脖子,所以AI发展也要被拖慢。

但我越看越觉得,光电融合这条路,可能是个变数。

光子芯片对工艺的要求,和电芯片不一样。它绕开了先进制程的部分限制。

换句话说,这反而是一条国内可以发力的路。

有时候我忍不住想,很多人盯着英伟达最新的GPU,盯着谁又买到了多少卡。

但真正值得盯的,可能是国内在光电融合、Chiplet这些路线上的进展。

不是在正面战场上硬刚。

是在侧面,找突破口。

Token成本降一半。

我想了想,这比发布十个新模型,都实在。