「光电融合芯片能把Token成本降50%。」
我在一个不太起眼的行业简讯里看到这句话的时候,第一反应是,这个数字是不是写错了。
50%。
不是5%,不是15%。是砍一半。
我盯着这个数字看了挺久。
不是因为兴奋。是因为我突然意识到,这个数字背后藏着的东西,比表面上沉得多。
过去两年,但凡聊AI,开口闭口都是「算力」。
英伟达股价涨成那样,所有人都觉得算力就是一切。
但真正拿AI去做事的人,心里都清楚一件事。
光有算力,没用。
卡在哪?卡在芯片和芯片之间传数据上。
延迟高,功耗大。
我当时听到一个比喻,觉得特别准——一辆超跑,发动机再猛,你在土路上跑,速度怎么也上不去。
光电融合解决的就是这条路。
用光子替代电子做数据传输。光速比电子快,不发热,功耗直接降一截。
我后来翻了一下,摩根士丹利能坐上华尔街AI债务交易的头部位置,背后接的那些数据中心,正在拼命升级这种光电混合架构。
钱往哪走,方向就在哪。这个我信。
Token成本降一半,这个事我得掰开说。
它不是芯片厂商让利那么简单。
它意味着AI推理的边际成本,整体在下移。
我原来跑不起的应用,现在能跑了。
我原来只能给企业用户服务的,现在可以杀向消费级了。
我想了个类比。
4G刚普及时,流量贵成什么样,我现在还记得。看个视频心疼半天。
现在呢?视频通话随手就用,谁还算流量。
基础设施成本下来,应用层才会真正爆发。
光电融合现在干的就是这个事——把AI的「流量费」打下来。
当然,我也得说句实话。
50%是实验室数字。量产落地,还得等。
但方向是对的。
我看过太多次了。技术成熟度这东西,一旦过了某个临界点,普及速度会比所有人预期的都快。
我接触过不少业内人士,现在有一种焦虑挺普遍——芯片被卡脖子,所以AI发展也要被拖慢。
但我越看越觉得,光电融合这条路,可能是个变数。
光子芯片对工艺的要求,和电芯片不一样。它绕开了先进制程的部分限制。
换句话说,这反而是一条国内可以发力的路。
有时候我忍不住想,很多人盯着英伟达最新的GPU,盯着谁又买到了多少卡。
但真正值得盯的,可能是国内在光电融合、Chiplet这些路线上的进展。
不是在正面战场上硬刚。
是在侧面,找突破口。
Token成本降一半。
我想了想,这比发布十个新模型,都实在。
夜雨聆风