张璐预言:AI算力格局巨变,推理将占七成!
【文章导读】:2026年5月24日,硅谷投资人张璐在AIGC2026产业峰会上指出,AI发展重心正从模型训练转向推理,未来算力需求比例将变为训练30%、推理70%。她强调,数据中心能耗瓶颈在于通信环节,其耗电量可能是计算的百倍以上。同时,高质量数据成为物理AI发展的关键,医疗、太空和纳米机器人是三大最具潜力的应用方向。
你最近是不是觉得,AI的新闻好像有点“变味”了?前两年,大家还在疯狂讨论谁家的模型参数更大,谁又刷新了榜单。但最近,风向好像悄悄转了。硅谷的顶级投资人张璐在最近的峰会上,给我们画了一幅全新的AI地图。她说的,可能跟你想象的完全不一样。
一、 真正的“电老虎”不是GPU,是它
过去,你觉得AI耗电,肯定是因为那些“吃电怪兽”GPU在疯狂训练模型。张璐告诉你,错了,至少不全对。真正的能耗大头,藏在你看不见的地方——数据中心内部的通信。
想象一下,一个巨大的AI数据中心就像一座繁忙的港口。GPU(图形处理器)是港口里马力最强的起重机(训练)和高效的叉车(推理),负责装卸和搬运货物(计算)。但真正让港口运转起来的,是连接各个码头、仓库和起重机之间的运输网络——卡车、传送带、调度系统。在数据中心里,这个“运输网络”就是通信环节,包括交换机(Switch)和光模块等。
现在,张璐引用斯坦福前校长、谷歌母公司Alphabet董事会主席John Hennessy的观点,给了我们一个惊人的数据:搬运数据(通信)所消耗的电量,可能比处理数据(计算)本身高出上百倍。 你让起重机(GPU)省电10%,可能不如把运输卡车的燃油效率提升一倍来得有效。这就是为什么英伟达的黄仁勋现在反复强调,他们是一家“AI工厂”和“基础设施公司”,而不仅仅是卖芯片的。整个行业的战场,正在从单纯的“算力竞赛”,下沉到支撑算力的通信、散热、供电这些更底层、更“枯燥”但至关重要的基础设施上。
所以,下一波巨大的技术创新和投资机会,可能不在更厉害的“起重机”上,而在如何打造更节能、更高效的“港口内部物流系统”上,比如光学通信(Optical Communication)。
二、 从“造大脑”到“用大脑”:推理时代来了
这引出了张璐最核心的一个判断:AI算力的需求重心,正在发生历史性转移——从训练(Training)转向推理(Inference)。
这怎么理解?你可以把“训练”想象成造一个超级聪明的大脑。这个过程集中、猛烈,需要海量数据和算力,但基本上是一次性的。好比研发一款新药,前期投入巨大,但药方一旦定型,大规模生产就是另一回事了。
而“推理”呢?就是让这个大脑去干活。你每次问ChatGPT一个问题,每次让智能驾驶系统判断路况,每次用AI医生分析你的CT片,都是在进行“推理”。随着AI从聊天框走向我们生活的每个角落,变成24小时在线的智能体(Agent),这种“干活”的需求将是持续、海量且永不间断的。
张璐给出了一个更直观的数字:几年前,训练占算力需求的70%以上,推理只占20-30%。现在,两者已经各占一半。而未来,这个比例会彻底颠倒过来:训练只需30%,而推理将吞噬掉70%的算力。
这意味着什么?意味着整个AI基础设施的设计思路都要变。过去大家拼命堆算力为了“造大脑”,现在和未来,大家得拼命优化算力为了“让大脑高效、低成本地持续工作”。这催生了“边缘计算”的繁荣——把小型化、高效能的AI模型(小模型)直接部署到手机、汽车、工厂机床甚至太空卫星上,在数据产生的地方就地处理,减少昂贵且耗能的数据传输。
AI的竞争,从此进入了“应用即服务”的持久战阶段,谁的推理成本更低、速度更快、更稳定,谁就能赢得市场。
三、 物理AI的命门:高质量数据从哪来?
当AI不再只存在于代码和对话框里,而是要走进工厂、飞向太空、进入人体时,它就变成了“物理AI(Physical AI)”。这时,最大的瓶颈出现了。
张璐一针见血:对于物理AI,架构和算力我们都有了,现在最缺的,是高质量的真实世界数据。
你训练一个聊天机器人,可以用互联网上的文本。但你想训练一个能精准操作的机械臂,或者一个能在血管里导航的纳米机器人,你需要的是真实三维空间里的力反馈、触觉、视觉融合数据。这些数据,极其昂贵、难以获取。
于是,行业里出现了“合成数据(Synthetic Data)”,也就是用计算机模拟生成数据。这就像用飞行模拟器训练飞行员,有用,但永远无法完全替代真实飞行。合成数据可能存在未知的“模拟盲区”。
那怎么办?张璐提到了一个有趣的方向:新型传感器与数据收集平台。比如斯坦福大学鲍哲南教授团队研发的“人工皮肤”,它是一种基于柔性电路(Flexible Electronics)的高精度触觉传感器,薄如手套,可以赋予机器手接近人类的触觉。这类技术,就是在为物理世界打造专属的“感官器官”,去采集那些我们以前无法数字化、或数字化成本极高的高质量数据。
未来,最值钱的可能不是AI算法本身,而是那些能深入产业一线、获取独特高质量数据的“传感器网络”和“数据流水线”。
四、 三大黄金赛道:身体、星空与血管
基于上述逻辑,张璐旗帜鲜明地看好三个具体的AI应用方向,它们都有一个共同点:天然拥有或急需高质量数据,且与物理世界深度结合。
尾声:速度才是新的护城河
最后,张璐点出了一个容易被忽略的关键:技术创新只是起点,产业整合的速度,才是AI落地的真正竞争力。
她观察到,全球500强企业的AI采购预算正从千万级飙升至数十亿级,决策周期从半年缩短到一两个月。这种“产业加速度”,为AI公司提供了前所未有的、快速获得真实场景反馈和高价值数据的机会,从而反哺模型和产品的快速迭代。
所以,未来的赢家,很可能不是单纯拥有最牛技术的团队,而是那个能最快理解产业、最快整合资源、最快将技术转化为实际生产力的“快鱼”。
总结与思考: 张璐的这番洞察,为我们拨开了AI狂热后的迷雾。AI的叙事,正从仰望星空的“模型崇拜”,回归脚踏实地的基础设施、数据获取和产业融合。算力格局的巨变(推理占主导)、能耗瓶颈的转移(通信是核心)、以及数据价值的重估(质量大于数量),这三大趋势将重塑未来几年的AI产业地图。对于创业者、投资人,乃至每一个关注科技趋势的你来说,看懂这场“换轨”,或许比追逐下一个“万亿参数模型”更重要。
那么,问题留给你:当AI的竞争从“造神”变成“干活”,你认为下一个颠覆性的机会,会出现在哪个看似“不起眼”的环节?是降低通信能耗的新材料,是某个垂直行业的专属传感器,还是整合产业链的某种新服务模式?
欢迎在评论区留下你的真知灼见,我们一起碰撞思想。想持续获取这样前沿、深度又易懂的AI行业洞察,别忘了关注我们。
夜雨聆风