ARTICLE · 1019636
AI 正在从软件革命走向新的工业基础设施时代:中国制造企业的新战场,正在从大模型下沉到算力、电力、冷却和数据中心
模型还会继续变聪明,但下一个限制它的东西会越来越物理。
过去几年我们谈 AI,讨论最多的东西基本都在模型上:GPT、Claude、Gemini,谁的 benchmark 更高,谁的 context window 更大,谁的 coding 更强,谁又发布了一个更聪明的推理模型。但如果 AI 继续按这个方向发展,接下来几年有一个变化会越来越明显:AI 最大的限制,可能逐渐不再只是模型够不够聪明,而是我们有没有足够的物理世界去支撑这些模型运行。
先介绍一下我自己。我叫 Simo,在做 SimoDigital,帮企业和出海品牌重做增长系统。AI 这一侧我接的是把 Agent 真正接进业务流程那一段,所以对成本、权限、失败率这些东西比对 benchmark 敏感得多。
最近我自己不断把 AI 从聊天工具往真实业务系统里推进以后,有一个感受特别明显:一个 AI Demo 很轻,一个真正长期运行的 AI System 很重。Demo 大概就是提示词进去、模型出来、给个答案。但真正进入企业以后,它变成数据、模型、工具、记忆、工作流、Agent、监控、权限、算力和持续执行叠在一起的一套东西。而且 Agent 和普通 Chatbot 最大的区别之一是:它不是回答一次问题就结束。它会思考、调用工具、读取数据、打开网页、执行任务、检查结果、失败、重试、再继续。这意味着一件很现实的事:AI 越从回答问题走向完成工作,背后的资源消耗就越大。而我看到的那些卡住的项目,卡住的原因几乎从来不是模型不够聪明。
最近 a16z 专门围绕这个问题推出了一个新的 Machine Age Fund。Ben Horowitz、Martin Casado 和前 VMware CEO Raghu Raghuram 在一场讨论里提出了一个我觉得非常重要的判断:AI 的瓶颈正在从模型本身,向模型下面的整个基础设施移动。他们把它叫 South of the Model,也就是模型下面到底还有什么。答案比很多人想象的多得多。
节目开场引的是 Marc Andreessen 的一句话,值得先放在这里:这是我这辈子见过的最大的技术革命,明显比互联网更大,能拿来类比的是微处理器、蒸汽机和电力,也许还有轮子。
我们过去说 Infrastructure,想到的是服务器、存储、网络、云。但 AI 把这张图继续往下拉了很多层:应用、Agent、模型、推理、GPU、内存、互联、网络、电力、冷却、数据中心、铜和材料,最后是能源基础设施。
"Normally when we talk about the infrastructure world, we're talking about the servers and the storage and the network. Here it goes all the way down to the copper mines."
因为整个东西最后还是物理世界。模型存在云端,但云从来都不是云,它是一座座巨大的建筑,里面放着芯片,芯片需要电,电需要输送,服务器需要网络,网络需要材料,高密度计算产生热量,热量必须被冷却。整个系统最终都必须服从物理世界的约束。
Ben 给这件事的定性更直白:我们有了一项全新的、也是有史以来最重要的技术,每一次出现这种全新的使用方式,你就需要一整套全新的基础设施,而这一次的影响之大前所未有。不只是新芯片、新系统软件,还包括新的供电方式,以及替换掉铜。
过去十几年,创业圈最性感的东西通常不是硬件。软件更快,资本需求更低,毛利更高,迭代更容易,一个小团队拿几台 MacBook 就能创业。硬件反过来意味着研发周期长、资本投入高、供应链复杂、制造困难、库存风险。所以很多最聪明的创业者长期都往软件跑。
Martin Casado 给了一组具体的数字,我认为是全场最值得记住的信号之一。他说 a16z 一贯是跟着创始人走的,而过去两三年里冲进复杂硬件问题的顶级团队数量明显上升:以前顶级创始人带来的案子里大概只有 3% 到 5% 是硬件,现在这个比例超过了 20% 到 30%。他自己还补了一句,3% 可能都算说多了。
为什么?并不是硬件突然变容易了,而是 AI 给基础设施创造出来的需求太大了。Martin 讲了一个我觉得特别锋利的角度:通常你做一门生意要担心的是增长,也就是有没有人买;而在这里你完全不用担心增长,需求接近无限。你要担心的变成了效率和毛利,而这些效率的上限,严格地说就是硬件的物理限制。也就是说,连 AI 这一波的商业模式本身,都在给现有系统施加压力,因为这些系统当初根本不是为这种负载设计的。
于是原来一些不值得解决的硬件问题,突然变得非常值得解决。这就是技术周期发生变化时特别有意思的地方:机会并不一定出现在最显眼的那一层,有时候最大的价值出现在所有人都必须经过的瓶颈上。
主持人问得很直接:我们凭什么相信这次是真需求,而不是又一个 hype cycle?三个人给了一串很硬的证据,我挨条列一下,因为这些数字比任何叙事都有用。
超大规模厂商的资本开支在爆炸
今年大约是 7000 亿美元,明年据说会集体达到一万亿美元。Raghu 的论证很好:这些公司是全行业视野最好的一方,他们同时看到前沿实验室、AI 原生公司、传统企业、美国和海外的需求,如果有谁对需求有判断力那就是他们,而他们正在以前所未有的力度加码。
供给基本卖到了 2028 年
Martin 说情况糟到出现了持续好几天的拍卖,争抢的只是几千张 GPU;而且有人把 GPU 以买入价的四倍转手。
内存厂的原话
行业旗舰会议 Hot Chips 上,领先的内存厂商说,他们今天手上已有的需求,要花三年产能才能满足。注意,这是今天的需求,还不包括未来的。
价格在涨
几个人反复强调,芯片价格从来都是往下走的,这是行业几十年的常识,而现在曲线掉头往上。
和互联网那轮的关键区别
Ben 说当年大规模铺光纤时,埋下去的大部分是投机性的、点不亮的暗光纤,因为那时候互联网上根本没那么多人,也没有视频这种真正吃带宽的应用。而现在,每一块被生产出来的 GPU 都已经被预售了。
Ben 还讲了一个我很喜欢的小故事。他和一家大型上市公司的 CFO 聊天,这家公司历来抗拒上云,所以自己留了大量服务器。他们做资产盘点时发现,这些服务器里内存的涨价幅度,已经足够支付他们整个迁移上云的成本了。
供给为什么追不上,原因也不神秘:芯片周期通常三到四年,数据中心从破土到建成要四到五年,还要解决电源。而另一边,硬件这个行业增长 20% 到 30% 已经算很好的增速,它却被接到了一个三位数增长的 AI 软件行业上。两条曲线的错位就是全部问题。
这一段是我认为整场最反共识、也最容易被忽略的判断,Ben 讲得很重。
创业世界过去有一条铁律:如果我领先你两年,你想靠雇一千个工程师追上来,你只会把公司搞垮。这就是《人月神话》,九个女人不可能在一个月里生出一个孩子。
"Okay, now that works."
Ben 说,现在这件事居然行得通了。但不是靠雇十万个工程师,而是拿出 30 亿美元点亮一个壮观的集群,然后 Grok 或者 Kimi 这样的东西就突然冒出来,一下子就是真的了。
Martin 把这个机制说得更清楚:过去钱进来,你面对的是一个工程问题,你知道它要两年、通常会失败,工程本身是一个天然的调节器,然后产品才从另一端出来。现在钱和智能之间几乎没有中间环节,钱进去,硬件产出智能,唯一的限制变成了我们造出供给的能力。
他还指出了推理为什么会无限膨胀:今天我们实现 scaling 的方式本身就是大量推理。强化学习是大量推理,思维链是大量推理,长时运行的 Agent 更是大量推理。而且存在自催化效应,用 AI 去写 GPU kernel、用 AI 造更好的 AI,这个过程本身也在消耗 AI。所以主持人那句玩笑其实非常准确:
"Nobody likes to use AI more than AI."
Ben 给的那句总结最简单:任何问题只要有足够的基础设施,GPU、电力和钱,就能被解决;所以在我们把问题用完之前,需求不会用完。他甚至给了一个数量级:token 需求可能会以接近每年 1000% 的速度增长,而供给不可能跟上这个速度。
需求侧还有一条清晰的台阶,Raghu 拆得很细。
第一阶段,ChatGPT 是一个面向大众的休闲应用,今天大约有 10 亿周活。第二阶段是编程,面向专业人群,大约 3000 万开发者,已经吃掉了相当比例的算力。第三阶段是知识工作者,而全世界有超过 10 亿知识工作者,这条路才刚开始走。再往后是他们的工作流和自动化,最后是后台,也就是全部由 Agent 承担的那一层。每一级都解锁大约一个数量级的新需求。而这还没算具身智能和机器人。
Martin 讲了一个我觉得最能说明问题的变化,关于 Agent 在产品形态上的三次跃迁:
给产品加一个 AI
本质上是一个搜索框。
和它聊天
它回你,因为那是最传统的做法。
你的延伸
它是一个独立的东西,但共享你的密钥、知道你的密码,替你做你会做的事。
它就是一个员工
他认为 GrokBot 真正做对的是这一层:它不需要你的密钥,它有自己的电脑、自己的浏览器,而且因为背后是世界上最聪明的模型,员工能做的事它基本都能做。
他说这件事改变了他自己的默认反应:现在他想完成一件事,第一个念头是「它能不能替我做」,而答案往往是能,哪怕是你不太会想到的事。明显的比如管日历、订会议;不明显的比如让它读邮件做分类,他没有教它怎么做,而它自己知道在真正动手之前要先来问他一句。
我想在这里停一下。这一条比任何关于算力的论述都更值得中文读者注意。一个 Agent 从「你的插件」变成「有独立身份的执行者」,对企业来说不是能力升级,是治理对象的变化。前者出错是你的操作失误,后者出错是你的组织事故。
这场访谈里我很喜欢 Ben Horowitz 的一个提醒,而且他说得非常诚实。
他说,就看我们自己,这就像多了一种新的员工,而且会有很多个。我们花了很多很多年才学会怎么和普通的人类员工一起工作,现在又来了另一种员工,是有学习曲线的。
"They can burn a lot of tokens and spend a lot of money and get nothing productive done."
"I don't want to sit up here and say I've cracked the code, the whole firm is just completely automated now, and I'm going to slowly get rid of all the humans because I can. That's not at all where we are."
他把话说全了:它们会忘事,会编造,会制造安全问题,可能表现很好,也可能表现很差。他们真正在研究的是另一个问题:怎么让所有人变成超人,而又不至于因为 bot 失控把公司搞砸。Raghu 补了一个很有意思的实践结论:他们试过好几种把 Agent 塞进系统的方式,最后是 Martin 的判断最管用,就把它们当人来对待,这是目前为止在组织里最经得起时间的做法。
这其实特别重要。因为今天市场特别容易把 Agent 讨论成能力问题:这个 Agent 能不能操作浏览器?能不能发邮件?能不能改 CRM?能不能调广告预算?但进入生产以后,真正重要的问题会变成:这个 Agent 做一次任务花多少钱?成功率是多少?失败会造成什么后果?它有没有权限做这件事?什么时候必须停下来问人?执行过什么能不能追踪?重复跑会不会重复写数据?失控以后怎么停?
所以 AI 成本从来不是一个 API 报价,而是算力成本加失败成本加人工复核成本加基础设施成本加治理成本。这个账未来企业一定会越来越认真地算。
我也因此越来越不相信一个说法:模型足够聪明以后,很多系统工程问题自然会消失。我觉得可能相反。模型越强,能做的事越多,调用的工具越多,拥有的权限越大,运行的时间越长,连接的业务越关键,出错的后果也越大。一个写社媒文案的 Agent 写错一句话问题不大;一个管理几百万广告预算的 Agent 做错决策不是一个级别;一个修改生产库存计划的 Agent 出错又是另一个级别。能力增加以后,你需要更多的可观测性、权限、身份、审批、状态、审计、回滚和评估。也就是说,AI 能力本身越接近员工,它周围需要的企业基础设施也越接近真正的组织系统。
Martin 给了一个我认为全场最硬的算术,它解释了为什么资本愿意涌进硬件。
训练一个前沿模型今天要花 30 亿到 50 亿美元。推理至少要把这笔钱赚回来,就算要赚回两倍,那就是 100 亿美元。如果你能在这上面省下 20% 的效率,那就是 20 亿美元。而 20 亿美元足够你为它专门做一颗 ASIC。
在这个行业的历史上,我们从来没有创造过一个直接投入了 50 亿美元的数字产物。
所以行业已经走到了一个奇特的位置:为单个模型定制一颗芯片,在经济上开始说得通了。而且他补了一个技术前提:传统软件有大量状态、非常动态,而模型不是,模型权重是固定的。他自己也说不确定世界会不会真的走向一模型一芯片,但这个算式能让你看清楚架构会往哪个方向演化。
这是这场讨论真正落到物理世界的地方,细节密度极高。
机柜功率
从大约 5 到 10 千瓦,正在涨到 100 到 150 千瓦,算力密度大约提高 70 倍。
交流电不管用了
到了这个功率必须上直流,而直流本身也需要冷却,而且非常危险。Ben 在这里讲了一个历史上的讽刺:当年正是爱迪生为了推销直流电,通过电死动物来证明交流电有多危险,结果他对危险性的判断在今天反而应验在直流自己身上。
冷却从风冷转向液冷
Ben 说任何一个最先进的数据中心其实已经是液冷了,这件事已经完成。但下一步是液冷还不够,必须是环保的液冷;直流还不够,必须是对社会电力有贡献而不是掠夺的供电方式。
地板和墙
地板要能承受新的设备密度,这是真实的工程问题。数据中心又非常吵,所以墙必须做得更厚,否则会扰民,而这在任何一个州都不会被允许。
涨得最快的不只是内存
所以很多建筑本身的设计已经彻底过时了。Ben 顺手给了一个几乎没人提的数据点:所有人都在聊内存涨价,但涨得最快的品类之一其实是钢筋混凝土。
还有一个我认为最值得中文读者看到的数字。当数据中心开始往机柜送 800 伏电压时,危险性是一回事,更现实的问题是人不够:全美只有 2% 的电工拿到了直流电作业认证。Meta 已经搞了一整套免费培训项目来解决这件事。Ben 在这里说了一句很妙的话:都在说 AI 抢走所有工作,AI 其实会创造出一大批新电工。
另外,几家拥有超大数据中心的巨头都在疯狂试验用机器人来组装服务器、把服务器装进机架,这件事会随着 AI 的演进而加速。
到了足够大的规模,算力本质上就是把电变成智能。
到 2028 年,新建数据中心大约需要 44GW 的额外电力,而预计的电网新增容量大约只有 25GW。
主持人在这里问了一个我觉得特别好的问题:一个 GW 到底是多少?几个人的回答挺生动的,大约相当于 5 万户家庭的用量。Martin 说他在亚利桑那州 Flagstaff 长大,那是一个四万到六万人的城市,全城耗电不到 1GW。也就是说,一个 GW 大概可以点亮并且给一整座小城供暖制冷。他也提醒,虽然人人都在把 GW 挂在嘴上,真正建成的 GW 级数据中心其实非常少。
为什么不能建快一点?原因一条条都很物理:首先建它需要人,其次需要许可,然后需要能接进去的电,而这是一场规模庞大的监管与竞标博弈,能接的天然气电网容量本来就有限。于是你往往得自己建电,然后你会发现变压器和涡轮机也短缺。Ben 的判断是,这些交付周期不是靠工程师加班能压缩的,全世界最好的头脑都在想办法压缩,但它不容易。
而需求侧现在是每年 10 倍在长。糟糕到什么程度?Martin 说,现在新公司去找 GPU,常常是去墨西哥或者澳大利亚,因为在美国实在太难了。Ben 接了一句更重的:我们通过在本土限制数据中心,正在给别的国家创造巨大的就业和长期经济机会。
不过他们也给了一个正面的标准,我觉得这一段对国内做园区和算力中心的人很有参考价值。Ben 认为正确的做法是设立一个标准:一个数据中心应该让社区变得更好,电力供应更好、没有噪音、没有水的问题、还带来就业。而且这不是未来幻想,现在就有这样的数据中心,当地电价甚至逐年下降。原理是它们自己发电,白天把电供给州里,晚上州里用电少的时候再向州里借电。因为电厂的运行方式是始终按峰值容量发电,而数据中心的负载昼夜稳定、城市的负载昼高夜低,两者天然互补。
关于命名,Martin 的解释比我预期的更有意思。
他说第一点是,Artificial Intelligence 这个词本来就选错了,它应该叫 Machine Intelligence。因为它并不真的是人的思考方式,它是人类已有思考的一份缓存;到今天为止,我们并不知道怎么把一个没有知识的 AI 放到世界上去,让它自己重建出语言。我们造的是一个能从人类已经学会的一切里学习、再把它用起来的东西。而且 AI 这个词在计算机科学里有 70 年的历史,还背着大量科幻和哲学包袱。
第二点带着一层很深的反讽,而且是从「软件正在吞噬世界」的那群人自己嘴里说出来的:你终于走到了这样一个位置,你把钱倒进去,然后被下面那些真实的机器卡住。所以他们想强调的正是 machine 这一半。Raghu 补了一句更实在的:接下来智能的突破,将来自下面那些机器的质量。
主持人问了一个所有人都会问的问题:英伟达这些在位者会不会把新市场全部吃掉?
Martin 的回答是市场规律。假设现有的硅片巨头市值是几万亿美元,那么其中 5% 就已经是一家规模极大的私营公司了。你可以说英伟达也能做,他们确实能做,但他们为什么要去做?他们正专注在那 90% 上,而那 90% 带来的增长一样大。云计算时代大家问过同样的问题:亚马逊为什么不自己做?微软时代也问过。一旦规模到了某个程度,边缘地带反而留出了巨大的创新空间。
Ben 在这里讲了一个我很喜欢的故事,来自他们的合伙人 Alex Rampell。Alex 当年做 TrialPay,想把服务卖给还叫 Facebook 的 Meta,当时负责企业发展的 Dan Rose 对他说:听起来你能捡起很多银砖,但我这里的金砖多到我都捡不完,所以我最不会去看的就是银砖。Ben 说英伟达今天就处在这个位置。
他还拿福特举了例子。1913 年的 River Rouge 工厂几乎是终极垂直整合:水、煤和橡胶进去,车出来。福特甚至在亚马逊雨林买下了一整片橡胶种植园,建了一座叫 Fordlandia 的城市,里面是美式的音乐台和冰淇淋,运转了一段时间,直到他要求当地人按时上下班,然后这件事就崩了。而今天的汽车行业是什么样?是多层级的供应商和一大堆公司。
市场扩张的时候会碎片化,等增长慢下来再重新集中。
软件行业的毛利其实是从技术里自然掉出来的,只要业务跑通了,毛利通常就不错,那不是一个技术问题。而 AI 不一定是这样,我们可能正在进入一个硬件优化会实实在在影响一家公司利润上限的时代,这是过去没有发生过的。
Raghu 说这些创始人必须是 systems founder:你不能只是一个研究者或者优秀的计算机科学家,你要能架构和设计芯片或者整个系统,然后你还要想清楚它到底怎么被制造出来、谁来供货,以及一大堆下游问题。这些是做软件时你根本不用想的事。他的说法是,最好的那批创始人在动手设计之前就已经在想整个生态系统,而 Jensen 是这件事上的迈克尔乔丹。
Ben 补了一个年龄维度:做硬件更需要经验。你看马斯克或者 Travis Kalanick,他们年轻时做的公司都是软件公司,就连这些最好的人,也是先在软件里学会了怎么建公司和建技术,才有能力毕业到这些复杂得多的领域。一个全新的创业者如果连产品本身都还要边做边学,学习曲线太陡了。
Martin 加了一条我认为是根源的观察:这个方向被整个产业界和学术界失焦了二十年。不是它不存在,而是它从来不是增长区,增长区一直是软件和网络。所以今天大学里出来的人、在大公司做过这件事的人,数量本来就很少。你没法去实习一下就造一块芯片。但这件事正在改变,这一批新公司会培养出整整一代懂这件事的创始人。他还顺手点了一句:马斯克最大的遗产也许不是那几家公司本身,而是从 SpaceX 走出来的那一批正在改变整个工业体系的创业者。
有一个细节可以对冲上面的年龄论:a16z 有一笔投资的两位创始人都是二十多岁,但你走进他们办公室,会看到旁边坐着经验丰富的人。Ben 的总结是,不一定要创始人自己有经验,但他最好能调动到那种经验。
先说清楚一件事:这场访谈本身的落点是美国视角。最后一问是「如果这只基金做成了,五到十年后的世界是什么样」,Ben 的回答是希望美国在基础设施这场竞争里赢,希望遍地都是超高效、环保的数据中心,芯片、内存和电力都极大丰富。他还说,如果美国失去技术领先,那将是另一个时代、另一个国家,而那个国家可能有另一套价值观。
下面这一段是我基于原文逻辑做的延伸,不是原访谈的观点,但我认为它成立。
如果 AI 下一阶段不只是谁会开发 App,而开始向电力、数据中心、冷却、网络、芯片、电子制造、材料、机器人、工业设备和供应链不断扩散,那中国企业熟悉的很多领域,突然都进入了 AI 价值链。中国过去二三十年形成的巨大优势本来就在制造、供应链、工程、硬件、成本控制、规模生产和快速迭代。
所以我一直觉得中国企业未来参与 AI,不应该只盯着「我们能不能做下一个 ChatGPT」,这个问题太窄了。更大的问题可能是:AI 时代重新建设整个技术栈,需要哪些现实世界的产品和能力?
并不是每家公司都需要造基础模型,甚至绝大多数公司都不应该造。但一个新的计算时代出现以后,它下面会长出大量卖铲子的生意:造电的、做冷却的、做连接的、做零部件的、做工业自动化的、做部署的、做企业集成的。机会可能远远比做一个 AI App 宽。
而且注意上面那几条具体的缺口:变压器、涡轮机、直流供电设备、液冷、机柜与承重结构、钢筋混凝土、以及用机器人装服务器。这些没有一条是模型问题,全部是制造和工程问题。
基础设施越昂贵,企业就越不能为了 AI 而使用 AI。
如果一个 Agent 一天烧很多 token,最后只是替一个员工自动生成一份根本没人看的日报,这不是 Transformation,这是更昂贵的自动化。
真正值得自动化的东西应该越来越明确地回答:
它减少了什么成本?增加了什么收入?缩短了什么决策周期?
减少了多少错误?替代了多少重复劳动?获得了什么原本不可能获得的能力?
也就是说,AI 越贵,越应该回到 Business Value。
从这个角度看,AI 的下一阶段其实同时发生在两个完全不同的世界。上面是 Agent、应用、企业工作流和数字员工;下面是芯片、内存、网络、冷却、电力、数据中心和材料。中间通过算力连起来。
所以未来真正理解 AI 的人,不能只看模型发布。你还要看 Agent 怎么改变工作,企业怎么重新组织流程,推理怎么增长,基础设施怎么跟上,电力和供应链在哪里卡住,哪些新的瓶颈正在出现。因为每一轮真正大的技术革命,最后创造巨大商业价值的地方,往往并不只是最耀眼的那个产品,而是整个新系统形成以后,所有必须被重新建设的地方。
如果让我把这场讨论压成一句话:
AI 越来越聪明之后,下一个限制它的东西反而越来越物理。
模型还会继续进步,Agent 还会越来越强。但要让几十亿人、几十亿个 Agent、机器人和企业系统真正持续运行起来,最终都绕不开最古老的东西:材料、机器、能源,以及基础设施。AI 看起来活在云端,但下一阶段的竞争,可能越来越发生在地面上。
如果你关注 AI 的算力与能源约束、制造业和供应链在 AI 时代的新位置、以及企业该怎么算 Agent 的真实成本,这期值得完整看一遍。它表面在讲一只基金,底下讲的是一次计算底座的整体重建。
a16z,《Why Top Founders Are Racing Into AI Infrastructure》
https://www.youtube.com/watch?v=Zx1Ec8LWFeM
我也会继续在 SimoDigital 记录这类内容:不把 AI 当成一个部门工具,而是当成需要被重新设计的市场、内容、数据、CRM 与业务流程的整套系统。
simodigital 整理编译