AI工厂堆栈经济学:算力短缺、万亿美元资本开支与供应链瓶颈 | 高冷少女

早些时候刷到Altimeter Capital合伙人Apoorv Agrawal的一篇博文，表达了一种冷酷的现实主义：AI的繁荣是真实的，但价值的分配是极其不均的。

他将GenAI的技术栈笼统地分为三层：半导体（Semi）、基础设施（Infra）和应用（App）。在1Q24时，他统计这三层的年化收入分别为$75B、$10B和$5B，总规模$90B。经过大致估算，半导体层占据了约83%的收入份额和88%毛利份额。

紧接着他对照云计算领域的发展，发现半导体层在云计算领域仅占约8%的收入份额和5%毛利份额，应用层占62%收入份额和67%毛利份额，呈现倒金字塔结构。因此，他判断GenAI的价值堆栈最终也会上下翻转，最接近最终用户的应用层将获得最大的价值——遵循以往科技行业的普遍发展规律。

两年后，1Q26他更新统计，结果令人意外。三层的总规模增长了近5倍，但价值分布的变化却微乎其微，半导体层仍然占据了约70%的收入和79%毛利。

以下是他对各层的分解方式：

• 半导体（约$300B，毛利率约73%）：英伟达$250B+博通$34B+HyperScaler为自家Asic项目直接采购HBM $25B
• Infra（约$75B，毛利率约55%）：Azure、AWS、GCP和Oracle每家贡献$10-20B+CoreWeave $6B+其他Neoclouds
• 应用（约$60B，毛利率约33%）：OpenAI和Anthropic合计$45B+Cursor等agent公司

就绝对金额而言，两年时间仅英伟达一家就新增1,750亿美元收入，大约是整个应用层规模的三倍。盈利状况的分布更加不均衡，半导体毛利率最高，应用最低。这个差距是本轮超级周期和前一轮超级周期（云计算）之间的核心差异所在。

Apoorv的估算略显粗糙，但结论非常鲜明。他进一步指出，要实现价值堆栈的翻转，要么应用层需要持续爆炸式增长，要么半导体层需要大幅降低成本，并将利润转移到更高层级的厂商。这两种情况都在发生，但按照当前的发展速度，我们不太可能在十年内扭转金字塔格局，这意味着卖铲子仍将攫取大部分利润。

⌈最大的发展机遇仍然在于应用层。我大部分时间都花在那里。但投资者应该清醒地认识到当前的经济形势。AI领域最赚钱的公司仍然是那些卖铲子的公司。⌋

AI的资本密集型特性，加上在实现任何收益之前所需要的巨大前期投资，构成了一项今年需要认真思考的难题。前一轮超级周期主要建立在高固定成本和接近于零边际成本的基础上，应用层的价值并非取决于CAPEX。

如今，我们面临着AI极高的固定成本和极高的边际成本，计算能力必须提前于业务构建，这彻底颠覆了以往的模式和法则，使得价值从软件转移到计算供应链。AI独特的经济模式如何才能实现这一点？

AI工厂堆栈模型

当我们谈到当前AI超级周期中的最大受益者时，毫无疑问，鉴于英伟达的独特地位，它正处于领先地位。但如今的英伟达已经不是一家半导体公司，Jensen Huang会说他们拥有AI工厂的全栈技术。

不是GPU集群，也不是数据中心，而是AI工厂。它代表着更深层次的转变：过去，数据中心更像是仓库（存储系统），而工厂（生产系统）直接创造收益，将电力持续转化为token——一种新的商品，可被不同群体消费。

SemiAnalysis有个更详细的AI工厂堆栈模型，发布于25年11月，清晰地展示了运行逻辑。我在表格里补充了计算公式。

当前利润率最高的环节当然是芯片层面，但以下几层的利润分布仍然存在激烈的争夺：

• IaaS层：将硅片和电力转化为可租赁的GPU小时单价

• PaaS层：将GPU小时单价转化为token
• 应用层：将token转化为最终用户的生产力

IaaS层的玩家主要包括Hyperscalers和Neoclouds。前者是指传统通用云巨头，如Azure、AWS、GCP，后者是指专注于提供GPU算力租赁服务的新型云计算提供商（Pure-play GPU cloud，也称为GPU-native cloud）如Coreweave。他们需要提前投入资本支出（主要依靠举债）购买GPU，再出租出去，并期望未来几年的租金收入能够收回成本。

根据SemiAnalysis数据，单块H200 GPU运行总成本$1.23/小时（含GPU折旧、电费等数据中心运营项），在出租价格$1.90/小时的情形下，毛利率35%，在重资产行业还算可以，但未考虑融资成本。

PaaS层是最关键的生产环节。按SemiAnalysis的推算，每百万token的API调用售价为$1.75，如果推理成本为$0.72，意味着领先的模型公司/AI lab在其推理API业务中获得了接近60%的利润率。

PaaS层的利润空间既取决于API定价，也取决于推理成本。价格与模型性能/参数量、市场竞争有关，23年初GPT-4刚发布时，每百万token的API调用售价约为$36，到25年底价格已跌破$2，两年内降幅超过94%。但需求的增长速度远远超过了价格下降的速度，导致总使用量反而增加，这在经济学领域称为杰文斯悖论。

成本与每秒生成的token数量（TPS）有关，假设模型架构、数据质量、工程优化等其他所有技术都在不断改进，TPS翻一番，生产成本将砍半，模型API毛利率将飙升至接近80%，利润空间会迅速放大。

到了应用层，需要区分对接第三方模型（3P）和自有模型（1P）的经济差异。假设用户月均消耗1,000万token，订阅费定价$20/月，API调用成本会迅速吃掉大部分订阅费收入，3P业务毛利率仅13%，几乎是在为模型公司乃至全产业链“打工”。

对于模型公司/AI lab而言，计算能力优先于业务构建。必须先拥有计算能力，才能训练出足够优秀的模型以及运行模型进行推理。尽管推理API和1P应用业务的毛利率看起来不错，但他们还需要加倍投入于训练下一个前沿模型，否则很快会被替代模型超过。

因此，无论这三层的利润如何分配，最终大部分都又流回了芯片购买和基础设施建设。

SemiAnalysis的模型提供了一个视角，AI生产力的本质是一种工业化产出。整个AI堆栈的底层是物理学，输入的是电力，输出的token：电力（$/kWh）→算力（$/GPU）→Token（$/M Tok）。在这个过程中，任何能够提高每秒每$每W生成的token都能创造竞争优势，生产效率的提升是创造利润的核心关键。

Karpathy有个演讲，他将大模型类比为fab（晶圆厂），强调其需要巨大的资本投入和深入的tech tree式研发模式。这一类比也印证了AI生产力的工业化本质。大模型的训练和运行，就像fab不断向先进制程发展，需要巨大的资本投入和持续的技术优化，才能实现高效的产出。

1万亿美元CAPEX

高固定成本和高边际成本特征，推动行业内的资本支出规模和增速都达到了前所未有的水平。五大Hyperscalers（亚马逊、微软、谷歌、Meta、Oracle）今年的总资本支出预计达到$700B，这个数字包括AI和非AI领域的全部支出。而Neoclouds今年的总资本支出预计高达$120B，虽然总资本支出的绝对份额不到Hyperscalers的20%，但它们的钱几乎80-90%用来采购英伟达最新的芯片。

$700B是什么概念，不仅意味着增长率接近80%，几乎是2022年（ChatGPT推出元年）水平的5倍，还超过了Hyperscalers去年的合并经营现金流，促使它们大规模发行债券甚至利用杠杆来覆盖支出。

高盛的研究指出，连续两年，市场对Hyperscalers资本支出的普遍预期都偏低，在24年初和25年初，市场普遍预期资本支出增长率约为20%，而实际这两年的增长率都超过了50%。

25年底，华尔街对26年资本支出的普遍预期从年初$465B上调至年中$527B再到年底$602B，即便持续上调，仍然明显低估了Hyperscalers的激进。再次反映了Dario所说的，人类的思维偏线性，不太能理解AI领域的指数级增长。用谷歌CEO劈柴哥的话来说，对于AI infra，投资不足的风险远大于投资过剩的风险，前者可能意味着直接出局（irrelevance）。

以Coreweave为代表的Neoclouds资本支出计划不仅比Hyperscalers更加激进，而且其增速和资金利用模式已经超出了传统华尔街财务模型的覆盖范围。Coreweave 26年计划投入$30-35B，这一数字是25年的两倍以上，而且它预计26年每$1收入将对应$2.6资本投入，这种豪赌在传统科技股中极其罕见。

与Hyperscalers掺杂战略防御性质的资本投入不同，Neoclouds的ROI逻辑更接近于纯粹的重资产租赁模式。它们与AI labs和Hyperscalers签订了“take-or-pay”的长期合同，用Coreweave CEO的话来说，“我们现在的限制不是需求，而是交付更多产能的能力。”

OpenAI的算力规模从24年600兆瓦，增加到25年1.9GW，26年预计增加到6GW，27年还将增加到12GW。相比之下，Anthropic在25年底的计算能力为1.4GW，27年预计将达到7-8GW。每GW的年租用成本预估为$10-13B，建设资本投入预估为$35-45B。按此预估OpenAI 算力投入在$30-50B体量，其26年2月宣布的年化营收为$25B。即便投入规模是营收的1.5倍，Sam Altman依然在今年频繁强调计算资源是产品瓶颈。

如果把目光投向整个供应链，今年资本支出总额将上升到惊人的1万亿美元。当然，其中一部分是用于今年即将投入使用的计算资源，但还有大量是为27-28年做准备，例如为锁定远期能源合同和长周期设备预付定金。

市场目前对万亿美元资本开支处于一种既对增长感到兴奋，又对现金流断裂的恐慌之中。为什么行业这三层的玩家都会认为大规模资本支出是合理的？

AI的重要转折点——价值逻辑重构

SemiAnalysis数据显示，H100 GPU一年期租赁合同的价格，从2025年底的低点$1.70/小时处开始发生转折，逐月飙升至2026年3月的$2.35/小时，涨幅近40%。尽管价格上涨，但租赁市场上的大部分GPU均已售罄，而且新增的可用容量也都被预订一空。

在26年3月寻找GPU计算资源就像预订最后一班飞机票一样，价格高昂，一座难求（GPU采购感觉像是在黑市上购买D品一样）。SemiAnalysis分析师从Neoclouds那里听到的消息是，这种情况大概要持续到八九月份。

这成为一个很大的市场预期差。在25年底之前，全市场普遍预期，随着新芯片的推出和性能价格比的提升，老芯片的租赁价格将持续大幅下降。华尔街对任何采用六年折旧期对GPU资产进行直线法折旧的Neocloud都进行了严厉批评，这些公司的股价处于6-12个月区间的低端。到26年，Blackwell架构的芯片进入量产期和规模化部署后，H100的价值就只有$1/小时，而到了27年，当Rubin架构进入量产期，H100价值就只剩$0.5/小时。

而现在发生的现实情况是，两年过去了，人们还愿意以$2.4/小时的价格再签订两三年H100合同，持续到2028年。这利润空间可就大多了。

今年以来，无论性能如何，所有GPU型号都将供不应求，即使较老的型号也依然需求旺盛，这说明计算资源短缺的情况是如此严重。第二，计算资源短缺将为IaaS层带来了定价权，所有公司都在大幅增加资本投入，而这些新增的算力都按新的价格交易。

GPU市场的运行逻辑已发生根本变化：价格不再主要由硬件成本决定，而是由需求端的token消耗、模型能力和token生产效率共同决定。

需求端的变化尤为关键。最显著的需求驱动因素是multi-agent工作负载的出现，实用性又得到了阶跃式提升。

Anthropic于25年11月发布了Opus 4.5，当时并未引起太多关注，然而到年底的某个时候，搭载Opus 4.5的Claude Code突然展现出前所未有的能力。OpenAI也于今年2月发布了GPT-5.2-Codex，其能力与Claude Code类似。

突然之间，你向一个agent发出指令，它能指导模型完成任务，还可以使用其他工具来验证其结果，而无需人工干预。这些工作负载以高并发模式自主运行并持续迭代（好几个小时），对token的使用量和计算资源消耗呈指数级增长。

不仅Anthropic的收入飙升（年化收入从去年底$9B垂直增长到$30B），OpenAI也正将其业务重心转向企业级市场。说明企业已经证明他们愿意为提高生产力付费。

如果使用agent的投资回报率是5-10倍，那么GPU租赁价格的涨幅在相当长的一段时间内都难以达到足以抑制需求的程度。

另一个角度是，由于半导体产业链和产能扩张速度的限制，芯片供不应求。Hyperscalers在上个季度财报会中都谈到了一个共同的主题：对计算能力的需求超过了供给。这意味着，在芯片短缺时，真正决定这些芯片价格的并非是“我现在能买到的同类产品价格”，而是“我今天能从这颗芯片中获得的价值”。

牛鞭效应与需求错配

计算资源的瓶颈取决于目前的供应链在哪个环节无法满足哪些需求。如果沿着供应链一路向上游追踪，就会发现供应链根本不可能提供足够的算力。假设OpenAI和Anthropic的需求是X，供应链上的每个环节对AGI的发展速度和需求规模理解还不够透彻，都在按照X-1，甚至在某些情况下，X/2的规模进行产能规划和投入，最终导致牛鞭反应出现延迟，进一步加剧了供需失衡。

尽管在2023年ChatGPT发布以后，AI基础设施的发展就受到了各种各样的限制，例如数据中心电力供应、土建、冷却系统、CoWoS封装等等。这些供应链环节都需要从头开始建设，但总体都属于交付周期较短的环节。相比之下，建设一座晶圆厂需要两三年时间，是耗时较长的瓶颈。

台积电的3纳米“N3”系列工艺节点产能是最大制约因素之一。英伟达Rubin架构GPU、谷歌TPUv7和亚马逊Trainium3都将采用N3工艺。不仅加速计算芯片，英伟达的Vera CPU和交换机、网络设备中的芯片绝大部分都将采用N3技术，导致N3产能面临巨大冲击。

26年以前AI加速芯片的产能主要靠消费电子芯片（智能手机SoC、PC CPU）的产能转移，但如今已经没有足够的产能转向AI。根据SemiAnalysis预测，AI相关需求将占26年N3总产量的近60%，到27年将占86%，几乎完全挤占了消费电子芯片的产能。

就产量而言，如果台积电将26年N3总产量的25%分配给AI，可以额外生产约70万颗Rubin GPU或约150万颗TPUv7，这固然不错，但仍然不足以产生显著影响，需求很难得到完全满足。

台积电去年的资本支出增长了37%，达到$41B，今年预计还将增长至$52-56B，增幅27-37%，其中70-80%与AI相关。毫无疑问，这个数字是巨大的，约占预期营收的35%左右，打破了台积电历史上的最高纪录。CEO魏哲家对此的评论是“very nervous”。新建一座晶圆厂需要两到三年时间，所以，今年的资本支出决策考虑的是2028-2029年的供应情况。

这种长达两三年的滞后影响既解释了台积电几年前的资本投入不足会导致如今的供需失衡，也解释了为什么台积电在资本配置方面需要非常严谨。具体来说，如果到了2028年需求都消失了，台积电很可能会因为产能过剩而变成巨额亏损，并导致未来几年定价权下降。相反情况，如果2028年的产能无法满足市场需求，客户的损失远大于台积电。

魏哲家曾表示N3产能大约只有主要客户计划需求的1/3，在争夺有限的N3配额的客户中，台积电扮演着“造王者”的角色，它决定谁能获得更多配额，谁能在未来拥有可靠的供应。（所以有人说，台积电是AI泡沫的真正刹车）

N3逻辑芯片产能只是一部分，还需要考虑内存供应和先进封装。内存短缺问题短期内不太可能得到缓解。应用于AI的HBM消耗的晶圆产能约为应用于消费电子的普通DRAM的三倍。随着行业今年向HBM4过渡，这一差距可能会扩大到近四倍，明年HBM4E甚至会更大。因此，尽管DRAM晶圆总产能持续增长，但HBM的增量需求会从普通DRAM晶圆产能中挤压掉不成比例的份额，从而加速存储产能的紧张局面。

不仅是芯片数量需求的增长，长上下文推理需要更大的KV Cache、也就意味着需要更多内存，单颗芯片中的HBM容量提升，以及客户对HBM更高引脚速度的需求不断增长，这种性能要求的不断攀升进一步限制了HBM的有效供应。

内存短缺从价格上反映出来之后，内存厂商又花了三到六个月才开始建厂，而这些晶圆厂的建设同样需要两年时间。

在这种情况下，英伟达占据了大部分的稀缺产能份额。部分原因是Jensen比去年Q3的谷歌或亚马逊更了解AGI，而且他当时也看到了更大的市场需求，更早地花费大量时间向台积电和SK海力士等供应商展示长期购买的意向，并且立即就签约（采购承诺总额达到$250B）。谷歌和亚马逊都遇到了一些障碍，其中一款芯片的发布就延迟了几个季度。看到其他人在拖延，只有英伟达一直追着想要更多，会签不可取消、不可退款的合同，你会把产能分给谁？

Anthropic最先经历了年化收入的飙升，它利用谷歌资源错位（Anthropic的计算负责人是前DeepMind的TPU专家），成功谈判达成协议获得了TPU资源。从Gemini的年化收入能看出来，去年前三个季度几乎为零，然后推出了Gemini 3和Nano Banana，用户指标飙升，Q4的年化收入就达到了$5B。由于需求来得太突然，谷歌高层这才恍然大悟，去找台积电想要更多。台积电：抱歉各位，产能已售罄。由于台积电配额限制，Anthropic其实是从谷歌夺取了算力。

随着去年底Agent的爆发，CPU的角色也发生了质变。2023年以来，GPU/XPU一直是AI领域唯一重要的芯片，CPU只是个无关紧要的配角。但这种情况正在迅速改变。Agent需要执行任务拆解、编排调度、工具调用、API交互、验证循环等工作，这些处理GPU并不擅长，全靠CPU。GPU仍然负责推理，但在每次调用推理之前，CPU需要执行大量工作，在CPU完成其工作以前GPU可能处于空闲状态。

这意味着在AI Agent的浪潮下，CPU又重新回到了指挥官的位置。CPU与GPU的配比需要大幅提升，去年是8:1，现在是4:1、2:1甚至接近1:1，导致CPU需求量成倍增长，这让英特尔措手不及——CFO承认了对CPU需求增速存在“误判”，导致其26年的产能已提前售罄。

与逻辑晶圆、内存一样，CPU的产能可以通过挤压消费电子芯片产能来实现，但现在的瓶颈是，消费电子已经没有足够的产能进行转移。

除了计算和存储芯片面临短缺，网络在系统中的重要性在某些维度上甚至超越了单芯片能力。随着计算集群规模扩展到上万个GPU，在它们之间传输数据所需的基础设施亦成为制约因素。即使拥有最强大的计算核心，如果通信效率不足，网络出现延迟和拥塞，芯片也会处于空闲状态。

特别是随着模型向MoE（混合专家架构）演进，模型对All-to-All通信的需求呈指数级增长。相比于传统的Dense架构，每一个Token都要经过模型里的所有参数，在MoE架构中，每个Token都有可能飞往集群中的任何一个GPU，每个GPU都在同时给其他所有GPU发送/接受数据，Token频繁跨GPU交换。

这使网络成为新的核心战场，整个光通信行业也从一个“相对沉寂的周期性行业”一下变成了AI基础设施不可或缺的基石。

如果追踪谷歌历代TPU的架构变化，其设计理念在进入LLM时代以来发生了显著改变。尽管从单个芯片的规格（理论峰值浮点运算能力、内存容量和带宽）来看，TPU都略逊于英伟达同时期的GPU。但三大前沿模型中有两大——Gemini和Claude都是用TPU训练的。到了系统层面，才是TPU优势开始真正显现的地方。TPU最显著的特点之一是9,216颗TPUv7芯片互联的超大规模pod。

一个pod由144个机架通过光路交换机（OCS）连接，每个机架是一个由64颗TPU芯片组成的4×4×4三维环面，可以想象成一个立方体魔方，位于立方体内部的TPU通过铜线连接，位于立方体表面的TPU（共96面）通过光收发器和光纤连接到光路交换机，因此总共需要13,824个OCS端口（144×96），意味着我们需要48台288端口的OCS来支持一个pod。（为什么是144个机架？答案在于288端口的OCS可以进行大规模量产）

根据一些技术情报，TPUv8的拓扑结构将从三维环面扩展到四维甚至更高维度，TPU芯片和OCS端口数量的比例会大幅增加至1:10（v7是1:1.5）。单台OCS端口密度达到1024端口，集群规模可以扩展到512个机架、32,768颗芯片以上。

这种需求激增让光学产业链措手不及。谷歌和英伟达重要的光学供应商Lumentum最近发布了一个重磅消息：该公司2028年底的产能在两个季度内可能全部售罄（签订了不可取消的协议）。在过去两年，公司已尽最大努力扩产，但产能与需求之间的差距似乎越来越大。

谷歌DeepMind CEO哈萨比斯最近坦率地发出了警告：供应链问题是AI发展的一个重大“瓶颈”。关键组件仍然掌握在少数供应商手中，因此，任何产能受限的地方都会出现瓶颈。这种物理基础设施的限制如今确实阻碍了AI创新和应用的步伐。

最终到28或29年，瓶颈将落在半导体供应链的最底层，也就是生产EUV光刻机的ASML公司。目前，ASML的年产量约为70台，即使供应链扩张非常迅速，到30年也只能略高于100台。

供应链是一条河流，解除一个瓶颈会将压力转移到下一个瓶颈。单一瓶颈就可能导致整个供应链瘫痪。这会导致行业无法像预期那样迅速地将所有已公布的资本支出计划转化为实际部署的基础设施。

AI需求增长以月为周期变化，但硬件供应链的交付周期以年为周期，相关材料和设备的交付周期长达两到三年时间。时间只是其中一个问题，更重要的是硬件供应链上的大多数玩家并没有选择孤注一掷，以最快的速度扩张产能。因为他们中的很多人经历过繁荣与萧条的周期，这让他们行事保守，不愿过度追逐突然激增的需求，对他们来说供应过剩的风险远大于供不应求的风险——前者会让公司陷入危机，后者是将风险转嫁给了客户。真正能促使他们积极扩产的理由并不是因为对AGI的实现有多信仰，而是因为竞争——产能不足会促使客户寻求更广泛的供应商合作。

一旦供应链最终意识到需要快速提高产量，他们以为自己已经大幅提升了产量，就像ASML从70台提升到120台，依然不足以面对需求的指数级增长。

在这场GenAI驱动的科技革命中，当前供应链的每一个薄弱环节，都可能成为新的创业与投资风口，不容忽视。Amadahl's Law告诉我们，如果你加快了其中一些环节的速度，那么剩下尚未被加速的环节就会成为瓶颈。应对这些瓶颈需要投入大量资本，对实体基础设施进行大规模改造。但我相信每一次瓶颈的突破，都将推动整个AI行业迈向新的高度。

往期文章：

Anthropic：将指数级增长融入DNA | 高冷少女