乐于分享
好东西不私藏

AI 的瓶颈不止内存:一张优先级地图,看懂 hype 往哪炒

AI 的瓶颈不止内存:一张优先级地图,看懂 hype 往哪炒

AI 的瓶颈不止内存:一张优先级地图,看懂 hype 往哪炒

上篇我们聊过:LLM 推理里,HBM 显存往往是第一瓶颈——GPU 在等数据,不是在算数。但 AI 基础设施是一整条「瓶颈链」,不同年份、不同场景,卡住的地方会往下游迁移。这篇文章给你一张 按优先级排序的瓶颈地图,并标注 哪些已经被资本市场充分定价、哪些叙事相对更新

数据说明:文中数字来自 JEDEC、PJM、Goldman Sachs、Bernstein、Silicon Analysts、各公司财报/新闻稿等公开来源。部分 CoWoS 分配、项目延期规模为 行业估算,不同机构口径会有差异;投资相关表述为 历史市场现象梳理,不构成投资建议。


先打破一个误解

「AI 就是内存」——这句话在 LLM 推理 Decode 场景下 largely 正确。

但如果你把它理解成「AI 只有存储一个瓶颈」,就会 miss 掉整条产业链正在发生的事。

更重要的是:不同环节的 hype 周期是重叠的,不是排队接力。 光模块 2025–2026 已经在大涨,并不是「下一块还没被发现的金矿」——它和 HBM/CoWoS 是 并行炒作,只是启动时间晚半拍。

炒作波次
时间
主角
当前状态
第一波
2023–2024
HBM 产能
已充分定价 🔥🔥🔥🔥
第一波
2024–2025
CoWoS 封装
已充分定价 🔥🔥🔥🔥
第二波
2025–2026
800G/1.6T 光模块
已在猛炒
 🔥🔥🔥🔥(不是「下一块」)
第三波
2026 起
电力/电网 Power Wall
叙事相对更新
 🔥🔥🔥
跟随波
2026–2027
液冷、电气设备
随 Power Wall 升温 🔥🔥

瓶颈像挤牙膏一样,从芯片往基础设施下游推——但资本市场的定价往往是重叠的,不是等上一波结束才炒下一波。


一张总览:AI 瓶颈优先级地图(2026)

排序逻辑:① 是否真正卡住 AI 扩产/部署 → ② 市场叙事热度 → ③ 涨幅是否已充分反映

优先级
瓶颈
卡什么
炒作阶段
关键数据(公开来源)
P0HBM 显存
LLM Decode、长上下文、高并发
已充分定价 🔥🔥🔥🔥
Bernstein:普通 DRAM 合约价自 2025Q3 起约 +4.5×;HBM 2027 或再涨 2–2.5×(研报预测)
P0CoWoS 先进封装
GPU + HBM 物理组装
已充分定价 🔥🔥🔥🔥
交期 52–78 周(Silicon Analysts);2026–27 产能 85%+ 已预订(行业估算)
P0光模块/网络
多卡集群、跨节点训练
已在猛炒
 🔥🔥🔥🔥
Arista 将 2026 AI 网络收入目标上调至 32.5 亿美元;McKinsey(经 Goldman 引用):800G 缺口 40–60% 至 2027
P1电力/电网
芯片买到了,机房开不了
叙事较新
 🔥🔥🔥
行业跟踪:1620 亿美元 级项目受电力约束;美国约 12 GW 规划容量中仅约 1/3 在建(多源估算)
P2液冷/散热
单机柜 50–100 kW+
🔥🔥
Goldman AI Capex 模型中,数据中心建设+冷却约 2.1 万亿美元(2026–2031 累计)
P2GPU 算力
Prefill、训练
🔥🔥🔥🔥
NVIDIA 仍是核心受益者,但市场叙事重心已转向内存/封装/电力
P2电气设备
变压器、开关柜
🔥🔥
Wood Mackenzie:2026 年电力变压器缺口约 30%;交期可达 100 周+
P3软件利用率
硬件买了,MFU 偏低
🔥
工程界常见 30–50% 区间(视模型/框架而定,非统一官方指标)
P3延迟/调度
首 token 慢、排队
🔥
偏产品层,未形成独立供应链溢价
P4数据 Pipeline
训练时 GPU 等数据
🔥
长期存在,但不如 HBM/电力吸睛

炒作阶段图例:🔥 萌芽 → 🔥🔥 升温 → 🔥🔥🔥 叙事较新 → 🔥🔥🔥🔥 已在猛炒/高度拥挤

易错点:光模块不是「下一块」——它和 HBM/CoWoS 同属 已在定价的 crowded trade。电力/电网在 2026 相对 更晚被 mainstream 叙事聚焦,但不等于此前完全无人讨论。


P0:已经在猛炒、涨幅已大(含光模块)

1. HBM 显存 —— 性能瓶颈 + 供应链瓶颈,双料冠军

性能上,这是 LLM 推理 Decode 的第一约束(详见上篇):

  • 每生成 1 个 token,需从 HBM 读取 全部模型权重 + 全部 KV Cache
  • 以 LLaMA-7B(FP16、2048 上下文)为例,每 token 约需搬运 ~15 GB 数据(~14 GB 权重 + ~1 GB KV)
  • Decode 阶段算术强度约 1–2 FLOP/byte,远低于 H100 平衡点 ~295 → GPU 大量空等

供应上,三家主导,产能高度紧张:

  • SK hynix、Samsung、Micron 是当前 HBM3E/HBM4 量产的主要供应商
  • SK hynix 2024 年即表示 HBM 产能 售罄至 2025(公司官方引述)
  • Micron FY2026 Q3 财报:签署 16 份战略客户协议(SCA),客户 预付款及信用承诺合计约 220 亿美元;其中约 1000 亿美元 为最低合同收入(含 DRAM/NAND,不全是 HBM
  • NVIDIA H100 SXM 使用 5 个 HBM3 stack(NVIDIA 官方规格)

涨幅与成本(Bernstein 研报,2026 年解读)

指标
数据
备注
普通 DRAM 合约价
自 2025Q3 起约 +4.5×
Bernstein 测算
HBM 2027 预测涨幅
+2–2.5×
(全年均价)
研报预测,非已发生事实
NVIDIA 成本转嫁
HBM 涨价或按约  幅度转嫁给下游
Bernstein 假设 NVIDIA 维持 ~75% 毛利率
云厂商 AI Capex
综合内存涨价后或增加 ~30%
Bernstein 对 VR200 机柜场景测算

判断:供需逻辑硬,但 memory 股预期已高。「2027 HBM 涨 2 倍」是预测,不是既成事实。


2. CoWoS 先进封装 —— 造不出的隐形瓶颈

GPU die 在 TSMC 造好了,HBM 在 memory 厂造好了——但如果没有 CoWoS 封装 把两者「贴」在一起,就只是一堆裸硅。

指标
数据
来源/备注
CoWoS 需求(2024→2026)
~37 万 → ~100 万
 wafer/年
Silicon Analysts 等行业估算
TSMC 产能目标(2026 末)
~12–13 万
 WPM
TSMC 扩产目标;仍 reported 满负荷
NVIDIA 占 CoWoS 分配
约 60%
Morgan Stanley / Silicon Analysts 估算
2026–27 产能预订率
85%+
行业估算
交期
52–78 周
Silicon Analysts
封装成本
H100 级 ~1100/chip
Silicon Analysts(CoWoS-S → CoWoS-L)
封装+内存占 AI 芯片 COGS
60–70%
Silicon Analysts 估算

TSMC CEO 魏哲家 2026 年 6 月股东会(据 indmoney 等报道):CoWoS 产能 "extremely tight and sold out through 2026"

判断:与 HBM 并列的 hard constraint。TSMC 股价 2025–2026 年涨幅显著(具体幅度随统计区间变化),但 产能紧张是事实,股价表现是结果——不宜混为一谈。


3. 光模块/网络 —— 已在炒,不是「下一块」

光模块 2025–2026 已经在大涨。以下均为 已发生或公司已披露 的信息:

指标
数据
来源
800G 光模块缺口
40–60%
(至 2027)
McKinsey,经 Goldman Sachs 报告引用
1.6T 光模块缺口
30–40%
(至 2029)
同上
光通信 TAM
Goldman:9× 增长 → 约 1540 亿美元(2 年)
Goldman Sachs 研报
Arista AI 网络收入目标
2025 约 15–16 亿 → 2026 32.5 亿
Arista Q4 2025 财报电话会(CEO 指引)
AAOI 800G 订单
单一 hyperscaler 自 2026 年 3 月起合计 1.24 亿美元(5300 万 + 7100 万)
AAOI 官方新闻稿(2026 年 3–4 月)
AAOI 股价
部分媒体统计 单周 +45%
第三方财经媒体,非公司披露

800G 和 1.6T 正在 并行部署(不是简单替换关系),组件需求叠加。

判断:🔥🔥🔥🔥 和 HBM/CoWoS 一样,已是 crowded trade。 存在的是 800G → 1.6T 的品类轮动,不是「光模块还没被炒」。


P1:2026 叙事相对更新的环节 —— 电力/电网

4. 电力/电网 —— 从「造芯片」到「送电」

2025–2026 年,越来越多行业分析 将约束焦点从芯片/supply chain 转向 Power Wall。但需注意:电力瓶颈 2024 年已有讨论,2026 是 叙事密度上升,不是「从零发现」。

已有多源报道的现象(口径存在差异,取交集):

  • 部分数据中心项目因 并网/变压器/配电 延误(行业跟踪数据)
  • 美国约 1620 亿美元 数据中心项目受电力约束影响(informedclearly 等引述行业数据,2026 年初
  • 2026 年美国规划数据中心容量约 12–16 GW,实际在建约 4–5 GW(Sightline Climate、Wood Mackenzie 等,不同报告口径不同
  • 美国并网排队约 2600 GW(generation + storage projects),等待 4–8 年(IEA/行业数据)
  • 五大 hyperscaler(Amazon、Microsoft、Alphabet、Meta、Oracle)2026 年 AI 基础设施 Capex 合计约 7250 亿美元(各公司 Q1 2026 指引汇总,informedclearly 等)

Goldman Sachs 官方预测(有据可查):

指标
数据
来源
数据中心功耗
2030 年较 2023 年 +165%
Goldman Sachs Research
电网投资需求
7200 亿美元
(至 2030)
同上
AI 累计 Capex
7.6 万亿美元
(2026–2031)
Goldman Sachs: Tracking Trillions

PJM 容量拍卖(美国最大电网之一,硬数据):

  • 2026/2027 年度拍卖清价 329.17 美元/MW-day,触 FERC 批准上限
  • 较 2025/2026 RTO 区域 269.92 美元/MW-day 上涨约 22%
  • 来源:PJM 官方 BRA Report PDF

判断:🔥🔥🔥 电力/并网是 2026 相对更鲜的 mainstream 叙事,但 不等于电力股还没被定价——公用事业、核电 PPA 相关标的 2025 年已有 movement。更稳妥的表述是:约束真实存在,市场已在 react,只是比 HBM/光模块晚半拍。


P2–P4:重要但炒作相对滞后

瓶颈
为什么重要
为什么相对滞后
液冷/散热
单机柜 100 kW+ 必需
常作为 Power Wall 附属叙事
GPU 算力
Prefill/训练仍需要
市场直接交易 NVIDIA,而非「算力瓶颈」概念
电气设备
变压器/开关柜交期 18–36 个月,部分 100 周+
2025 年底起关注度上升
软件利用率
MFU 30–50% 意味着硬件浪费(经验区间)
难量化、难映射到单一股票
延迟/调度
TTFT、排队影响体验
偏 SaaS/平台层
数据 Pipeline
训练时 GPU 等数据加载
长期存在,缺少供应链故事

瓶颈迁移时间线:hype 往哪走?

2023–2024  ████████████  HBM 产能售罄           ← 已充分定价 🔥🔥🔥🔥
2024–2025  ████████████  CoWoS 封装售罄          ← 已充分定价 🔥🔥🔥🔥
2025–2026  ████████████  800G/1.6T 光模块        ← 已在猛炒   🔥🔥🔥🔥
2026 起    ████████████  电力/电网 Power Wall     ← 叙事较新   🔥🔥🔥
2026–2027  ████████      液冷/电气设备            ← 跟随 Power  🔥🔥
2026–2028  ██████        HBM4 + Hybrid Bonding   ← 下一代周期
持续存在   ████          软件利用率/MFU          ← 低炒作     🔥

规律:瓶颈链往下游推,但 hype 周期重叠。光模块晚 HBM 约 1 年启动,但 2026 已同属 crowded trade。


不同角色,该关注哪个瓶颈?

你在做什么?

├─ 做 LLM 推理部署
│   └─ HBM 容量/带宽 → 软件调度 → 延迟

├─ 训练大模型 / 多卡集群
│   └─ 算力 → 互联/光模块 → HBM 容量

├─ 建数据中心 / 采购 GPU
│   └─ 电力并网 → 液冷 → CoWoS/HBM 交付周期

└─ 跟踪 AI 基础设施(非投资建议)
    ├─ 已 crowded:HBM 三巨头、TSMC、光模块龙头
    ├─ 叙事较新:电力/并网、核电 PPA、变压器
    └─ 仍偏工程话题:软件层 MFU/调度

和「内存瓶颈」的关系:不是替代,是叠加

上篇的核心结论仍然成立:LLM 推理 Decode 阶段,HBM 带宽是第一性能约束。

维度
内存瓶颈
其他瓶颈
性能层
Decode 被 HBM 带宽锁死
Prefill 被算力锁死;多卡被互联锁死
容量层
KV Cache + 权重占满 HBM
模型太大需多卡/Offload
部署层
电力、液冷、并网决定能不能开机
供应层
HBM 三巨头售罄
CoWoS 售罄、光模块缺口、变压器交期
投资叙事
已 🔥🔥🔥🔥
光模块也已 🔥🔥🔥🔥;电力 🔥🔥🔥 相对较新

写在最后

如果你只记住四件事:

  1. HBM 仍是 LLM 推理的性能第一瓶颈——这一点没变
  2. 光模块不是「下一块」——2025–2026 已在大涨,和 HBM/CoWoS 同属 crowded trade
  3. 电力/电网是 2026 相对更新的 mainstream 叙事——但「有卡无电」是现象描述,具体项目数字因来源而异
  4. 研报预测 ≠ 既成事实——Bernstein 的 HBM 2027 涨价、Goldman 的 Capex 预测,都是模型输出,可能偏差

Goldman 估计 2026–2031 AI 基建累计 Capex 7.6 万亿美元——这笔钱不会只流向 NVIDIA 和 SK hynix,但 每一环的股价是否还便宜,要分开看


数据来源与可信度分级

A 级(官方/.primary source)

数据
来源
PJM 拍卖价 329.17 美元/MW-day
PJM 2026/2027 BRA Report
Goldman 165% 功耗 / 7200 亿电网 / 7.6 万亿 Capex
Goldman Sachs Research / Tracking Trillions
Arista 2026 AI 网络收入 32.5 亿
Arista Q4 2025 Earnings Call
AAOI 800G 订单 1.24 亿美元
AOI Newsroom 2026-04-02
Micron SCA 220 亿预付款 / 1000 亿最低合同收入
Micron Q3 FY2026 Earnings
H100 5× HBM3 stack / 80 GB
NVIDIA H100 Specs
LLM Decode 内存墙
Gholami et al., AI and Memory Wall, IEEE Micro 2024 — arXiv:2403.14123

B 级(权威研报/行业分析,可能有假设)

数据
来源
HBM 2027 涨 2–2.5×、Capex +30%
Bernstein Research(HTX/Bloomingbit 等解读)
CoWoS 52–78 周、85% 预订、NVIDIA 60%
Silicon Analysts / Morgan Stanley 估算
800G 缺口 40–60%
McKinsey,经 Goldman 报告引用
封装+内存占 COGS 60–70%
Silicon Analysts
1620 亿美元项目停滞、12 GW 中 ~5 GW 在建
informedclearly / Sightline Climate 等行业跟踪

C 级(媒体报道/市场现象,需交叉验证)

数据
来源
AAOI 单周 +45%
第三方财经媒体统计
TSMC 近一年 +100%
取决于统计起止日
Lumentum/Coherent 产能预订至 2027–2028
财报电话会/行业媒体
「芯片库存闲置」
Gartner/EnkiAI 等行业分析,非所有厂商统一状态

延伸阅读

  • Gholami et al., AI and Memory Wall — arXiv:2403.14123
  • Goldman Sachs: AI Power Demand +165%
  • Goldman Sachs: Tracking Trillions ($7.6T Capex)
  • Silicon Analysts: CoWoS Lead Times 2026
  • PJM: 2026/2027 BRA Report (PDF)