AI 的瓶颈不止内存:一张优先级地图,看懂 hype 往哪炒
“上篇我们聊过:LLM 推理里,HBM 显存往往是第一瓶颈——GPU 在等数据,不是在算数。但 AI 基础设施是一整条「瓶颈链」,不同年份、不同场景,卡住的地方会往下游迁移。这篇文章给你一张 按优先级排序的瓶颈地图,并标注 哪些已经被资本市场充分定价、哪些叙事相对更新。
数据说明:文中数字来自 JEDEC、PJM、Goldman Sachs、Bernstein、Silicon Analysts、各公司财报/新闻稿等公开来源。部分 CoWoS 分配、项目延期规模为 行业估算,不同机构口径会有差异;投资相关表述为 历史市场现象梳理,不构成投资建议。
”
先打破一个误解
「AI 就是内存」——这句话在 LLM 推理 Decode 场景下 largely 正确。
但如果你把它理解成「AI 只有存储一个瓶颈」,就会 miss 掉整条产业链正在发生的事。
更重要的是:不同环节的 hype 周期是重叠的,不是排队接力。 光模块 2025–2026 已经在大涨,并不是「下一块还没被发现的金矿」——它和 HBM/CoWoS 是 并行炒作,只是启动时间晚半拍。
| 第一波 | |||
| 第一波 | |||
| 第二波 | 已在猛炒 | ||
| 第三波 | 叙事相对更新 | ||
| 跟随波 |
瓶颈像挤牙膏一样,从芯片往基础设施下游推——但资本市场的定价往往是重叠的,不是等上一波结束才炒下一波。
一张总览:AI 瓶颈优先级地图(2026)
“排序逻辑:① 是否真正卡住 AI 扩产/部署 → ② 市场叙事热度 → ③ 涨幅是否已充分反映
”
| P0 | HBM 显存 | |||
| P0 | CoWoS 先进封装 | |||
| P0 | 光模块/网络 | 已在猛炒 | ||
| P1 | 电力/电网 | 叙事较新 | ||
| P2 | 液冷/散热 | |||
| P2 | GPU 算力 | |||
| P2 | 电气设备 | |||
| P3 | 软件利用率 | |||
| P3 | 延迟/调度 | |||
| P4 | 数据 Pipeline |
炒作阶段图例:🔥 萌芽 → 🔥🔥 升温 → 🔥🔥🔥 叙事较新 → 🔥🔥🔥🔥 已在猛炒/高度拥挤
“易错点:光模块不是「下一块」——它和 HBM/CoWoS 同属 已在定价的 crowded trade。电力/电网在 2026 相对 更晚被 mainstream 叙事聚焦,但不等于此前完全无人讨论。
”
P0:已经在猛炒、涨幅已大(含光模块)
1. HBM 显存 —— 性能瓶颈 + 供应链瓶颈,双料冠军
性能上,这是 LLM 推理 Decode 的第一约束(详见上篇):
每生成 1 个 token,需从 HBM 读取 全部模型权重 + 全部 KV Cache 以 LLaMA-7B(FP16、2048 上下文)为例,每 token 约需搬运 ~15 GB 数据(~14 GB 权重 + ~1 GB KV) Decode 阶段算术强度约 1–2 FLOP/byte,远低于 H100 平衡点 ~295 → GPU 大量空等
供应上,三家主导,产能高度紧张:
SK hynix、Samsung、Micron 是当前 HBM3E/HBM4 量产的主要供应商 SK hynix 2024 年即表示 HBM 产能 售罄至 2025(公司官方引述) Micron FY2026 Q3 财报:签署 16 份战略客户协议(SCA),客户 预付款及信用承诺合计约 220 亿美元;其中约 1000 亿美元 为最低合同收入(含 DRAM/NAND,不全是 HBM) NVIDIA H100 SXM 使用 5 个 HBM3 stack(NVIDIA 官方规格)
涨幅与成本(Bernstein 研报,2026 年解读):
| +2–2.5× | 研报预测,非已发生事实 | |
“判断:供需逻辑硬,但 memory 股预期已高。「2027 HBM 涨 2 倍」是预测,不是既成事实。
”
2. CoWoS 先进封装 —— 造不出的隐形瓶颈
GPU die 在 TSMC 造好了,HBM 在 memory 厂造好了——但如果没有 CoWoS 封装 把两者「贴」在一起,就只是一堆裸硅。
| ~37 万 → ~100 万 | ||
| ~12–13 万 | ||
| 85%+ | ||
| 52–78 周 | ||
| 60–70% |
TSMC CEO 魏哲家 2026 年 6 月股东会(据 indmoney 等报道):CoWoS 产能 "extremely tight and sold out through 2026"。
“判断:与 HBM 并列的 hard constraint。TSMC 股价 2025–2026 年涨幅显著(具体幅度随统计区间变化),但 产能紧张是事实,股价表现是结果——不宜混为一谈。
”
3. 光模块/网络 —— 已在炒,不是「下一块」
光模块 2025–2026 已经在大涨。以下均为 已发生或公司已披露 的信息:
| 40–60% | ||
| 30–40% | ||
800G 和 1.6T 正在 并行部署(不是简单替换关系),组件需求叠加。
“判断:🔥🔥🔥🔥 和 HBM/CoWoS 一样,已是 crowded trade。 存在的是 800G → 1.6T 的品类轮动,不是「光模块还没被炒」。
”
P1:2026 叙事相对更新的环节 —— 电力/电网
4. 电力/电网 —— 从「造芯片」到「送电」
2025–2026 年,越来越多行业分析 将约束焦点从芯片/supply chain 转向 Power Wall。但需注意:电力瓶颈 2024 年已有讨论,2026 是 叙事密度上升,不是「从零发现」。
已有多源报道的现象(口径存在差异,取交集):
部分数据中心项目因 并网/变压器/配电 延误(行业跟踪数据) 美国约 1620 亿美元 数据中心项目受电力约束影响(informedclearly 等引述行业数据,2026 年初) 2026 年美国规划数据中心容量约 12–16 GW,实际在建约 4–5 GW(Sightline Climate、Wood Mackenzie 等,不同报告口径不同) 美国并网排队约 2600 GW(generation + storage projects),等待 4–8 年(IEA/行业数据) 五大 hyperscaler(Amazon、Microsoft、Alphabet、Meta、Oracle)2026 年 AI 基础设施 Capex 合计约 7250 亿美元(各公司 Q1 2026 指引汇总,informedclearly 等)
Goldman Sachs 官方预测(有据可查):
| 7200 亿美元 | ||
| 7.6 万亿美元 |
PJM 容量拍卖(美国最大电网之一,硬数据):
2026/2027 年度拍卖清价 329.17 美元/MW-day,触 FERC 批准上限 较 2025/2026 RTO 区域 269.92 美元/MW-day 上涨约 22% 来源:PJM 官方 BRA Report PDF
“判断:🔥🔥🔥 电力/并网是 2026 相对更鲜的 mainstream 叙事,但 不等于电力股还没被定价——公用事业、核电 PPA 相关标的 2025 年已有 movement。更稳妥的表述是:约束真实存在,市场已在 react,只是比 HBM/光模块晚半拍。
”
P2–P4:重要但炒作相对滞后
| 液冷/散热 | ||
| GPU 算力 | ||
| 电气设备 | ||
| 软件利用率 | ||
| 延迟/调度 | ||
| 数据 Pipeline |
瓶颈迁移时间线:hype 往哪走?
2023–2024 ████████████ HBM 产能售罄 ← 已充分定价 🔥🔥🔥🔥
2024–2025 ████████████ CoWoS 封装售罄 ← 已充分定价 🔥🔥🔥🔥
2025–2026 ████████████ 800G/1.6T 光模块 ← 已在猛炒 🔥🔥🔥🔥
2026 起 ████████████ 电力/电网 Power Wall ← 叙事较新 🔥🔥🔥
2026–2027 ████████ 液冷/电气设备 ← 跟随 Power 🔥🔥
2026–2028 ██████ HBM4 + Hybrid Bonding ← 下一代周期
持续存在 ████ 软件利用率/MFU ← 低炒作 🔥
规律:瓶颈链往下游推,但 hype 周期重叠。光模块晚 HBM 约 1 年启动,但 2026 已同属 crowded trade。
不同角色,该关注哪个瓶颈?
你在做什么?
│
├─ 做 LLM 推理部署
│ └─ HBM 容量/带宽 → 软件调度 → 延迟
│
├─ 训练大模型 / 多卡集群
│ └─ 算力 → 互联/光模块 → HBM 容量
│
├─ 建数据中心 / 采购 GPU
│ └─ 电力并网 → 液冷 → CoWoS/HBM 交付周期
│
└─ 跟踪 AI 基础设施(非投资建议)
├─ 已 crowded:HBM 三巨头、TSMC、光模块龙头
├─ 叙事较新:电力/并网、核电 PPA、变压器
└─ 仍偏工程话题:软件层 MFU/调度
和「内存瓶颈」的关系:不是替代,是叠加
上篇的核心结论仍然成立:LLM 推理 Decode 阶段,HBM 带宽是第一性能约束。
| 性能层 | ||
| 容量层 | ||
| 部署层 | ||
| 供应层 | ||
| 投资叙事 |
写在最后
如果你只记住四件事:
HBM 仍是 LLM 推理的性能第一瓶颈——这一点没变 光模块不是「下一块」——2025–2026 已在大涨,和 HBM/CoWoS 同属 crowded trade 电力/电网是 2026 相对更新的 mainstream 叙事——但「有卡无电」是现象描述,具体项目数字因来源而异 研报预测 ≠ 既成事实——Bernstein 的 HBM 2027 涨价、Goldman 的 Capex 预测,都是模型输出,可能偏差
Goldman 估计 2026–2031 AI 基建累计 Capex 7.6 万亿美元——这笔钱不会只流向 NVIDIA 和 SK hynix,但 每一环的股价是否还便宜,要分开看。
数据来源与可信度分级
A 级(官方/.primary source)
B 级(权威研报/行业分析,可能有假设)
C 级(媒体报道/市场现象,需交叉验证)
延伸阅读
Gholami et al., AI and Memory Wall — arXiv:2403.14123 Goldman Sachs: AI Power Demand +165% Goldman Sachs: Tracking Trillions ($7.6T Capex) Silicon Analysts: CoWoS Lead Times 2026 PJM: 2026/2027 BRA Report (PDF)
夜雨聆风