AI推理:从KV Cache到存储与光通信

在过去两年里，AI投资的绝对主线是“算力即正义”，也就是英伟达的GPU。然而，随着AI应用从简单的聊天机器人向具备长上下文记忆的智能体演进，底层的经济学和硬件瓶颈正在发生一场深刻的范式转移。

一、Anthropic的暴利与KV Cache的秘密

最近，Anthropic的推理毛利率从38%飙升至70%，甚至有望在2026年第二季度实现数亿美元的营业利润。许多人将此归功于“缓存命中”，认为只要缓存命中率高，大模型的成本就接近于零。

Anthropic的盈利实际上是规模效应、企业级客户结构、云分销套利以及定价策略共同作用的结果。但不可否认的是，在长上下文和Agent工作流中，缓存命中确实是降低边际成本的核武器。

大语言模型推理其实分为两个截然不同的阶段：

Prefill（预填充阶段）：模型阅读并理解用户输入的Prompt（提示词），将其转化为数学向量。这个阶段极其消耗算力，GPU满载运转。
Decode（解码阶段）：模型逐字（Token）吐出回答。在这个阶段，模型必须记住之前所有的上下文，这就是所谓的“短期记忆”。这个阶段极度消耗内存带宽，GPU算力往往在闲置等待数据。

这个“短期记忆”在技术上被称为KV Cache（键值缓存）。如果不用KV Cache，模型每吐出一个字，都要把之前所有的字重新阅读（Prefill）一遍，成本将是天文数字。

但KV Cache的代价极其昂贵。它必须存储在GPU最昂贵的HBM中。在128K的长上下文中，单个用户的KV Cache可能高达数十GB 。这意味着，买再多昂贵的GPU，往往只是为了买它附带的那一点点HBM内存来装KV Cache。

AI推理的瓶颈不是算力，而是内存的容量和带宽。客户支付的高昂费用，很大程度上是在为“内存交通拥堵”买单。

二、打破“内存墙”的存储层级体系

既然HBM太贵且容量有限，系统就必须把KV Cache转移到其他地方。这就形成了一个类似金字塔的存储层级体系：

塔尖：HBM（热存储）。与GPU封装在一起，速度最快，但极其昂贵，容量极小。
中层：CXL扩展内存（温存储）。CXL技术允许通过PCIe插槽连接海量的内存模块。它比HBM慢一点，但比硬盘快得多，是存放KV Cache的完美“中转站” 。
底层：CPU DRAM（冷存储）。传统的服务器主板内存。
地基：SSD（归档存储）。速度最慢，但极其便宜。得益于DeepSeek等厂商在算法层（如MLA架构）将KV Cache压缩了90%以上，现在甚至可以直接从SSD流式读取缓存。

在这个体系中，CXL 3.0的出现是一个关键转折点。CXL 2.0只能让内存分配给单个主机，而CXL 3.0实现了真正的“内存池化与共享”——多个GPU可以同时访问同一块物理内存中的KV Cache 。这意味着，如果一个GPU算出了某个系统提示词的缓存，其他GPU可以直接拿来用，彻底打通了推理集群的任督二脉。

三、当存储变成“光通信”问题

当CXL 3.0让内存池化成为现实，几百个GPU共享一个庞大的内存池时，一个新的物理问题出现了：数据搬运的距离和带宽。

电信号在铜线中传输的距离非常有限。当你要在机架之间、甚至机柜之间高速搬运海量的KV Cache数据时，传统的铜线已经力不从心。

这就引出了我们的第二条投资主线：光通信。

无论是训练时数万张GPU之间的梯度同步，还是推理时海量KV Cache在内存池和GPU之间的搬运，都需要光模块来进行电光转换。

在光模块中，有一个不可或缺的“卡脖子”元件：InP（磷化铟）激光器。硅光技术虽然火热，但硅本身是间接带隙材料，无法高效发光，因此依然需要外挂InP激光器作为光源。随着光模块从800G向1.6T升级，所需激光器数量直接翻倍。

根据供应链调研，InP激光器产能极度集中，目前龙头企业（如Lumentum、Coherent）的产能已经完全售罄至2027年底。2026年到2027年，将是光通信产业链供给压力最大、也是业绩爆发最猛烈的时期。

四、2026年7月：芯片巨头估值大阅兵

在“推理时代→KV Cache→存储与光通信”这条主线下，市场是如何给这些公司定价的？

我们整理了2026年7月最新（财报与股价）的横向对比数据：

公司	核心受益逻辑	最新市值	当前年收入预期	PS (市销率)	收入增速	PS/增速比 (PEG视角)
美光 (MU)	HBM/DRAM超级周期	~$1.10万亿	~$1,290亿	~8.5x	300%+	0.03 (极具性价比)
SK海力士	HBM全球霸主 (份额58%)	~$1.35万亿	~$1,800亿	~7.5x	150-200%	0.04 (极具性价比)
NVIDIA	算力绝对垄断	~$4.4万亿	~$3,500亿	~12.6x	170%	0.07 (估值依然合理)
Marvell	光DSP + 定制ASIC + CXL	~$2,150亿	$115亿	~18.7x	98%	0.19 (中坚力量)
Broadcom	AI网络 + 定制芯片	~$1.72万亿	~$880亿	~19.5x	48%	0.41 (偏稳健)
AMD	试图复制NVIDIA路线	~$8,440亿	~$350亿	~24.1x	30%	0.80 (估值透支严重)
Intel	代工与困境反转	~$6,050亿	~$550亿	~11.0x	恢复中	N/A (不可比)

核心估值洞察：

1.存储双雄（美光、SK海力士）是2026年最炸裂的标的。美光今年暴涨超300%，市值突破万亿美元。更夸张的是，它最新的单季毛利率高达84.9%，甚至超越了英伟达。从PS/增速比来看，美光（0.03）和SK海力士（0.04）是整张表里最便宜的公司。市场正在用真金白银印证“内存才是AI最硬瓶颈”的逻辑。

2.NVIDIA是“最便宜的最贵股票”。4.4万亿市值看似高不可攀，但对应今年预期3500亿美元的恐怖收入，PS仅为12.6倍。在170%的增速面前，NVIDIA的估值依然极具支撑。

3.Marvell是兼顾确定性与爆发性的中坚力量。98%的增速叠加18.7倍的PS，性价比优于Broadcom。它同时吃到了定制ASIC、光通信DSP以及未来CXL交换机的多重红利。

4.AMD的估值透支最为严重。市场给予了AMD“第二个英伟达”的溢价（24倍PS），但其30%的增速与NVIDIA（170%）或存储双雄（150-300%）完全不在一个量级。

五、结语

从“训练”走向“推理”，AI的战场正在发生转移。

推理时代的核心经济学特征，是极高的固定成本和极低的边际成本。而决定这个边际成本底线的，就是如何高效地存储和搬运那庞大的KV Cache。

顺着这个第一性原理，我们看到了HBM的供不应求、CXL技术的必然崛起，以及光通信产业链的全面爆发。

2026年的资本市场已经给出了答案：存储和互联，正在接棒算力，成为AI基础设施投资的下半场主角。