AI推理:KV Cache重塑算力产业链

2026年，全球四大超级云厂商的资本开支指引合计达到7250亿美元，同比增长77%。这笔钱花在哪里？

大多数人会说"买GPU"。但如果你深入推理系统的内部，会发现一个反直觉的事实：GPU的计算单元在大部分时间里是闲置的——它们在等待数据从内存中被读出来。

这个让GPU"饿肚子"的数据，就是KV Cache。

Google在2026年5月披露，其AI系统每月处理的Token比一年前增长7倍。推理已占AI计算总量的三分之二，且占模型生命周期计算成本的80-90%。在这个万亿级的推理经济中，KV Cache的生成、存储、传输和复用，是贯穿每一次Token生成的核心数据流。

第一章：KV Cache到底是什么？为什么它是瓶颈？

1.1 一个直觉类比

想象你在做一场长达3小时的考试。每回答一道新题，你都需要回顾之前所有题目的答案，确保逻辑一致。如果没有草稿纸，你每次都要从头重新推导——这就是没有KV Cache的大模型。

KV Cache就是这张"草稿纸"。大模型每生成一个新字，都要"回顾"之前所有内容。KV Cache把之前的计算结果存下来，避免重复计算。

问题是：这张草稿纸太大了，而且越写越多。

1.2 具体有多大？

在Transformer架构中，自回归解码阶段每生成一个新Token，都需要将当前Token的Query向量与之前所有Token的Key和Value向量进行注意力计算。为避免重复计算，系统将历史Token的Key和Value矩阵缓存下来，这就是KV Cache。

以下是不同模型的KV Cache体积：

模型	每Token的KV Cache	100K Token对话的总KV Cache	对比GPU显存
LLaMA3-70B (GQA)	330KB	~33GB	H100: 80GB
LLaMA3-70B (Batch=512)	—	512GB（超过权重的4倍）	远超单卡
DeepSeek R1 (标准MHA)	4MB	400GB	需5张H100
DeepSeek R1 (MLA)	70KB	7GB	轻松放入

一张H100 GPU的显存才80GB。一个用户的一段长对话，KV Cache就能把整张卡的显存撑爆。而在生产环境中，一台服务器要同时服务数百个用户——显存争夺的激烈程度可想而知。

1.3 真正的瓶颈：不是算力，是"搬运速度"

这里有一个被大多数人误解的关键点。正如F5首席工程师在播客中所说：

"所有人都在谈论GPU……但真正的瓶颈不是GPU，是内存。更具体地说，是KV Cache。"

为什么？因为注意力计算的数学本质决定了：计算复杂度随模型维度呈二次方增长，但数据检索（读取KV Cache）是线性的。当模型维度达到5K、8K甚至更高时，每个Token的IO速度会快于计算速度。这意味着在解码阶段，GPU并非受限于计算能力，而是被困在等待从高带宽内存（HBM）中读取庞大KV Cache的过程中。

用一个更直白的类比：你的电脑CPU很快，但如果硬盘太慢，开机还是卡。GPU就是那个"很快的CPU"，而KV Cache就是那个"太慢的硬盘"。

1.4 "队头阻塞"：一个长请求拖垮所有人

当一个32K Token的长提示词进入系统时，其庞大的KV Cache需求会瞬间挤占显存，导致队列中其他用户的生成任务停滞。UCSD的研究表明，1个Prefill任务与n个Decode任务混合执行时，Decode延迟会被拉长12.6倍。

这就像高速公路上一辆超宽货车占了三条车道——后面所有小车都得等它过去。

第二章：架构级解决方案——从根本上缩小KV Cache

面对KV Cache的体积爆炸，学术界和工业界的第一反应是：能不能从模型架构层面，让KV Cache变小？

答案是可以。过去三年，注意力机制经历了一场"压缩革命"：

2.1 进化谱系：MHA → MQA → GQA → MLA → 跨层共享

架构	原理	每Token KV Cache	压缩倍数	代表模型
MHA（多头注意力）	每个头独立存储KV	4MB	1x（基准）	GPT-3
MQA（多查询注意力）	所有头共享1个KV	31KB	128x	早期Google
GQA（分组查询注意力）	每组共享1个KV	330-500KB	8x	LLaMA 3
MLA（多头潜在注意力）	投影到潜在空间	70KB	57x	DeepSeek V2/R1
跨层共享	不同层复用同一KV	节省~50%	在GQA基础上再减半	Gemma 4

2.2 DeepSeek MLA：57倍压缩是怎么做到的？

MLA是目前KV Cache压缩的巅峰之作。它的核心思路用大白话说就是：

传统方法：每个注意力头都完整地存储Key和Value向量（维度7168），非常占空间。

MLA的做法：把所有头的Key和Value"压缩"成一个极小的"潜在向量"（维度仅576），只存这个小向量。需要用的时候，再通过矩阵乘法"解压"回来。

关键的数学技巧在于：解压所需的权重矩阵（WUKW_{UK}WUK和WUVW_{UV}WUV）可以被"吸收"到Query和Output矩阵的计算中。这意味着：

1.存储时只存576维的小向量（省空间）

2.计算时不需要额外的解压步骤（不费时间）

最终效果：每Token仅需70KB，比标准MHA的4MB压缩了57倍，生成速度提升6倍以上。

2.3 Gemma 4的跨层共享：更进一步

Google在2026年发布的Gemma 4模型引入了一个新思路：不同层之间也可以共享KV。

传统做法是每一层都独立计算自己的KV。但Gemma 4的35层中，只有前15层计算独立的KV，后20层直接复用前面层的KV状态。这在128K上下文下额外节省约50%的KV Cache显存（约2.7GB）。

2.4 这对投资意味着什么？

MLA等压缩技术是KV Cache存储产业链的"釜底抽薪"风险。如果所有模型都采用MLA级别的压缩，KV Cache从4MB/Token降到70KB/Token，那么对外部存储（Everpure、VAST等）的需求可能大幅缩水。

但反过来说，压缩也有天花板。阿里巴巴/南洋理工的研究表明，过度压缩会导致严重的质量下降——在代码任务中，KIVI和GEAR量化方案将准确率从97.0%暴跌到30.0%。压缩不是免费的午餐。

第三章：系统级解决方案——当架构压缩不够时

即使采用了MLA，当上下文长度达到百万级、同时服务数百万用户时，KV Cache的总量仍然是天文数字。这时需要系统级的工程方案。

3.1 PagedAttention：操作系统思维的回归

vLLM团队的PagedAttention是一个优雅的解决方案。它的灵感直接来自操作系统的虚拟内存管理：

问题：传统推理引擎为每个请求预分配连续的显存空间。由于不知道用户会说多少话，系统往往过度分配，导致超过50%的GPU显存被浪费（碎片化）。

解决方案：像操作系统管理内存页一样，把KV Cache切成固定大小的"页"（每页16个Token），用页表映射逻辑地址到物理地址。不需要连续空间，按需分配，用完释放。

效果：显存浪费从50%+降到5%以下。同样的GPU可以同时服务更多用户。

3.2 分离式推理：让专业的人做专业的事

推理过程分为两个阶段，它们的资源需求完全不同：

阶段	特性	瓶颈	类比
Prefill（预填充）	处理用户输入，生成KV Cache	计算密集（需要大量FLOPS）	厨师备菜（大量切配工作）
Decode（解码）	逐Token生成回复	内存密集（需要反复读KV Cache）	厨师出菜（一盘一盘端出来）

把这两个阶段混在同一张GPU上，就像让一个厨师同时备菜和出菜——两头都做不好。

分离式推理的做法是：用一组GPU专门做Prefill（算力强），另一组GPU专门做Decode（内存大）。Prefill节点生成KV Cache后，通过高速网络传输给Decode节点。

UCSD的DistServe实验表明，这种架构使有效吞吐量（Goodput）提升了2到7.2倍。DeepSeek在生产中使用96张H100 GPU的SGLang集群实现了分离式推理。

3.3 多级缓存卸载：HBM → DRAM → SSD → 远程存储

当KV Cache超出GPU显存容量时，系统必须将其"卸载"到更便宜的存储层。现代推理架构构建了一个多层内存池：

Plain Text

Tier 0: GPU HBM | 80-192GB | ~1ns延迟 | TB/s带宽 | 最贵

Tier 1: CPU DRAM | 1-2TB | ~100ns延迟 | 数十GB/s |

Tier 2: CXL内存池 | 数十TB | ~200-300ns | 数十GB/s |

Tier 3: NVMe闪存 | 数百TB | ~1-10μs | 数GB/s |

Tier 4: 远程存储 | PB级 | ~10-100μs | 取决于网络 | 最便宜

•NVIDIA Dynamo配合WEKA存储，8张H100通过RDMA读取远程KV Cache的吞吐量达到270 GB/s

•Pliops的测试表明，从存储读取KV Cache比重新计算快3-7倍

•Dell的研究显示，CPU缓存命中率超过70%时，TTFT（首Token延迟）开始明显恶化

3.4 FlashAttention：用计算换IO的反直觉策略

Stanford的Tri Dao提出的FlashAttention认识到GPU内存层次结构的不对称性：

•SRAM：~20MB，19TB/s（极快但极小）

•HBM：40-80GB，1.5TB/s（大但相对慢）

FlashAttention的策略是：将注意力计算切分为小块，全部在极速的SRAM中完成，避免将庞大的O(N2)O(N^2)O(N2)注意力矩阵写入HBM。在反向传播时，它宁愿增加FLOPS重新计算矩阵，也不愿进行缓慢的内存读写。

这是一个违反直觉的设计：做更多计算反而更快。因为瓶颈不是计算，而是IO。最终效果：2-4倍训练加速，10-20倍内存节省，且是精确计算（无近似）。

3.5 StreamingLLM：无限上下文的巧妙hack

MIT发现了一个有趣的现象：Softmax函数强制注意力分数总和为1，导致模型倾向于将大量"无用注意力"倾倒在最初的几个Token上（Attention Sink）。

利用这个发现，StreamingLLM只需在KV Cache中永久固定前4个Token（Attention Sinks），配合滑动窗口机制，就能实现高达400万Token的稳定推理。延迟从1400ms降至65ms，加速22.2倍。

第四章：NVIDIA CMX生态——推理基础设施的"操作系统"

NVIDIA正在构建一个完整的推理基础设施栈，其核心就是围绕KV Cache的管理和调度。

4.1 完整架构栈

应用层：推理引擎（vLLM、SGLang、TensorRT-LLM）

调度层：NVIDIA Dynamo（集群级推理调度大脑） - KV Cache感知路由：把请求发给已有缓存的节点 - Prefill/Decode分离调度 - 多级缓存生命周期管理

传输层：NIXL - 支持5种内存空间：DRAM, VRAM, FILE, NVMe, OBJ -异步非阻塞、零拷贝、非连续内存传输 - 支持RDMA、GDS、UCX等多种传输协议

缓存管理层：LMCache - 管理300TB+ KV Cache，每周12.8亿Token命中 - 跨节点、跨引擎的KV Cache共享

硬件层：BlueField-4 DPU + GPU + 存储后端 - CMX：专用推理内存层 - 由DPU管理，位于HBM和通用存储之间

4.2 CMX vs CXL：两条路线的竞争

这是一个关键的技术路线之争：

维度	NVIDIA CMX	CXL内存池
本质	NVIDIA专有的"推理内存层"	开放的行业互连标准
控制者	NVIDIA（闭源DPU固件）	行业联盟（开放标准）
延迟	~1-10μs（通过RDMA/GDS）	~200-300ns（接近本地DRAM）
部署现状	已有生产部署	大规模部署预计2027-2028年
生态锁定	强（绑定NVIDIA硬件）	弱（多厂商兼容）
类比	NVIDIA的"专属物流车队"	城市的"公共高速公路"

短期（1-2年）CMX赢：NVIDIA生态太强，BlueField-4已出货，合作伙伴（VAST/WEKA/Everpure）已就位。长期（3-5年）CXL可能"釜底抽薪"：如果CXL内存池化真正成熟，GPU对HBM的依赖会降低，推理集群的内存架构会更灵活、更开放，NVIDIA的锁定效应将被削弱。

4.3 Google的另一条路：开源+自研

值得注意的是，Google Cloud在2026年7月1日发布的KV Cache方案选择了一条完全不同的路：开源Lustre文件系统 + 开源llm-d调度器 + 开源vLLM引擎。

效果同样惊人：Llama-3.3-70B在50K token prompt场景下实现了95%的缓存命中率，TCO节省超过50%，GPU小时减少近60%。

第五章：KV Cache的"反直觉经济学"——用的人越多越便宜

5.1 缓存命中的经济学

当多个用户的请求共享相同的前缀时（比如相同的系统提示词、相同的文档、相同的代码库），系统可以直接复用已经计算好的KV Cache，跳过昂贵的Prefill计算。

各大API服务商已经在定价中反映了这一点：

服务商	正常输入价格	缓存命中价格	折扣
OpenAI GPT-4o	$1.25/1M tokens	$0.125/1M tokens	10倍
Anthropic Claude	$3.00/1M tokens	$0.30/1M tokens	10倍

缓存命中时，成本直接降低10倍。这不是"打折促销"，而是真实的成本节省——因为跳过了最昂贵的Prefill计算。

5.2 "双重飞轮"：算力降价 + 缓存命中

大模型推理的成本同时受到两个力量的驱动：

力量1：算力摩尔定律（线性下降） GPU性能每2年翻倍 → 同样的推理任务成本减半力量2：KV Cache网络效应（非线性下降）用户越多 → 缓存池越大 → 命中率越高 → 边际成本加速下降

当两者叠加时，推理成本的下降速度比任何人预期的都快。Token成本以每年约200倍的速度下降，而需求以每年7倍的速度增长——这是典型的杰文斯悖论：成本下降不会缩小市场，反而会加速扩大市场。

5.3 编程场景：缓存命中率最高的"杀手应用"

为什么Anthropic在编程场景（通过Cursor）的缓存命中率特别高？因为程序员的请求有极高的前缀重叠度：

•系统提示词（"你是一个编程助手..."）：所有用户100%相同

•框架文档（React/Python/Rust官方文档）：80%+用户相同

•同项目代码（团队成员共享同一代码库）：团队内100%相同

•常见代码模式（"怎么写一个React Hook"）：50-70%相似

IBM研究员在KubeCon的演讲中明确指出：

"KV Cache命中率是生产级AI Agent最重要的单一指标。"

5.4 网络效应的精确归属

一个关键问题：这个"用的人越多越便宜"的网络效应，到底归属于谁？

答案是：归属于运营共享缓存池的推理服务商，而非卖硬件/卖工具的供应商。

产业链价值归属：硬件层（GPU/存储） → ❌ 无网络效应（卖铲子）软件工具层（vLLM） → ❌ 无网络效应（卖工具）推理服务层（API） → ✅ 有网络效应（运营缓存池）应用层（ChatGPT） → ✅✅ 最强网络效应（用户+数据飞轮）

原因很简单：网络效应要求"用户A的行为让用户B受益"。只有在共享缓存池中，用户A的请求产生的KV Cache才能被用户B复用。而硬件厂商卖给客户A的设备，对客户B没有任何好处。

5.5 对AI Agent/SaaS的终极影响

如果推理成本加速趋近于零，意味着什么？

AI数字员工的成本结构将发生根本性变化：

•传统SaaS：按"座位"收费（$50/月/人）

•AI Agent时代：按"结果"收费（完成一个任务$0.01）

当AI Agent完成一个任务的成本从$0.10降到$0.001，但替代的人工成本是$5-50时，中间的利润空间是500-50000倍。而且这个利润空间随着缓存命中率的提升还在不断扩大。

这是一个"成本趋零但价值锚定在人工替代"的剪刀差——可能是未来十年最大的利润池。

5.6 缓存命中比想象中难

系统研究者Bojie Li指出了一个关键限制：

"Prompt caching只在完全相同的前缀下才有效。改变前面的一个Token——一个时间戳、一个用户ID——整个缓存就全部失效。"

这意味着：

•如果系统提示词里包含当前时间（"今天是2026年7月7日"），每天缓存都会失效

•如果包含用户名，每个用户的缓存都不能互相复用

•如果包含session ID或随机数，缓存命中率直接归零

实际的缓存命中率可能远低于理论推算。需要精心设计prompt结构（把动态信息放在后面，静态信息放在前面），才能实现高命中率。大多数团队甚至还没有开始做这种优化。

5.7 KV Cache是"动态的、不可预测的"

多位工程师指出了KV Cache与模型权重的本质区别：

"模型权重是静态的，可以预测性加载。但KV Cache是动态的、不可预测的——这才是真正的难题。"

模型权重对所有用户都一样，可以提前加载到GPU中。但KV Cache是每个用户独有的、实时生成的。你无法预测下一秒哪个用户会发来请求、需要哪段KV Cache。这让KV Cache的管理比传统CDN缓存要难得多。

5.8 压缩技术在快速进步

ICML 2026上发表了多篇KV Cache压缩论文。UC Berkeley的研究者展示了INT2量化方案，可以将KV Cache压缩7倍，内存节省85%，且无需微调或修改权重。

这意味着：KV Cache存储市场的规模可能被压缩技术侵蚀得比预期更快。

第六章：产业链七层拆解与投资机会

基于以上分析，我们可以将KV Cache产业链分为七层，逐层评估投资机会。

6.1 产业链全景图

第1层：推理API服务（拥有缓存池，有网络效应）

OpenAI · Anthropic · Google · Microsoft Azure · Together AI

第2层：推理路由与调度（决定缓存命中率）

Tensormesh · OpenRouter · Anyscale · Baseten

第3层：推理引擎与缓存管理软件（开源为主）

vLLM (Inferact) · SGLang · LMCache · NVIDIA Dynamo · llm-d

第4层：高速传输与互连（搬运KV Cache的"高速公路"）

NVIDIA NIXL · Broadcom · Arista · Marvell

第5层：CXL内存扩展（Tier 1缓存层，低延迟大容量）

Astera Labs · Penguin Solutions · Samsung CXL · Montage

第6层：存储基础设施（Tier 2缓存层，PB级容量）

VAST Data · WEKA · Everpure · DDN · NetApp

第7层：内存与芯片（物理层，提供带宽和容量）

SK Hynix · Micron · Samsung · NVIDIA · Cerebras · Groq

6.2 各层详细分析

第1层：推理API服务——网络效应的唯一归属地

这是唯一真正拥有KV Cache网络效应的层级。多个用户的请求汇聚到同一个缓存池中，用户越多，前缀重叠越多，缓存命中率越高，边际成本越低。

Google (GOOG)：每月处理3.2 quadrillion tokens，是最大的缓存飞轮拥有者。同时自研Gemma 4模型采用跨层KV共享架构，从模型设计层面就在优化KV Cache。且刚发布Managed Lustre KV Cache方案（95%命中率）。

Microsoft (MSFT)：通过OpenAI获得最强的推理网络效应间接敞口。Azure AI自身也是多租户推理平台。GitHub Copilot是全球最大的AI编程工具（代码缓存复用率极高）。

Cloudflare (NET)：全球300+节点的CDN架构天然适合做"KV Cache的CDN"。如果推理从集中式走向边缘化，Cloudflare的网络拓扑是最适合分布式KV Cache复用的。但目前AI收入占比极小。

第2层：推理路由与调度——缓存命中率的"放大器"

缓存命中率不是自动发生的——它需要智能路由。如果请求被随机分配到任意节点，即使缓存池里有匹配的KV Cache，也可能因为分配到了错误的节点而miss。

Tensormesh（未上市）：2026年6月刚完成$2000万种子轮。这是目前市场上最纯粹的"KV Cache即服务"创业公司，宣称最高10x推理成本降低。

OpenRouter（未上市）：$1.13亿B轮（2026年5月）。作为多模型路由平台，天然处于"决定请求去哪里"的位置。如果加入KV Cache感知路由能力，价值将大幅提升。

第3层：推理引擎与缓存管理——开源的"无主之地"

核心技术全部开源（vLLM、SGLang、LMCache、Dynamo、llm-d），商业化路径不清晰。vLLM的商业化公司Inferact值得关注——如果能像Databricks商业化Spark那样成功，将是一个巨大的机会。

LMCache的数据令人印象深刻：管理300TB+ KV Cache，每周12.8亿Token命中。但它是学术项目，无法直接投资。

第4层：高速传输与互连——确定性最强的"高速公路"

分离式推理必须跨节点传输KV Cache。NVIDIA NIXL支持5种内存空间、多种传输协议，是目前最完整的传输层。

Broadcom (AVGO)、Arista (ANET)、Marvell (MRVL)：这些公司的AI敞口已被市场充分认知和定价，信息不对称较小。但确定性最高——推理规模越大，网络设备需求越大。

第5层：CXL内存扩展——填补"性能断崖"的关键层

CXL内存池填补了GPU HBM（快但小）和NVMe闪存（大但慢）之间的巨大鸿沟。延迟~200-300ns（接近本地DRAM），容量可达数十TB。

Astera Labs (ALAB)：CXL芯片龙头，做重定时器和智能交换芯片。每一个CXL连接都需要它的芯片，客户认证周期1-2年，一旦进入供应链极难被替换。

Penguin Solutions (PENG)：做CXL内存服务器整机（MemoryAI，最高11TB）。H1新增7个AI/HPC客户，上调全年指引。市值仅~$30亿，CXL叙事尚未被广泛认知。

第6层：存储基础设施——PB级KV Cache的"大仓库"

当KV Cache的总量达到PB级时，需要大容量、低成本的存储层。

VAST Data（未上市，估值~$300亿）：定位为"AI操作系统"而非单纯存储。收入$20亿+，增速100%+。如果IPO将是重要标的。

Everpure (P)（上市，市值~$240亿）：Pure KVA 1.0已GA，收入增速35%。但面临三重风险：(1)技术社区认可度有限；(2)MLA压缩可能缩小市场；(3)Google选择开源Lustre而非商业产品。

关键警示：Google Cloud的Managed Lustre方案证明，超级云厂商可能更倾向于用开源方案而非购买商业存储产品。这对所有商业存储厂商都是长期威胁。

第7层：内存与芯片——物理层的"终极约束"

所有上层优化最终都受限于物理层的带宽和容量。

Micron (MU)：HBM + CXL双重受益。但需注意，Micron在这轮AI行情中已经大幅上涨，市场已充分认知HBM需求。

Cerebras：用44GB片上SRAM完全绕过HBM瓶颈的"颠覆性"思路。如果KV Cache能完全放在SRAM中（延迟<1ns），就不需要复杂的多级缓存架构。但只适用于较小模型/较短上下文。

第七章：投资框架与策略

7.1 三维度评估框架

维度	最强标的	逻辑
网络效应最强	Google (GOOG) / OpenAI（未上市）	最大推理规模→最强缓存飞轮
信息不对称最大	PENG / Cloudflare (NET) / Tensormesh	市场尚未price in KV Cache价值
确定性最高	NVIDIA (NVDA) / Broadcom (AVGO)	"无论谁赢都收税"的垄断地位

7.2 一个核心投资原则

越靠近"数据搬运的关键路径"，价值越大。越不可替代，护城河越深。

在KV Cache的数据流中：

•在关键路径上且不可替代的（CXL芯片、HBM、GPU）→ 刚需，高价值

•在关键路径上但可替代的（存储系统、调度软件）→ 有价值但竞争激烈

•远离关键路径的（通用云存储、监控工具）→ 竞争激烈，利润薄

7.3 风险清单

1.MLA等压缩技术"釜底抽薪"：如果KV Cache被压缩到足够小，整个存储和传输产业链的价值都会缩水

2.超级云厂商自研：Google已经用开源方案实现了95%命中率，不需要商业存储产品

3.缓存命中率被高估：前缀匹配极其严格，实际命中率可能远低于理论值

4.开源吃掉商业价值：核心软件（vLLM、Dynamo、LMCache）全部开源，商业化公司的定价权受限

5.GPU算力暴涨：如果重新计算变得极其便宜，缓存的价值就会下降

结语：一个被低估的范式转移

"你越深入理解推理，就越明白一切都围绕着KV Cache的编排和高效复用。"

当所有人都在关注GPU的供给侧（谁能买到更多芯片）时，真正决定推理经济学的是需求侧的效率（同样的芯片能服务多少用户）。而KV Cache的缓存命中率，正是这个效率等式中最关键的变量。

这个领域的信息不对称仍然巨大。工程师们每天都在解决这个问题。当市场最终认识到"KV Cache管理"不是一个技术细节，而是一个决定万亿美元推理经济效率的核心基础设施时，那些提前布局的人将获得巨大的回报。

当然，缓存命中的网络效应可能没有理论上那么强，压缩技术可能比预期更快地缩小这个市场，超级云厂商可能选择自研而非外购。方向大概率是对的，但节奏和幅度存在不确定性。

在不确定性中寻找确定性，最安全的策略是：投资那些"无论KV Cache怎么管理，都需要的物理层瓶颈资源"——带宽、内存、互连。

同时，用小仓位押注那些"如果缓存命中飞轮成立，将获得最大弹性"的标的——推理服务商、KV Cache路由公司、边缘推理平台。