夜雨聆风随着推理需求爆发式增长，KV Cache作为大模型推理过程中的关键中间数据，其存储效率直接影响Token生成速度与推理成本。6 月 26 日下午，2026 ODCC夏季全会全体会议圆满落幕。会上隆重举行了ODCC AI存储实验室KV Cache测试成果发布仪式，ODCC新测组组长、ODCC AI存储实验室联合主任郭亮及ODCC AI存储实验室联合主任宋庆春分别为北京星辰天合科技股份有限公司（XSKY）及深圳大普微电子股份有限公司颁发测试证书。
本次发布的测试成果聚焦KV Cache卸载这一关键方向，覆盖两大主流测试架构、四种差异化测试方案，围绕CMX架构、混合大模型部署及高性能网络等前沿场景，展开了深入且具有前瞻性的探索验证，为相关技术的实际收益提供了坚实的数据支撑。测试结果显示，通过多级缓存架构与高速网络协同，KV Cache卸载方案可显著降低首Token延迟（TTFT）并大幅提升Token吞吐量，在长序列推理场景下性能增益尤为突出，为“以存代算”的推理优化路径提供了可量化的工程依据。
更多测试解读内容，请关注ODCC公众号后续发布。我们期待更多伙伴同行，共推AI存储技术的创新与落地，携手构建高效、经济、可持续的AI基础设施生态。
ODCC AI存储实验室介绍
2026 ODCC
ODCC AI存储实验室由开放数据中心委员会（ODCC）联合美团、三星、Solidigm等产业链领军企业共同发起成立，旨在系统评估智算中心的“存力”水平，打通技术研发与产业应用壁垒。实验室聚焦大模型推理场景中的KV Cache等核心制约因素，开展面向存储软硬件的专项协同测试，致力于构建适配推理场景的存储解决方案及测试规范，推动AI存储技术的标准化、规范化与规模化落地，为AI产业的商业化进程夯实底层支撑。
ODCC AI存储实验室联系人
段老师 duanshiru@caict.ac.cn
谢老师 xielina@caict.ac.cn
ODCC秘书处联系人
刘老师：13488889649
邮箱：liupengyun@caict.ac.cn
往期回顾
1、ODCC AI网络实验室测试结果公布！华为智算交换机通过“算力强基”权威测试
2、赋能数智运维，创新IDC运营模式 | 2026ODCC夏季全会智能运营工作组会议
3、筑牢高效算力底座，驱动AI技术跃升 | 2026ODCC服务器工作组会议
