训练靠近能源,推理兼顾用户这可以概括为:训练更偏向能源与规模,推理更偏向用户与延迟。Stranded energy 的价值Stranded energy 可以理解为“存在,但没有被充分利用的能源”。它可能因为位置偏远、输电不足、需求不足或能源波动,无法及时进入主要用电市场。AI 计算可以把市场带到能源旁边:
难以输送或消纳的能源 ↓ 本地发电与计算 ↓ 模型训练 / Token / AI 服务
Stranded energy 的价值链这类方案可以减少对长距离输电的依赖,但也会带来网络、运维、备用能源和用户延迟问题。谁会从 AI 基础设施中受益AI 基础设施的价值不只属于 GPU 公司。能源公司提供稳定且可扩张的电力,网络公司提供高速互联,数据中心建设者提供土地、机房和系统集成,冷却公司解决高密度计算的散热问题,云厂商组织计算资源,模型和应用公司把计算转化为业务结果。价值链还可以拆成五个环节:能源、数据中心、芯片与网络、云与模型、应用。真正的长期价值取决于谁掌握了可扩张的稀缺资源,以及谁能把资源转化为稳定产出。只要 Scaling 仍然有效,AI 工厂就需要持续扩容。但持续增长不等于所有供应商都能持续获得高利润。真正的长期价值,取决于谁掌握了可扩张的稀缺资源,以及谁能把资源转化为稳定的 AI 产出。学习总结AI 数据中心不是单纯存储数据的机房,而是一套持续生产智能结果的工业系统。电力在其中有双重身份:它既影响单位成本,也决定生产能力的上限。训练可以更靠近能源,推理则需要兼顾用户距离和响应速度。本节一句话记忆:AI 不只是软件产品,它正在变成一种高耗能、持续生产智能结果的工业系统。参考材料课程材料
Stanford MS&E 435 Main Page
Stanford MS&E 435 Course Materials
Week 3 课程录播:Infrastructure, Building AI Factories at Gigawatt Scale