AI从造大脑、搬记忆,到真正上班

过去三年，AI产业的行业名词正在以惊人的速度增加。

最开始，大家只需要理解NVIDIA和GPU。

后来又出现了HBM、CoWoS、光模块、交换机、电力、液冷；

再往后是DRAM、NAND、SSD、CXL、DPU、KV Cache；

如今又冒出Agent、Harness、Runtime、Sandbox、Identity、Observability……

名词越来越多，产业链越来越长。

如果把这些变化放到一条时间轴上，会发现它们大多来自同一场技术革命不断向下游推进：

先把“大脑”造出来，再降低“大脑思考”的成本，接着给它装上受控的手脚，最后让它真正进入企业和现实世界工作。

一、AI上半场，本质上是在“造大脑”

大模型浪潮早期，产业首先验证的是一个朴素但影响深远的规律：在一定范围内，扩大模型、数据和训练计算量，模型性能会呈现可预测的改善趋势。

于是，行业的第一个核心问题非常直接：怎样训练出一个更聪明的大脑？

这决定了过去几年最清晰的一轮资本开支方向：GPU、HBM、先进制程、先进封装、服务器、高速网络、电力和液冷。

GPU是计算核心，HBM是离它最近的高速工作内存，先进封装负责把巨大的计算芯片和HBM高密度连接起来；当一台服务器已经装不下足够多的计算单元，又需要高速网络把更多GPU连接成一台逻辑上的“超级计算机”。

所以，第一阶段资本市场实际上一直在重复寻找同一个问题的答案：

AI集群的下一个物理瓶颈在哪里？

GPU不够，市场寻找GPU；HBM不够，资金涌向HBM；封装产能不足，先进封装成为焦点；GPU数量越来越多，通信开始拖慢计算，光模块、交换机和网络芯片随之重估；数据中心功耗越来越大，电力、液冷和配电又成为新的约束。

这些背后属于同一个逻辑：训练和部署更强的智能，需要建设越来越庞大的“智能工厂”。

二、改变产业结构的，是AI从训练走向大规模推理

但把模型训练出来，并不是商业终点。

训练更像是建造工厂，推理才是让工厂每天生产商品。

只有当模型持续服务用户、调用工具、完成任务，并最终带来收入或节省成本，AI才从技术成果变成商业系统。

因此，当模型跨过“基本可用”的门槛以后，产业问题逐渐发生变化：过去问的是“模型还能不能再聪明一点”，现在越来越多地问“这些智能能不能被数以亿计的用户和企业稳定、便宜地使用”。

对普通用户来说，服务器总共有多少FLOPs并不重要。

真正重要的是两个问题：我需要等多久？这件事做完要花多少钱？

当推理和Agent成为越来越重要的工作负载后，系统瓶颈也不再只是“计算单元够不够多”，而开始转向权重、KV Cache和业务数据能否及时到达计算单元。

换句话说，AI正在从“算力问题”逐渐进入“数据搬运问题”。

三、AI从“算不动”变成“搬不动”

理解这一点，首先要理解KV Cache。

KV Cache是一类模型在生成过程中保存的中间计算状态。

模型保留这些状态，是为了避免每生成一个新Token，都重新计算此前的全部上下文。

vLLM团队提出的PagedAttention，正是针对KV Cache容量巨大、动态变化并容易造成内存碎片的问题，通过类似操作系统分页的方式管理缓存，并支持不同请求之间灵活共享。

如果把所有半成品都堆在最昂贵的HBM里，成本会非常高；如果把它们全部扔到更远的SSD里，GPU又可能因为等数据而停工。

于是，推理数据中心自然会走向分层：最热、马上要使用的数据留在HBM；

短期可能再次使用的数据进入DRAM或CXL内存池；

更冷、更大的上下文进入NVMe SSD；

长期数据再进入远程或对象存储。

CXL等开放互连标准的重要目标之一，就是扩展和重构服务器的内存连接方式。

这就是所谓的“记忆物流系统”。

AI Memory也因此包含两个不同层次：第一层是Memory Capacity，即有多少地方可以存；第二层是Memory Orchestration，即数据应该放在哪里、何时迁移、何时预取、哪些缓存可以复用。

前者对应HBM、DRAM、NAND和SSD；后者对应PagedAttention、Prefix Cache、Offloading、Prefetch、KV Pool，以及Prefill与Decode分离等软件和系统能力。

因此，AI数据中心的竞争正在从“谁拥有更多GPU”，逐渐演化为：计算、内存、存储、网络和软件能否形成一套高效率的协同系统。

这并不意味着GPU突然不重要，也不意味着CPU会消失。

更准确的变化是：部分数据搬运和高频IO工作会从CPU转移给GPU、DPU或专用控制器，而CPU继续承担操作系统、任务编排、工具执行和业务逻辑。单位任务所需的CPU参与度可能下降，但Agent创造的工具调用总量又可能上升。

价值不是简单从一个器件“搬走”，而是在整个系统中扩散。

四、研究AI产业，必须区分“重要”与“能赚钱”

讲到这里，很容易产生一个误区：既然KV Cache管理、CXL、DPU和推理调度越来越重要，是不是这些方向都必然诞生大牛股？

答案并不确定。

一个技术环节创造了巨大价值，并不代表独立供应商一定能够把这部分价值转化为收入、利润和现金流。这就是投资研究中必须区分的两件事：

Value Creation ≠ Value Capture。价值创造，不等于价值捕获。

HBM的重要性可以通过产品销售和价格直接体现在存储厂商收入中；光模块可以通过订单、端口数量和产品升级确认收入。

但KV Cache调度软件即使非常重要，也可能免费开源，或者被NVIDIA、云厂商和推理平台吸收，最终只是提高整套平台的利用率，而不形成一个独立、高利润的软件市场。

过去市场尚未充分理解它们的价值，投资者可能同时赚到业绩增长和估值重估。如今产业逻辑已经被反复讨论，再买这些方向，赌的往往不再是“AI需不需要更多带宽”，而是“实际需求能否继续超过已经很高的市场预期”。

它们的产业趋势未必结束，但投资方式已经从“发现新大陆”，逐渐变成对供需、订单、ASP、盈利上修、资本开支周期和市场拥挤度的判断。

产业确定性提高，不代表投资赔率也同步提高。

五、第二次变化：AI从“回答问题”走向“完成任务”

如果说推理基础设施解决的是“AI能否更便宜地思考”，那么接下来的问题就是：AI能不能真正替人工作？

Coding之所以率先跑出来，不只是因为程序员更愿意尝试新工具，更因为代码拥有天然的反馈闭环：能否编译、测试是否通过、功能能否运行、错误能否回滚，都可以低成本验证。

它第一次大规模证明，AI不只是生成内容，还可以进入“生成—执行—验证—修改”的循环。

这就是从Chatbot到Agent的变化。

聊天机器人通常是一问一答；Agent则要围绕一个目标持续规划、搜索、调用工具、执行操作、检查结果、处理失败，直到交付最终任务。

因此，企业对AI的计量单位也可能逐渐从Token转向Task。

Token是模型消耗了多少“思考原料”；Task才是企业到底获得了什么结果。企业最终愿意付钱的，不是模型输出了多少字，而是它有没有完成一次客服处理、一次代码修改、一次销售跟进或一次财务核对。

但Agent越强，另一个问题就越突出：企业敢不敢把真实权限交给它？

六、模型“会做”，不等于企业“敢让它做”

假设一个Agent的任务成功率达到99%，在聊天场景中已经相当优秀。但如果一家大型企业每天运行100万个Agent任务，剩余1%的异常就是1万次。

而Agent的错误，不只是“答错一道题”。它可能发错邮件、删除数据、提交错误代码、泄露凭证，甚至重复付款。

这就是AI发展中的第二次瓶颈迁移：

第一次是从“算”到“搬”，第二次是从“能力”到“信任”。

我们此前讨论KV Cache时，关心的是模型能否记住“计算做到哪里”。

到了Agent时代，还必须处理另外两类状态：Agent任务做到哪里，以及现实世界已经发生了什么。

一句话概括：

KV Cache让模型记得“算到哪里”，Harness与Runtime让Agent记得“任务做到哪里”，事务系统让企业记得“现实世界已经发生了什么”。

这三种“记忆”不能互相替代。恢复一台虚拟机，并不能撤回已经发送的邮件；回滚一次对话，也不能自动取消已经完成的支付。

所以，企业真正需要的不是一个永远不会犯错的模型，而是一套即使模型犯错，也不会轻易越过红线的系统。

七、Agent Infra给数字员工配上管理系统

Agent Infra不是某一个软件，而是一整套“数字员工管理系统”。

Harness负责把模型的思考组织成可以执行的任务流程。Anthropic在长程Coding Agent实验中发现，仅靠上下文压缩并不足以保证跨会话持续推进；清晰的功能清单、进度文件、Git记录、增量执行和端到端测试，都能帮助Agent在新的上下文窗口中恢复工作。

Durable Workflow负责让任务在等待、故障和重启之后继续运行。Temporal将这类工作流定义为可以持续数秒到数年、在故障后通过事件历史恢复的可靠执行单元。

Sandbox则负责限制Agent的“手脚”。以Docker Sandboxes为例，被隔离的通常不是远端大模型本身，而是本地Agent客户端、Shell、文件系统、网络和Docker环境；每个Sandbox拥有独立的microVM、文件系统、网络和Docker daemon，并可设置网络访问策略。

更进一步的Agent Runtime还试图统一管理运行状态、网络出口、临时凭证、检查点、自动休眠和成本。Runta公开文档把自己定位为Agent的执行层，并列出了Egress、Secret Stubs、Checkpoints和Token X-Ray等能力。

但必须保持客观：Harness、Sandbox和Runtime都不是魔法。Harness的状态检查点不能撤回外部副作用；Sandbox也不能自动解决错误授权；所谓“长程恢复”还要面对进程状态、网络连接、凭证过期、跨机器迁移和重复执行等复杂问题。

真正的生产系统，还需要最小权限、幂等键、审批、可靠事件日志和补偿机制。

因此，Agent Infra解决的不是“如何让模型更聪明”，而是：

如何把一个概率性的模型，变成一个企业可以管理、可以恢复、可以审计、可以追责的生产系统。

八、AI产业正在出现两个“腰部”

把前面的逻辑放在一起，可以看到AI产业正在形成两个越来越重要的中间层。

产业“腰部”	解决的问题	相关环节
数据搬运腰部	智能能否快速、便宜地产生	HBM、CXL、光互联、DPU、SSD、KV Cache与推理调度
行动治理腰部	智能能否安全、可靠地进入企业	Harness、Runtime、Sandbox、Identity、Policy、Workflow与Audit

第一个腰部连接模型与低成本推理；

第二个腰部连接模型意图与现实世界。

这也意味着，AI的完整飞轮不再只是“模型更聪明—用户更多—算力更多”，而是：

模型能力提升 → 推理成本下降 → Harness把思考组织成流程 → Runtime提供受控执行 → 企业敢于授予生产权限 → Agent创造真实ROI → 更多任务和Token需求 → 反过来推动模型与基础设施继续升级。

因此，软件价值上升并不意味着硬件需求结束。恰恰相反，如果企业真正开始大规模运行Agent，更多任务、更长上下文和更多工具调用，可能继续扩大推理、网络、内存和存储需求。

这是一个互相强化的飞轮，而不是硬件与软件之间的简单跷跷板。

九、Agent时代，传统SaaS未必会全部出局

Agent被广泛讨论后，一种流行观点是：传统SaaS会被AI直接替代。

这种判断可能过于简单。

很多企业软件原本就在管理身份、权限、安全、数据、日志、网络和工作流。未来，它们管理的对象可能从“Human + Software”，扩展为“Human + Software + Agent”。

Okta一类身份平台可能需要管理Agent身份与访问权限；可观测性平台需要追踪Prompt、Token、Tool Call、Agent Trace和任务成本；网络与安全平台需要控制Agent访问哪些模型、API和互联网资源；工作流平台则可能把原本围绕人设计的审批和流程，扩展到数字员工。

如果一家企业过去有1万名员工，未来又运行了大量不同用途的Agent，那么身份数量、权限组合、日志、工具调用和安全事件都可能增长。

但这并不等于所有传统SaaS都会自动受益。真正需要验证的是：它们能否把原有客户入口和数据优势转化为Agent产品，还是仅仅在旧产品名称后面加上“AI”。

同样，Harness和Runtime也未必天然形成高利润平台。开源同质化、公有云捆绑、模型厂商下沉和企业自建，都可能压缩独立供应商的价值。若Agent长期停留在低权限、短时辅助场景，对强治理Runtime的需求也会低于预期。

十、产业地图与资本地图，永远不会完全同步

理解产业链，只是投资研究的第一步。

真正困难的问题是：市场已经定价到哪里了？

当前AI链条大致可以分为四种状态：

阶段	典型方向	主要特征	最大风险
已经兑现	GPU、HBM、先进封装、部分光互联	有收入、订单和资本开支支撑	估值高、扩产和周期反转
正在迁移	CXL、DPU、PCIe交换、推理架构	技术路线逐渐清晰，商业化仍在推进	标准、兼容、量产与客户集中
正在形成	Agent Runtime、身份、治理、可观测性	需求逻辑较强，预算边界尚不清晰	市场被大平台内部化或产品同质化
长期期权	AI Scientist、Physical AI、Personal AI	潜在空间大，产品和经济性仍待验证	工程、责任、硬件成本和商业模式

购买HBM和光通信，更多是在判断已经验证的产业景气能否继续超过预期；研究Agent Infra，则是在等待Agent从试点走向生产、企业形成新预算，以及市场重新定义企业软件价值。

两种投资赚的不是同一种钱，也不应该使用同一套评估方法。

最重要的是把事实、推断、叙事和期权分开：已有订单、收入和毛利改善的是事实；客户测试和设计导入是推断；厂商路线图和发布会更多属于叙事；尚无收入但可能受益的新技术标的，应该被当作期权，而不是已经确认的赢家。

十一、这条主线可能错在哪里？

一条有解释力的产业叙事，也必须能够被证伪。

首先，企业Agent可能长期困在试点。安全、幻觉、责任和系统集成成本，可能使多数Agent停留在低权限辅助，而无法获得生产写权限。

其次，算法效率可能提高得比需求更快。量化、稀疏Attention、KV压缩、上下文压缩和小模型路由，都可能减少单位任务对算力和缓存的需求。Agent任务增加，不等于所有硬件需求一定按同样速度增长。

再次，CXL、GPU自主IO和专用推理架构可能长期停留在演示或少数场景。真实系统还要考虑软件生态、延迟、兼容、安全、功耗和总拥有成本。

最后，即使方向成立，价值也可能被平台内部化。NVIDIA、云厂商或大型企业软件公司有可能把调度、Runtime、身份、Gateway和审计打包进现有平台，独立供应商未必拥有足够定价权。

十二、AI会从数字世界进入科学、个人设备和物理世界

如果企业Agent在数字世界里逐渐成熟，AI很可能继续向三个方向延伸。

第一个方向是AI Scientist。数学、仿真、计算化学和部分实验流程具有较强的自动验证机制，Agent可以提出假设、调用工具、并行探索和淘汰错误路径。但它对推理速度、长程状态和验证体系的要求也更高。

第二个方向是Physical AI。AI不再只修改代码和数据库，而开始控制机器人、车辆、仓库、机械臂和实验设备。此时真正重要的不再是Demo有多漂亮，而是每天能自主工作多久、多久需要人工接管、发生故障能否恢复，以及把硬件、维护、保险和部署成本算进去以后多久回本。

第三个方向是Personal AI。企业AI主要比较“一美元可以买到多少有效工作”，个人设备则受到功耗、内存、电池和散热限制，更需要比较“一瓦电、一GB内存能够承载多少有效智能”。端侧AI的关键未必是TOPS数字继续增长，而可能是小模型何时第一次在有限资源内跨过“最低有效智能”门槛。

这些方向都值得关注，但目前更适合被看作长期路径，而不是已经充分验证的现实收入。

结语：AI真正的下半场，是从“智能生产”走向“可信行动”

过去几年，我们见证的是人类第一次大规模制造智能，所以资本首先奖励GPU、HBM、先进封装、光通信和整个AI数据中心。

但下一阶段真正重要的，也许不再只是“我们还能制造多少智能”，而是两个更现实的问题：

这些智能能否以足够低的成本被持续交付？企业敢不敢把真实工作和真实权限交给它？

前一个问题催生了AI Memory、数据搬运、推理优化和异构数据中心；后一个问题正在催生Harness、Agent Runtime、Identity、Security、Workflow、Observability和企业AI控制平面。

最终，衡量AI革命成功与否的指标，不会只是模型排行榜、GPU数量或Token消耗，而是：AI究竟替人完成了多少真实工作，创造了多少可以持续的经济价值。

从这个角度看，过去几年的AI硬件繁荣可能只是第一幕。

第二幕，是从“智能生产”进入“智能交付”。

第三幕，是从“智能交付”进入“可信行动”。

而再往后，才是AI员工、AI Scientist、个人智能终端和Physical AI真正进入实体经济。

所以未来几年，最值得研究的或许不是“下一个概念是什么”，而是沿着这条链不断追问：

瓶颈正在从哪里迁出，又迁向哪里？

谁真正拥有解决瓶颈的稀缺能力？

谁又站在那个绕不开、并且能够持续收费的位置上？