AI agent CPU专家访谈纪要

一份来自云厂商的一线调研，把 Agent 场景下的 CPU 消耗拆到了 vCPU 粒度。结论指向两个方向：单任务的开销远比市场想象的低，而任务数量与应用渗透率的提升空间，又远比市场想象的大。

vCPU定义：虚拟 CPU 核，举例子，一颗16核CPU，一核虚拟2个vCPU，那么总计32个vCPU。

一、单任务开销：六类负载的量级差异

调研把负载拆成调度编排、检索、文档解析、网页浏览、代码执行与多模态六类，单任务资源开销跨越了三个数量级。

值得注意的是，编排类任务的单次开销极小，但它的价值不在消耗，而在触发频率：产品层面单台虚拟机可支持每分钟 5000 次甚至 1 万次调用。真正拉高集群总量的是文档解析、代码执行与复杂网页这三类"重负载"。

二、口径校正：三处最容易被误读的地方

其一，单位时间占用不等于总消耗：解析一页 PDF 需要每秒 6 至 8 个 vCPU，含义是任务执行的每一秒都占用这个数量，一个耗时 10 秒的任务对应 60 vCPU秒。该模型相对固定，无法靠减少 vCPU 数、拉长时间来等比例压缩总量；只有在不低于最低资源阈值的前提下，用低速配置换取低并发才可行。

其二，2 至 4 个 vCPU 不是单次任务的占用：那是高并发下单位时间的合计消耗，单次简单编排的实际瞬时占用仅 0.1 至 0.2 vCPU。理论上一个 4 vCPU 单元在单位时间内可并发处理数十甚至上百个此类任务。行业目标是把它压到 0.0 几 vCPU，当前为保加载成功率停在 0.1 至 0.2 的水平。

其三，利用率只在特定算法下才需要引入：计算某一时刻并发任务占用的 vCPU 总量，不需要除以利用率；只有当按任务总量与完成时间去规划资源池容量时，利用率才成为关键参数。目前 Sandbox 集群的平均利用率通常为 50% 至 60%，优化后可达 65% 至 70%，行业普遍水平在 50% 以下。

轻量编排任务的典型并发可设在 256 至 512，且该数字针对单台虚拟机，而非单个 vCPU。

三、用户侧：名义配置与实际占用并不对应

超分下的真实水位：在超分资源分配模式下，单个活跃用户执行任务时实际消耗约 1 至 2 个 vCPU，远低于系统为其配置的资源上限。

配置是计价单位：产品标注的 vCPU 数更接近虚拟机的规格与售价单位，运营侧会做池化并按任务负载动态调度，"为每位用户分配一台虚拟机"是统计与市场沟通口径，不代表技术独占，实际仍可迁移与降配。

分析应以任务维度切入：主流云厂商倾向按任务切分资源，单位成本更低；自有数据中心且资金雄厚的厂商才可能按用户维度切分。两者存在超分层级的差异，物理机之上造虚拟机是第一次超分，云厂商在虚拟机之上再做池化调度是第二次超分，因此使用外部云服务时资源请求会被再超分一次。

瓶颈在智能体而非需求：用户需求充足，卡点在智能体是否足够好用、数量是否足够多。若沙箱能力普及，并发用户中拉起沙箱的比例有望达到 20% 至 30%。

四、工程优化：还有多少下探空间

单项手段：浏览器任务通过任务池化复用已创建的进程实例、避免冷启动，可节省 30% 以上的 CPU 开销；单张图片的多模态处理采用英特尔 AMX 技术，vCPU 消耗可降低约 50%。

组合手段：任务熔断、优化镜像加载、基于 K8s 的沙箱容器、向量检索与 Embedding 采用大页内存等，综合可实现 10% 至 30% 的降低；混合调度智能体任务可提升集群利用率，再省 20% 至 30%。

极限潜力：多模态预处理在现有基础上常规可再降 20% 至 30%，极致情形总降幅 40% 至 50%；浏览器类任务极致优化可降 50% 至 70%，个别冷启动场景可达 80% 至 90%，但常规评估以 50% 更稳妥；快照克隆实现的预热池在创建任务时可减少 80% 至 90% 的 CPU 消耗。

需要强调的是，前述所有单任务数据都对应优化前状态，仅包含部分优化措施，浏览器部分至少还有三成的下探空间。

五、供需判断：优化在降本，数量增长更快

车企样本：某头部电动车品牌的 CPU 用量较此前提升约 3 至 5 倍，但当前主要将智能体用于代码开发等相对单一的场景，尚未全面铺开。

云厂商内部样本：某国产电商云财务部门的 CPU 使用量增幅约 60 倍，智能体渗透率已超 50% 且目标指向 70% 至 80%；供应链部门增幅约 10 至 20 倍，流程渗透率接近 40%；多数部门正朝 30% 至 50% 的渗透率推进。财务部门的突出表现与高层亲自推动直接相关。

关键换算关系：百倍、千倍指的是智能体数量，不是 CPU 用量。二者并非线性，经验比例是智能体数量增加 10 倍，CPU 用量约增加 3 至 5 倍，相当于在数量增幅上打三到五折。换言之，财务部门 60 倍左右的 CPU 增幅，对应的是背后数百倍的智能体数量增长。

总量结论：智能体数量预计增长数百倍甚至千倍量级，且具备编写代码生成新智能体的自我衍生能力，增速快于工程优化的降幅，因此 CPU 紧缺的方向相对确定；若英特尔与 AMD 维持现有产能不扩张，未来三年份额可能被 ARM 抢占。

节奏上，智能体自 2026 年才进入大规模应用，生产环境的最佳实践刚刚起步，云厂商侧的智能体运行环境也才刚开始运行。企业广泛接纳的前提是其运行稳定、安全、可审计、可观测，否则合规与可控性问题会直接阻碍落地。

六、x86 与 ARM 的选型

兼容性优先选 x86：运行智能体任务时，x86 能更好避免 CPU 层面的兼容性问题，对长程、复杂任务的支持也更完整；ARM 目前覆盖约 95% 的设备，x86 则可实现 100% 覆盖。

功耗优先选 ARM：从云厂商视角看，ARM 的低功耗特性具备优势。当智能体数量实现十倍至千倍增长，数据中心的功耗与密度管理会成为关键挑战，已有云厂商设计面向智能体的超算节点，单个机柜可集成 288 个 CPU 以应对密度要求。

采购比例：当前 x86 占比接近 80%，预计未来仍能保持 60% 至 70% 的份额。

完整纪要原文，包含分部门 CPU 增幅明细、各负载的并发与池化参数，以及后续产业链跟踪记录，以及国产CPU企业竞争情况和业务进度，已整理归档在知识星球「米修斯」。