Arm 推出一种新的 CPU 评估方法，并获得富士通、Meta 和 OpenAI 的支持；同时附有独立验证结果显示，Arm AGI CPU 每机架性能可达领先 x86 服务器处理器的 2 倍

作者：Mohamed Awad，Arm 云 AI 执行副总裁

 AI 智能体仍处于早期阶段，但其活跃度正在快速增长。根据 a16z 强调的数据，在 OpenRouter 上，智能体 token 使用量自 2026 年 2 月以来增长了约 14 倍。从基础设施角度看，一个 AI 智能体就像一个拥有自身持久计算环境的虚拟用户——维持状态、检索上下文、调用工具和服务、执行工作并评估结果，直到任务完成。

现在把这放大到数百万甚至数十亿个 7×24 小时运行的智能体。计算、内存、存储和 I/O 都必须支持高并发下的持续活动。这给 CPU 带来了新的要求——也产生了一种需求：衡量系统到底能多好地完成智能体实际执行的工作。

为虚拟用户构建数据中心

代理式 AI 在 AI 数据中心的多个环节产生计算需求。CPU 在执行智能体工作负载时会维持上下文、调用工具并访问数据。在 AI 头节点上，CPU 负责调度工作、准备和移动数据，并协调整个系统，使昂贵的加速器保持高产出。

智能体还会带来更多云原生活动。每一次搜索、服务调用、代码执行或数据请求，都会驱动其下层基础设施产生工作量。代理式 AI 是在增加这类云原生需求，而不是替代它。

随着智能体变得更加自主，并获得更多工具和数据访问权限，保障运行时安全也同样重要。主机 CPU 可专注于智能体执行，而 DPU 和其他基础设施处理器则提供独立的平面，用于网络、存储、策略执行、遥测与隔离。Arm 覆盖了这种架构的两面——从运行云和智能体工作负载的 CPU，到提供安全性和基础设施控制的 DPU。

在 OCP Global Summit 上，我们看到这一点正在真实系统中成形。我们正在贡献 Arm AGI CPU 参考服务器，同时 Meta 的 Yosemite YV5 将 AGI CPU 引入了 OCP 机架级设计。

度量真正重要的工作

这改变了「CPU 性能」的含义。对于代理式计算，问题是：在保持响应能力的同时，能并发完成多少工作。对于 AI 头节点，问题是 CPU 能多有效地保持加速器利用率。对于云原生基础设施，问题是每个动作能多快、多可预期地被服务。

代理式工作负载使持续性能变得越来越重要。如果吞吐量随利用率上升而下降，那么更高的理论容量并不一定转化为更多已完成的任务。真正重要的是：基础设施在其功耗和物理限制内能持续完成多少有用工作。

Arm 在超大规模数据中心领域的长期工作，使我们能宽泛地看到计算需求正在如何变化。基于此视角，Arm 在富士通、Meta 和 OpenAI 的支持下，开发了一种用于评估代理式 AI 的 CPU 性能的新方法。该框架围绕三项原则构建：具有代表性的代理式用例、可重复的 CPU 测量，以及与端到端结果进行验证。

组件级测量有助于将 CPU 性能与模型推理和网络等因素隔离开来。端到端评估则判断这些改进是否能转化为已完成任务的更好结果。

智能体架构和软件将持续演变，该方法论也需要随之跟进。

对 Arm AGI CPU 进行测试

使用与该方法对齐的工作负载，Arm AGI CPU 的结果由 Signal65 针对 AMD EPYC Turin 独立完成验证，覆盖工具调用、编排、推理与规划。两个平台使用相同的基准脚本，以实测的服务器级性能作为透明机架级建模的基础。

初步发现包括：

• 每机架多完成近 2 倍工作
  ：得益于更高的计算密度和功耗效率，在七类工作负载中，Arm AGI CPU 每机架建模性能平均达到 AMD EPYC 9755 的 1.99 倍。
• 在代理式工作负载上表现强劲
  ：Arm AGI CPU 在关键代理式工作负载上均实现更高的机架级建模性能，工具调用平均 1.7 倍、智能体工作流与编排 2.0 倍、推理与规划 2.2 倍，展现出支撑代理式 AI 多样化计算需求的能力。
• 更快速、更具响应性的智能体执行
  ：与 AMD EPYC 9965 相比，Arm AGI CPU 将沙箱创建延迟降低最高 45%，帮助智能体更快地启动隔离执行环境，并降低智能体操作的开销。
  

这种机架级视角很重要，因为数据中心运行在固定的功耗、散热和物理限制之内。基础设施运营方最终需要知道：在这些边界内可以持续完成多少有用工作，尤其是在更多智能体和任务并发运行时。

Arm AGI CPU 正是围绕同样的工作负载特征设计的，具备高核心密度、每核专用内存和高带宽 I/O，以支撑持续执行。

随着智能体从「回答提示词」走向「持续完成任务」，基础设施的评价标准应当是：它能多高效、多稳定地完成任务——从一个单独智能体到整个机架。更好的度量方式为行业提供了更清晰的基础，用于发现瓶颈、比较系统，并随着规模扩大改进代理式基础设施。

行业对代理式 AI 性能的见解

「随着代理式 AI 的发展，评估 CPU 性能需要超越传统指标的基准，以反映真实工作负载。在开发下一代高性能、高能效的基于 Arm 的 CPU——FUJITSU-MONAKA——的过程中，我们认识到透明、可复现且具有代表性的度量是重要的。富士通欢迎 Arm 发起的这一举措，以推动全行业协作，并帮助优化下一代 AI 基础设施。」

—— 吉田俊雄（Toshio Yoshida），富士通株式会社 Fujitsu Research 高级副总裁兼先进计算开发本部负责人

「随着代理式 AI 进入生产环境，行业需要更清楚地看到不同工作负载如何调动其下层基础设施。我们支持 Arm 建立更一致比较基础的工作，并认为这有助于为系统如何演进提供参考。」

—— Abhishek Dhanotia，Meta 软件工程师

「AI 系统正日益超越生成回答，转而通过推理、工具使用以及与软件环境的交互来完成复杂任务。理解支撑这些工作流的基础设施性能——包括编排和工具执行——是行业的重要课题，尤其是随着智能体变得更有能力并被广泛部署。在代表性基准测试上的行业协作，对于刻画这些新兴工作负载并优化完整 AI 系统的性能非常重要。」

—— Colin Jarvis，OpenAI 前沿部署工程全球负责人

联系我们获取更多信息~