Arm AGI CPU芯片如何重塑AI基础设施的未来

Arm


AGI


CPU


的发布，标志着 Arm 发展历程中的又一里程碑。在本期内容中，我们对话Arm 云


AI


事业部副总裁 Eddie


Ram


irez，深入解析 Arm 为何在原有 IP、计算子系统 (CSS) 业务基础上，将产品矩阵延伸至量产芯片领域，以及这又将如何重塑 AI 基础设施的未来。

提问

Arm 为何选择此时拓展至量产芯片


领域？

回答

Eddie：客户希望 Arm 以一种新的方式参与进来。以 Meta 为例，他们当前面临的新挑战，是必须以更快的速度扩展数据


中心


，以满足 AI 算力需求。几年前，他们规划数据中心的周期通常为四到五年：从决策、建设，到设备采购，并最终投入运营。但现在，他们正试图将这一周期提速至两年甚至更短。这意味着，从第一天开始，他们就需要能够即刻部署的解决方案。

与此同时，如今一个数据中心园区的算力规模，已经可以达到过去所有数据中心总和的五倍。这些正在规划或建设中的 AI 工厂，其规模已远超合作伙伴以往的设想。在这样的背景下，客户对于“部署就绪”解决方案的需求愈发迫切。他们希望机架可以直接进场部署，并让数百颗 AGI CPU 运行起来。正是这些变化，促使我们必须以不同的方式参与进来。

提问

为何说 AI 是系统级问题，


而不仅是计算问题？

回答

Eddie：我们常会听到“异构计算”这个概念。这一新的技术范式，本质上是将通用


处理器


与各类 AI 加速器组合，并在两者之间实现高效协同。在当下以 AI 工厂规模运行的环境中，客户关注的重点，已经转向如何构建机架级算力、加速器，并通过具备智能性的高速网络进行互联。因此，在这些网络设备中，你还会看到搭载 Arm 核心的 DPU。而所有这些都需要被统一编排。

如今，AI 也开始被用于编排工作负载，决定智能体运行的位置，以及如何进行系统资源分配。这使得当下成为一个非常令人兴奋的阶段 —— AI 被应用于数据中心的构建、管理与运营方式。这也为我们带来了独特的契机：不再只关注 CPU 本身，而是更宏观地思考整个机架如何构建，以及由不同类型服务器组成的集群或计算单元 (pod) 应如何部署。各大公司也正加速扩展计算基础设施的能力。

提问

这一变化在多大程度上源于智能体 AI 工作负载，而非仅是现有 AI 模型规模的扩张？

回答

Eddie：我们一直在讨论，AI 计算将逐步从以模型训练为主，转向推理阶段。那么我们究竟该如何利用这些 AI 模型来开展工作？真正的转折点出现在去年第四季度，我们迎来了一个面向智能体 AI 的标志性应用，即 OpenClaw。人们可以下载，并利用其构建自己的 AI 智能体。换言之，借助这一框架，每个人都可以打造个性化 AI 助手，而它也因此实现了爆发式增长。

今年四月，OpenClaw 在 GitHub 上的月访问量已达到约 3,800 万。同时，它也收获了最多的星标数，这是开发者对项目价值与影响力的直接体现。更引人注目的是，仅用一个月时间，其星标数量就超过了 Kuberne


te


s 和


Linux


。这清晰地反映出市场关注被迅速点燃，令人不禁联想到 ChatGPT 的走红。当时，人们直观感受到，借助聊天


机器人


可以高效获取信息。而类似的变化，如今正在 OpenClaw 上重演。人们开始意识到，可以通过智能体自动化大量工作流程。而这本身意味着一次重要革新。因为当下，大多数人与 AI 的交互是通过聊天机器人，其使用规模在很大程度上受限于人们的输入速度。

一旦将这些流程交由智能体自动执行，推理请求的规模将显著提升，甚至可能达到当前的 15 倍，因为智能体可以实现全天候运行。同时，它们还能够不断衍生出新的子智能体。因此，我们预计推理请求量将迎来大幅增长。这也带来了一个非常现实的机遇：需要更多算力来支撑这一趋势 —— 不仅是整体推理需求的持续攀升，更包括由智能体产生的推理负载。

提问

AI 系统从独立模型走向协同智能体，


现有基础设施的挑战在哪？

回答

Eddie：数据中心最初是围绕“被动式工具”设计，例如用户访问网站或向数据库录入数据。然而，当前系统正逐步具备一定程度的自主性。这意味着，硬件资源的利用率将显著提升，同时也会暴露出网络、算力、服务器与机架之间的更多潜在瓶颈。一方面，现有的数据中心部署模式亟需演进；与此同时，系统还必须具备持续适配与编排工作流的能力。智能体将逐步承担起任务调度的职责，即决定任务在何处执行。这一转变正是当前众多企业关注的议题，也将从根本上重塑数据中心的设计方式。

此外，每当涉及智能体对工作流的编排与决策，其计算大多在 CPU 上完成。这也为 Arm 带来了重要的发展机遇。在业界逐步认识到数据中心需要显著增加核心数量，以支撑智能体 AI 发展的关键阶段，我们也正通过 Arm AGI CPU 芯片，以更好地满足这一增长需求。

提问

请详细谈谈 CPU 所起到的编排作用，


以及它具体协调哪些工作负载？

回答

Eddie：以往典型的 AI 服务器通常搭载一到两个CPU，以及加速器（如


GPU


）。在主流方案中，通常配置为一个 CPU 搭配两个，甚至在部分场景下搭配四个加速器。在这种体系下，CPU 的职责主要是为 GPU 等加速器持续供给数据。然而，在智能体 AI 工作负载中，CPU 的角色正发生转变。例如，智能体可以基于轻量级模型进行决策，并将结果传递给其他智能体。

当用户提出一个问题时，系统会检索多个数据集，以生成响应，而这一过程主要由 CPU 完成。只有在最终阶段，才会调用大语言模型，基于这些数据生成回答。这意味着，在整个工作流中，CPU 承担了大部分运行时间；只有在需要处理大规模、数十亿参数模型时，才会启用 GPU 资源。

这正是当前 AI 领域正在发生的一项根本性变化：CPU 与 GPU 加速器之间的分工与平衡正在被重新定义；因此，不仅需要更多的 CPU 核心数量，还需要更低的延迟和更高能效的架构，以适配这一改变。这一判断并非个别观点，而是行业的普遍讨论。这也正是近来围绕“CPU 关键性”的相关文章不断涌现的原因所在。

在下一期内容中，我们将继续与 Eddie 围绕现代数据中心面临的功耗与能效挑战展开讨论，并分享 Arm 如何通过自身布局，助力企业以前所未有的规模推动 AI 落地，并前瞻未来五年 AI、云基础设施与物理智能的演进方向。敬请期待！