Arm AGI CPU芯片如何助力企业推动AI落地

Arm


AGI


CPU


的发布，标志着 Arm 发展历程中的又一里程碑。延续上期内容，我们继续对话Arm 云


AI


事业部副总裁 Eddie


Ram


irez，围绕现代数据


中心


面临的功耗与能效挑战展开讨论，以及 Arm 如何通过自身布局，助力企业以前所未有的规模推动 AI 落地，并前瞻未来五年 AI、云基础设施与物理智能的演进方向。

提问

鉴于推理和智能体工作负载的爆发式增长，这些任务在系统中持续高频地相互触发，使得能效变得尤为关键，能否就此展开聊聊？

回答

Eddie：在数据中心设计中，电力始终是核心瓶颈。在建设之初，数据中心的供电规模已经确定，而这一上限在整个生命周期内基本不会发生变化。因此，真正能够持续提升的，是设备本身的能效表现。通过部署更高效的硬件，在既定电力预算下释放更强的计算能力。例如，在机架更新时，新一代设备需要在不增加电力预算的前提下，实现显著的性能提升，从而推动整体算力规模持续扩展。

Arm 在实现这一目标过程中发挥着至关重要的作用。我们已在机架级层面通过 Arm AGI CPU 展示了这一点，其可实现单机架性能达到 x86 平台的两倍以上。核心在于 Arm 提供了数据中心中领先的 CPU 能效表现。正因如此，单个机架中可以部署更多 CPU 和核心，从而大幅提升整体计算密度。从总体拥有成本 (TCO) 的角度来看，AGI CPU 的价值在于：以更出色的能效，实现更高的算力。

提问

Arm 已成为超大规模云基础设施的关键基石。Arm 是如何实现的？

回答

Eddie：Arm AGI CPU 并不是 Arm 架构首次被应用于这一领域。这一进程可追溯到大约七年前，当时我们与


亚马逊


展开合作，他们希望为自己的云数据中心打造基于 Arm 架构的 CPU，这便是后来的 Graviton 系列。如今，Graviton 已发展到第五代，并充分验证了这一技术路径的价值 —— 通过更出色的能效，实现更优的 TCO，进而支持更具创新性的机架设计，并显著提升数据中心的计算容量。目前已有数以万计的客户在日常业务中使用 Graviton。

目前云数据中心中已部署约 12.5 亿个 Arm 核心。行业关注的焦点已不再是“Arm 架构是否可行”，而是“如何在本地数据中心中获得与在 Graviton 上相同的使用体验”。

而 Arm AGI CPU 正是解决这一问题的关键。本质上，它相当于将 Graviton5 的能力带入你的本地环境 —— 两者均基于 Arm Neoverse V3 平台打造。这一点具有重要意义：无论是在 Graviton 上开发和部署的工作负载，还是对应的代码和软件栈，都可以运行在 AGI CPU 上，确保一致的性能体验。这体现出我们正在显著降低部署门槛，使企业能够根据自身需求，在云端与本地环境之间灵活选择，在不同使用场景下采用一致的 Arm 架构。

与此同时，这也离不开软件生态系统的持续演进。其中一个最显著的变化在于，如今在 Arm 平台上运行的软件已变得极为丰富且易于获取。Arm


开发者


网站上的 Arm Ecosystem Dashboard，目前已记录超过 1,000 款软件包，包括开源项目以及各类独立软件供应商的解决方案，这些软件均已原生支持 Arm 架构。换言之，开发者可以直接下载现成的容器，即刻在 Arm 平台上运行。

各类


Linux


版本的软件也都已兼容 Arm 架构。这使得部署体验相比七到八年前我们刚开始与 Graviton1 推进相关工作的阶段，有了显著提升和大幅简化。我们在软件生态建设上投入了大量资源。例如，积极参与开源社区贡献，同时各业务团队也与生态伙伴紧密合作，协助其完成软件迁移。此前，我们还推出了“Works on Arm”计划，通过提供免费服务器，鼓励开发者将应用迁移至 Arm 平台。

随着 AWS、Google、NVIDIA 等企业持续投入并推动生态完善，如今在 Arm 计算平台上运行各类现代软件，以及主流 AI 框架已变得非常成熟和便捷。

提问

未来三到五年的数据中心会是什么样？

回答

Eddie：我们正看到越来越多的云服务提供商，尤其是像 CoreWeave、Lambda 等新兴的“新云厂商 (neo cloud provide


rs


)”开始出现，他们最初进入这一领域时，主要业务模式是采购 NVIDIA 设备，以“


GPU


租赁”的形式提供算力服务。但现在，他们逐渐意识到，客户的需求正发生变化。用户并不一定希望搭建完整的技术栈，而是只想运行并获取 AI 词元 (Token)。也就是说，他们更倾向于一种“词元即服务 (Tokens as a Service)”的模式。

与此同时，我们也发现，并非所有生成的词元都具有相同价值。换言之，在某些场景中，用户对极低延迟有明确需求，并愿意为更快完成任务支付溢价；而在另一些场景中，例如需要在夜间运行的批处理任务，用户则对处理时长并不敏感，更关注整体成本效率。

因此，越来越多企业提出“词元即服务”的需求。客户希望 Arm 能帮助其快速搭建一个词元即服务。他们真正需要的，往往只是一个简单的 A


PI




接口


；通过这一接口，即可调用模型、发起查询，并接入自有模型进行推理。

我们正不断向更高层级的解决方案迈进，而且这一趋势预计还将持续深化。对我们而言，这正是最令人振奋的地方。其关键在于，如何持续打造更完善的产品体系，帮助客户以更简单、更高效的方式触达最终目标，即真正将 AI 应用落地并释放其价值。

提问

放眼未来五年，有哪些在那时会看来理所当然，却是今天很多人尚未完全认识到的关键变化？

回答

Eddie：我经常会问团队一个问题：“你今天用了多少次 AI？”挺有意思的是，这个问题本身就能反映出明显的代际差异。刚毕业的同事会觉得，这个问题有点多余。但反过来，我们这些在行业中待得更久的人，反而开始意识到一个问题：我们可能还没有充分地使用 AI。所以我认为，再过五年，这将不再是需要被提出的问题，因为答案会变得不言自明。

如果进一步看自动化的发展路径，我们今天谈到的，更多还是智能体对数字工作流的自动化。但接下来，这一能力会延伸到“物理世界”。AI 将赋能


机器人


，让它们不仅更智能，也更可靠。到那个时候，我们可能会反过来质疑：为什么当初没有更早地应用机器人？

此外，我们还将看到设备之间实现更加自动化的互联，人们将不再依赖于单一终端，无论是


手机


还是其他设备。因为这些智能体将能够在不同设备之间自由迁移并持续运行。而我们也希望，这些设备都基于 Arm 架构。而且这些智能体可以在不同环境中无缝运行任务。例如，你在手机上发起的一个智能体任务，可以在车载系统中继续执行，在云端获得进一步扩展的算力支持，甚至由云端调度机器人完成后续工作。

这正是最令人期待的部分。也正因如此，“Arm Everywhere”的愿景显得尤为重要 —— 在各类设备与计算环境中无处不在，使软件能够实现真正的无缝运行。这将成为我们的一项关键优势。我相信，在未来五年内，这一愿景将在现实中落地。