关于CPU，谷歌最新研判

过去两年，AI芯片市场几乎是GPU的天下。英伟达凭借GPU成为AI基础设施最大的受益者，谷歌、亚马逊等云厂商也在加大自研AI加速器的投入。相比之下，CPU似乎逐渐退居幕后，更多承担数据调度、系统管理和通用计算等工作。

但随着AI应用从模型训练、聊天式推理走向Agent（智能体），这种情况可能正在发生变化。

谷歌给出了一个值得关注的判断：AI Agent的普及，将显著提高数据中心对CPU计算能力的需求。

在接受媒体采访时，Google Cloud副总裁兼AI与计算基础设施部门总经理Mark Lohmeyer表示，Agentic AI正在对数据中心CPU以及整个基础设施提出新的要求。尤其是随着AI工作负载从基础模型训练转向智能体推理，CPU计算在整个系统中的占比正在从过去相对较小的部分，变成一个不可忽视的组成部分。

这背后，实际上是AI工作方式发生了变化。

过去的聊天式AI，工作流程相对简单：用户提出问题，模型通过GPU或TPU完成推理，然后返回答案。整个过程主要依赖AI加速器。

但Agent不一样。

用户提出一个相对复杂的目标后，AI Agent需要将其拆解成多个子任务，再分配给不同的智能体执行。这些智能体不仅要调用大模型，还需要访问API、浏览网站、调用现有应用、编写代码，甚至直接运行代码。

这些工作并不都是GPU擅长的计算任务，其中相当一部分需要CPU来完成。

更重要的是，Agent的运行方式与传统应用存在明显差异。

Lohmeyer特别提到，AI Agent的工作负载具有一种非常特殊的特征：间歇性高负载。

例如，一个Agent可能在接到任务后执行一系列操作，随后等待某个API返回数据，或者等待用户进一步指令。在这段时间里，它可能连续一两天都不需要执行任何计算。但当外部条件满足、任务重新启动时，又可能突然产生大量计算需求。

也就是说，Agent需要长期保留自己的上下文和运行状态，但并不意味着它需要持续占用CPU资源。

这与传统CPU工作负载有很大不同。

过去，数据中心的CPU通常需要处理相对持续的计算任务，而在Agent时代，CPU面对的可能是大量长期存在、随时可能被唤醒、但大部分时间处于空闲状态的智能体。

这也带来了一个新的问题：如何让CPU在这些不同智能体之间更加高效地分配计算资源？

谷歌认为，解决这个问题，不能仅仅依靠增加CPU数量，还需要改变整个基础设施的设计方式。

其中一个重要方向，就是让AI Agent能够进入休眠状态。

当某个Agent暂时不需要执行任务时，可以将它的上下文和运行状态保存到存储设备中，释放原本占用的CPU资源，让其他Agent使用。当这个Agent重新需要执行任务时，再从存储中快速恢复。

这种方式能够减少大量智能体长期占用计算资源所造成的浪费。

不过，要实现这一点，对存储系统也提出了新的要求。谷歌认为，服务器需要配备高性能存储设备，以便在Agent重新启动时快速恢复此前保存的状态。同时，软件层面还需要新的编排机制，负责管理不同Agent的休眠、唤醒和资源分配。

换句话说，Agent时代的CPU竞争，不只是处理器本身的竞争，还涉及CPU、内存、存储以及网络之间的协同。

另一个值得关注的变化，是虚拟化技术。

谷歌目前采用microVM，也就是轻量级虚拟机，为部署在同一台服务器上的不同Agent提供相互隔离的安全环境。

传统虚拟机通常需要较多资源，而microVM通过精简功能，可以减少运行开销，同时缩小潜在的安全攻击面。

Lohmeyer举例称，同样一套硬件，过去可能运行100个传统虚拟机，而采用microVM后，有可能运行1000个。

这对于未来大规模部署AI Agent非常重要。

当一台服务器需要同时承载数百甚至数千个Agent时，CPU的核心密度、存储连接方式以及软件编排能力都会受到影响。谷歌希望通过这种方式提高硬件利用率，降低每个Agent的运行成本，同时避免牺牲性能。

至于未来应该采用什么样的CPU，谷歌并没有给出一个统一答案。

目前，Google Cloud同时使用Intel、AMD的x86处理器，以及谷歌自研的Arm架构Axion CPU。

Lohmeyer认为，不同Agent工作负载对CPU的需求并不相同。

例如，对于需要处理大量数据的Agent，可能需要更高的单核性能，以及更大容量的本地SSD；而对于以Web服务为主的应用，可能更需要大量CPU核心。

因此，未来不会只有一种最优CPU架构，关键是根据具体工作负载选择合适的处理器。

他还透露，目前客户对谷歌自研Axion CPU表现出很高兴趣，既包括注重性能的实例，也包括注重能效的实例。此外，一些大型客户也开始关注裸金属实例。

从谷歌这次的表态来看，AI基础设施正在进入一个新的阶段。

过去，行业讨论AI算力，往往首先想到GPU和TPU，关注的是模型训练需要多少加速卡、需要多大的算力集群，以及如何提高GPU利用率。

但Agent出现之后，AI系统需要处理的事情变得更加复杂。模型推理只是其中一个环节，任务拆解、工具调用、代码执行、数据访问、状态保存以及多个智能体之间的协同，都需要底层计算资源的支持。

CPU的重要性，也正是在这个过程中重新凸显出来。

当然，谷歌并没有认为CPU会取代GPU或TPU。Lohmeyer明确表示，CPU与GPU、TPU的工作负载都将继续快速增长，只是随着Agent应用不断扩大，CPU在整个计算体系中的比例将持续提高。

这或许才是这次谷歌观点最值得关注的地方：AI并没有让CPU失去价值，反而正在为CPU创造新的增长空间。

当AI从一个回答问题的模型，逐渐变成能够长期运行、调用工具并执行复杂任务的智能体，数据中心需要的就不再只是更强的AI加速器，还需要更强的通用计算能力，以及能够承载这些智能体运行的整套基础设施。

点这里👆加关注，锁定更多原创内容

*免责声明：文章内容系作者个人观点，半导体芯闻转载仅为了传达一种不同的观点，不代表半导体芯闻对该观点赞同或支持，如果有任何异议，欢迎联系我们。