数据中心机架正在成为AI计算的新标准
长期以来,计算性能提升主要由芯片层面的进步推动,更快的
晶体管
、更高的集成度、更聪明的架构持续推动性能的演进。但在
AI
时代,重要的将不再是单个芯片的性能,而是整套系统在真实约束条件下的协同工作效率。
这套系统不止于电路板或单台服务器,而是进一步延伸至数据
中心
机架——计算、内存、互连、供电和散热等在这里汇聚成一个统一的运行单元。可理解为:
芯片:独立的单个组件
系统:集成的计算系统(XPU、
CPU
、横向扩展网络)
机架:可部署、可运维、可规模化的基础设施单元
机架是性能真正得以施展的地方。效率在这里被决定,而价值也越来越多地在此被创造。所以说,“价值是在机架上被创造的,而不仅仅是在芯片上。”
真正重要的数据中心指标
在这个新的 AI 时代,传统的性能指标,例如每秒万亿次运算(TOPS)和每秒浮点运算(FLOPS),已经不足以单独说明问题。因为系统可能在纸面上展现出惊人的峰值性能,但在实际部署中却不如预期。
例如大模型推理并非一次性的基准测试,而是持续的、系统级的工作负载。Token 的生成速度取决于数据在计算、内存和互连之间的传输速度。现实世界中的 AI 工作负载并非孤立运行,这些工作负载受到功耗预算、散热限制、内存带宽和
通信
成本的影响。因此,业界正在转向更有意义的指标:
每瓦性能
每总拥有成本(TCO)的性能
或者,更具体地说:
每焦耳能量你能生成多少个有用的 Token?
每美元基础设施你能交付多少个 Token?
这些指标决定了一个 AI 系统是否能够算得快、算得值、算得起。
正如 Media
Te
k 副董事长暨执行长蔡力行博士在 ISSCC 2026 的主题演讲《拓展
人工智能
的新视野:
半导体
创新展望》中所强调的,AI 驱动的基础设施支出正在爆炸式增长。在此趋势下,效率成为了竞争力的关键。
能源墙是真实存在的
推动机架成为核心的另一个因素是能源与电力的约束。
AI 正迅速成为全球数据中心电能消耗的重要因素之一。据预测,单个大型 AI 数据中心的耗电量可能达到 1 吉瓦,接近于一座大型城市的平均电量消耗水平。
与此同时,全球能源生产的增长速度,远不及 AI 计算需求的扩张,这就造成了结构性“能源墙”。假设某数据中心运营商的电力预算固定为 50MW。在传统机架设计下,扩容很快触顶——除非扩建机房或申请更多电网容量,成本高且周期长。如果能在机架层级提升,同样的 50MW 功耗下,就可以交付更高的 AI 吞吐量:在不增加用电的情况下,提升可创收的计算产能。
在这个世界,效率不仅仅是技术优势,更是商业效益的倍增器。因此我们需要构建更高效的系统,让每一焦耳的能量都得到有效利用。要实现这个目标,只有通过整体协同设计才能做到。
机架是一套系统级架构
现代 AI 机架一个精心编排的系统,由以下部分组成:

这些要素都必须共同设计、共同优化,任何一个环节(带宽、时延、供电、散热)成为瓶颈,都会降低整个系统的性能。就像木桶效应,系统无法从性能更优的组件中获益,还会受到性能最弱的组件限制。
超越XPU:
从基础设施到商业化变现
正因如此,MediaTek 将方案明确定义为“超越 XPU”。XPU 仍是核心,但真正的创新在于如何将计算、内存、互连、封装和系统集成整合为统一架构,实现从芯片到机架的系统级协同。
MediaTek 通过系统技术协同优化(STCO)理念,将芯片、封装、内存、连接和软件作为同一系统进行设计,覆盖从定制
ASIC
、先进封装到高速互连(含光互连方向)集成的全栈能力。这使得 MediaTek 能够帮助客户将基础设施转化为战略优势,而不仅仅是成本中心。
归根结底,这种转变不仅仅关乎工程技术,更关乎经济效益。AI 不再是研究项目,而是一项需要规模化运营的业务,其成功的关键不是峰值性能,而是可持续、可用、可扩展的吞吐效率。
而机架,正是让抽象的算力转化为可部署的基础设施、让性能落地于实际应用、实现 AI 商业化的载体。
系统的崛起
如果说过去 50 年是由“芯片的崛起”定义,那么未来十年将由“系统的崛起”定义,或者更准确地说,由“机架的崛起”定义。
在 AI 时代,计算机不再仅仅是你拿在手里或放在桌子上的东西。它涵盖了从智能边缘设备到庞大数据中心里成排的机架。在这种新格局下,成功不再取决于单一组件的表现,而是取决于跨越芯片和封装到互连、
电源
和机架级集成的全栈协同优化能力。
这正是 MediaTek 的优势所在:凭借在全栈技术方面的深厚积累和不断增长的部署势头,将架构创新转化为可规模化、可落地生产的 AI 基础设施能力。
*数据来源于
联发科
技实验室
cpu
cpu
+关注
关注
69
文章
11469
浏览量
228375
服务器
服务器
+关注
关注
14
文章
10643
浏览量
92712
数据中心
数据中心
+关注
关注
18
文章
6101
浏览量
75745
AI
AI
+关注
关注
92
文章
44604
浏览量
305159
原文标题:数据中心机架,正在成为 AI 计算的新标准
文章出处:【微信号:mtk1997,微信公众号:联发科技】欢迎添加关注!文章转载请注明出处。
