让每一个Token更高效,中兴通讯以OEX超节点构建开放AI算力底座

推理时代:
AI算力竞争转向Token效率
过去,行业更多关注模型参数规模、训练集群规模和单卡峰值算力。但随着大模型加速走向真实场景,AI落地越来越依赖推理,而非单次训练。相比训练,推理调用频次更高、服务周期更长、成本敏感度更强,也更直接决定企业能否把AI真正用起来。
国家数据局监测的最新数据显示,2026年6月份,我国日均Token调用量激增至近175万亿,较2024年初增长1750倍,Token调用量的爆发,也让推理效率成为产业发展的关键变量。
业界对算力的关注点随之改变。无论是运营商、云服务商,还是自建智算中心的头部行业企业,关注重点不再是部署了多少算力,而是单位算力能创造多少业务价值:每Token成本能否下降,系统利用率能否提升,TCO能否可控,单位投资能否转化为更多有效算力。AI算力正从建设型资源,转向运营型资产,算力经营的关键也正在从峰值指标转向Token产出效率。
在这一背景下,单纯追求芯片峰值算力已不足解决问题。大模型推理效率,取决于芯片、整机、网络、软件、调度、散热、供电和运维的整体协同。系统级优化往往比单点硬件指标更能决定最终的Token成本和业务体验。这也意味着智算基础设施已进入系统工程阶段。
大模型参数规模仍在持续攀升。万亿参数已成常态,十万亿的讨论也日益频繁。当模型规模跨过一定阈值,单卡性能提升对整体效率的边际贡献会明显变缓。制约效率的,是卡间的互联带宽、延迟与可靠性,以及高密度部署下的散热、运维和扩展能力。如果多张加速卡无法高效组成逻辑统一的计算单元,再强的单卡性能也只是分散的算力碎片,难以转化为低成本、高效率的Token产出。
OEX超节点:
以系统创新突破高密算力瓶颈
为应对大模型带来的算力增长和分布式并行计算需求,中兴通讯OEX超节点应运而生。它能够像一台“巨型服务器”一样协同工作,通过高速互联将众多卡整合为逻辑统一、调度高效的计算单元,而一组超节点就是一座“AI工厂”。节点内互联效率决定单点性能,集群扩展能力决定整体规模,而系统密度、可靠性、可维护性、能效与交付周期则共同决定Token成本,只有系统跑得顺、扩得开、管得住,算力才能转化为业务价值。

传统机柜里,高速线缆数量会随着卡数急剧增加,进而带来信号损耗、连接故障和运维复杂度。在高密度智算场景下,线缆不仅影响部署效率,也会成为可靠性、散热和后续维护的关键瓶颈。
中兴通讯原创的OEX正交无背板架构,用计算托盘与交换托盘的垂直交叉物理连接,实现三零线缆设计。该架构大幅缩短信号路径,改善高速场景下的链路质量,提升单位空间算力密度,并将故障定位与修复时间从小时级压缩到分钟级。单机柜可实现128卡超高密集成,集群可平滑扩展至万卡乃至更高规模。

该架构凭借卓越的技术先进性与工程价值,已获得业界高度认可,在2025 年成功入选 ODCC“年度重大技术突破”案例。在2026世界人工智能大会上,中兴通讯携手合作伙伴凭借“基于OEX+dOCS架构的国产高性能Matrix超节点”项目,二度荣膺WAIC SAIL大奖。

WAIC 2026期间,中兴OEX超节点作为“镇馆之宝”展出
OEX正交超节点从物理层解决了高密度场景下的可靠性和可维护性问题,让超节点在更大规模时仍能保持电信级稳定性。对推理时代的AI基础设施而言,这种稳定性并非附加能力,而是降低Token成本、提升系统利用率和控制长期TCO的基础条件。
开放解耦:
构建多芯协同的算力生态
如果说OEX架构解决的是高密度高可靠的系统构建问题,那么开放解耦则决定了基础设施能否持续演进。国产算力仍在快速迭代,芯片性能、接口标准与软件生态都在不断变化。如果超节点绑定特定芯片或封闭体系,极易在技术更新中形成新的算力孤岛。
为此,中兴通讯没有将OEX打造为封闭的专有系统,而是选择全面开放其机械与电气接口规范,支持第三方计算托盘与交换托盘按照统一标准接入。由中兴通讯主导的《正交超节点整机柜设计规范》已在ODCC官网正式发布,为不同厂商围绕同一物理规范开展适配、集成和协同创新提供了基础。
在硬件接口开放的基础上,OEX超节点支持多芯协同,通过开放高速互联协议与大容量交换芯片打通GPU机内高速互联与机间无损交换,达到“1+1>2”的集群效能。客户可以自主选择最优芯片组合,而无需被锁定在单一路线。特别是在推理场景下,不同模型、不同精度和不同业务负载对芯片和系统的要求并不相同。开放解耦使算力资源能够按需配置,也使算力基础设施具备更强的长期演进能力。

更进一步,中兴通讯通过前置式开发与统一工程规范,把新产品从需求确认到交付的周期大幅压缩。芯片厂商只需按开放规范设计托盘,即可实现标准化接入。“OEX算力集装箱”模式,让适配从“定制工程”变成“即插即用”,周期可由十二个月缩短至数月甚至更短,实现芯片更快集成、更快交付、更快上线。

持续演进:
释放算力基础设施长期价值
OEX超节点的价值,不仅在于实现芯片、设备和软件系统的高效协同,更在于让客户在长期运营中保有选择权、扩展性和可维护性。只有让算力以更低成本、更高效率和更强稳定性持续产出Token,智算基础设施才能真正成为可经营、可演进的长期资产。
随着全国一体化算力网和“东数西算”枢纽加速落地,算力将像水电一样,逐步具备可调度、可计量、可运营的能力。面向这一趋势,中兴通讯以Token经营为牵引,以OEX架构为抓手,以系统协同为核心,构建开放解耦,持续演进的AI算力底座。
OEX超节点不只是架构创新,更是面向产业的开放底座。中兴通讯将携手运营商、行业客户和生态伙伴一起,共同推动AI算力高效流通、规模化部署和持续创新,为AI产业发展和千行百业智能化转型注入发展动力。
