780万美元的英伟达算力服务器长这样

发布时间：2026-07-23来源：通信人家园

关键规格：

72 个 Rubin GPU + 36 个 Vera CPU

FP4 推理性能：3.6 exaFLO

S（单 GPU 约 50 PFLO
S）

高速内存：总计约 75 TB（其中 HBM4 主力 + Vera CPU 的 LPDDR5X）

NVLink 带宽：整柜 260 TB/s（NVLink 6，每 GPU 3.6 TB/s all-to-all）

这比 Blackwell GB200 NVL72 有显著提升，尤其在低精度推理和带宽上，适合万亿参数 MoE/Agentic AI 模型。

1. 光通信：

72 颗 GPU 全互联 + 260 TB/s NVLink，对光引擎/NPO（Near Package Optics）需求极大。Rubin 平台 NPO:GPU 配比接近 1:1 或更高，尤其在 scale-out（机柜间）会大量采用 1.6T 及以上光学互连。

2. HBM 存储：

75 TB 总高速内存 ÷ 72 GPU ≈ 每 GPU 1TB+ 级别（实际 HBM4 部分单 GPU 288 GB，总 HBM4 约 20.7 TB，剩余为 CPU LPDDR5X）。

这是 HBM4 的典型规格（带宽 ~22 TB/s per GPU），相比 Blackwell 的 HBM3e 有明显升级（带宽提升 ~2.8x）。

3. 电源功耗（Rack 级）：

预计 120 kW+（部分估算 130-166 kW，甚至更高取决于负载）。这对电源模块（PDU、电源架）、液冷系统需求巨大。传统风冷几乎无法支撑，必须全面液冷（warm water cooling）。

4. PCB / 载板：

机柜级高密度设计对高层 PCB（高 Tg、低损耗材料）和 ABF 载板（Ajinomoto Build-up Film）需求大幅增加。Rubin 的复杂互连和功率密度对载板平整度、信号完整性要求更高。

转载说明：本文系转载内容，版权归原作者及原出处所有。转载目的在于传递更多行业信息，文章观点仅代表原作者本人，与本平台立场无关。若涉及作品版权问题，请原作者或相关权利人及时与本平台联系，我们将在第一时间核实后移除相关内容。