CPO,开始走向实际应用

AI集群规模不断扩大,GPU之间的数据交换正在成为数据中心网络升级的重要方向。相比传统铜缆和可插拔光模块,共封装光学(CPO)被寄予降低功耗、提升带宽密度以及改善网络可靠性的期待。
日前,AI云服务商Lambda宣布,其在加拿大魁北克部署的一套包含1万颗英伟达Blackwell GPU的集群,采用了英伟达CPO光交换技术。这一部署也被HPCwire报道为CPO在Blackwell GPU集群中的早期大规模应用之一。
这次部署的意义不仅在于GPU数量,更在于CPO开始从技术验证阶段向实际AI基础设施迈进。
1万颗GPU,为什么要引入CPO?
Lambda此次部署的集群位于加拿大魁北克数据中心,采用英伟达GB300 NVL72系统,整体包含约1万颗Blackwell Ultra GPU,通过光交换设备进行互连,部署规模预计涉及138个机架左右。
网络系统中使用的光交换设备,每台提供144个800Gb/s端口,并配备18个可拆卸外置激光器,用于产生光信号并完成数据传输。
这里需要注意的是,Lambda部署的是一个scale-out(横向扩展)集群,而不是将GPU集中在单个机柜内部的scale-up(纵向扩展)系统。随着GPU数量扩展到数千乃至上万颗,节点之间的数据传输、网络功耗以及连接可靠性都会成为集群设计需要考虑的问题。
传统铜互连在短距离内仍具有优势,但随着连接距离增加,其效率和成本压力逐渐显现。光互连则能够在更长距离的数据传输中提供更好的效率,这也是AI数据中心持续向光互连技术演进的原因之一。
Lambda此次将CPO引入1万颗GPU的集群,正是围绕大规模AI计算中日益复杂的网络连接需求展开。
CPO带来的变化:功耗、可靠性和延迟
Lambda表示,过去一年,公司一直在测试英伟达CPO方案,并将其与传统可插拔硅光技术进行比较。
根据Lambda披露的数据,与可插拔光接收方案相比,采用CPO后,交换机封装本身的功耗效率最高可提升5倍,可靠性最高可提升15倍。相关改善部分来自激光器数量减少,CPO方案所需的激光器数量约为传统方案的四分之一。
与此同时,网络延迟也有所改善。Lambda称,在机架层面,延迟降低约4%;在Pod层面,延迟降低约10%。
需要强调的是,这些功耗效率和可靠性数据针对的是交换机封装本身,并非整个GPU集群的功耗或整体可靠性提升幅度。两者不能直接画等号。
对于大规模AI集群而言,网络性能并不只是交换机带宽的简单叠加。当GPU数量不断增加,网络架构中的数据传输效率、链路稳定性和延迟都可能影响整个系统的运行效率。Lambda披露的这些数据,至少说明CPO在实际部署环境中已经开始接受更大规模的验证。
光互连正在从技术储备走向基础设施
过去几年,CPO一直是AI数据中心光互连领域的重要技术方向。包括英伟达在内的多家厂商,都在探索如何将光学器件更紧密地与交换芯片集成,以减少传统电连接在高带宽传输中的限制。
但技术路线最终能否走向规模化,仍然需要在实际部署中解决成本、维护、可靠性以及系统集成等问题。
Lambda此次部署的1万颗Blackwell GPU集群,提供了一个值得关注的案例。CPO不再只是芯片厂商展示的技术方案,而是开始进入真实的AI计算基础设施,并在大规模集群中承担网络连接任务。
当然,一次部署并不意味着CPO已经全面取代传统可插拔光模块。对于不同规模、不同架构的数据中心而言,铜互连、可插拔光模块以及CPO仍然会有各自的应用空间。
但随着AI集群继续向更大规模扩展,网络互连的功耗和效率问题已经越来越难以回避。GPU性能持续提升的同时,如何让数千乃至数万颗GPU高效协同,正在成为AI基础设施建设的另一条主线。
Lambda这次的部署,或许正是CPO从技术探索迈向规模应用过程中,一个具有代表性的节点。
(来源:综合自hpcwired)
点这里👆加关注,锁定更多原创内容
*免责声明:文章内容系作者个人观点,半导体芯闻转载仅为了传达一种不同的观点,不代表半导体芯闻对该观点赞同或支持,如果有任何异议,欢迎联系我们。
推荐阅读

喜欢我们的内容就点“在看”分享给小伙伴哦~![]()

