从铜互联、可插拔光模块到NPO与CPO,最值得看的11家公司
Google各类产品每月处理的Token数量,从2024年5月的9.7万亿增加到2025年5月的约480万亿,2026年5月又超过3200万亿,两年增长超过300倍。
Token可以理解成大模型处理文本、图片和其他信息时的基本单位。用户问的问题越多、上下文越长,Agent调用模型和工具的次数越多,背后需要处理的Token也就越多。
AI
服务器因此不只是需要更多
GPU
;
一项任务经常要拆到几十张甚至几百张GPU上共同计算,数据必须在这些芯片之间快速来回传输。GPU计算速度继续提高以后,如果互联速度跟不上,芯片就会花更多时间等数据。
中泰证券8月29日发布的报告,把AI互联接下来的变化归纳成一条比较清楚的路线:铜互联的有效距离越来越短,光模块开始从
交换机
前面板往
ASIC
附近移动,先经过NPO,再逐步走向CPO。
一、GPU越多,互联越容易成为瓶颈
AI集群里的网络大致分成Scale-up和Scale-out。
Scale-up主要负责一组GPU或者其他XPU之间的高速连接。比如一个超节点里面有几十张、几百张卡,这些芯片要频繁交换模型参数和中间数据,对延迟和带宽要求非常高。
Scale-out则负责把不同服务器、机柜或者多个超节点连接起来,覆盖范围通常更大。
过去一个服务器里面只有几张GPU,板内走线或者短铜缆就能解决很多连接问题。现在超节点开始往几百张卡发展,计算板、交换芯片、
电源
和液冷设备不可能全部塞在一个机箱里,连接距离自然会跨到多个机柜。
铜连接的问题也就出来了;
SerDes可以理解成芯片收发高速电信号的
接口
。单通道从100G提高到200G、22
4G
以后,电信号在
PCB
和铜缆里面传输时更容易衰减。
Bro
adc
om在一个Scale-up场景中的估算显示,100Gbps单通道
DAC
铜缆大约可以覆盖4米,到了200Gbps可能缩短到2米。OIF针对224G接口给出的无源铜连接目标,已经集中在1米左右。
距离再长,就需要增加Re
ti
mer等器件重新整理
信号
,成本和功耗也跟着增加。
所以铜连接不会消失,但随着单通道速率提高,它适合使用的距离正在缩短。
二、可插拔光模块先解决了长距离传输
铜走不远以后,最成熟的办法就是把电信号转换成光信号。
现在数据
中心
大量使用的800G、1.6T光模块,基本都属于可插拔方案。
交换机里面的ASIC先产生高速电信号,信号通过PCB一直走到设备前面板,再进入光模块。光模块里面有激光器、调制器、
探测器
、Driver、TIA和
DSP
等器件,把电信号转换成光信号以后,通过光纤传出去。
这种结构最大的好处是标准化;
光模块坏了直接拔掉更换,不同距离也可以换不同规格,交换机和光模块能够分别生产、测试和采购。
但交换芯片的容量一直增加以后,可插拔方案开始遇到两个问题。
一个是功耗。
信号从ASIC走到前面板,需要经过比较长的PCB线路、
连接器
和模块接口。速率越高,为了保证信号还能识别,就需要更复杂的均衡和DSP处理。
另一个是前面板空间。
交换容量翻倍以后,如果继续增加光模块数量,模块本身、散热器和笼子会占掉越来越多的前面板面积,同时挡住风道。
LPO和LRO可以减少光模块内部的一部分DSP功能,降低功耗,但ASIC到前面板这段高速电连接还在。
继续缩短这段线路,就要把光模块往交换芯片旁边搬。
三、NPO先把光引擎搬到ASIC旁边
NPO就是Near-Packaged Optics,中文一般叫近封装
光学
。
这里的ASIC主要指交换机里面负责数据转发的核心芯片。
传统可插拔光模块放在设备前面板,NPO把光引擎直接放到ASIC附近。电信号从芯片出来以后,只需要走很短一段PCB,就可以转换成光信号。
但NPO仍然保留一个重要特点;
光引擎和ASIC是分开的。
光引擎可以单独制造、测试,发现问题以后也有机会单独更换。对于现在还处在试点阶段的新技术,这样可以避免一颗光引擎出现缺陷,就把价格很高的交换芯片一起报废。
OIF给出的112G单通道示例中,从芯片到前面板可插拔模块的损耗大约22—24dB,NPO缩短到约13dB,CPO进一步降到约10dB。
NPO已经把最长的一段PCB线路砍掉了,所以在继续保留一定
维修
能力的同时,也拿到了大部分缩短电通道带来的好处。
目前3.2T NPO主要还是用来做试点和积累运行数据。
阿里公开的路线从3.2T NPO Beta和试点开始,后面继续推进6.4T UPO和标准化;腾讯已经对3.2T VCSEL和硅光NPO进行链路验证。华为的Hi-ONE平台则同时布局VCSEL和硅光方案。
真正进入6.4T、7.2T以后,单通道会从112G提高到200G或者224G,PCB、Driver、TIA、光芯片、FAU和测试设备都要重新适配。
这不是把3.2T光引擎简单放大一倍。
四、NPO里面还有硅光和VCSEL两条路线
NPO具体怎么把电信号变成光信号,现在主要有硅光和VCSEL两类方案。
硅光是在硅芯片上集成调制器、波导、复用器和探测器,再由外部或者混合集成的连续波激光器提供光源。
它可以利用WDM,也就是让不同波长的光同时在一根光纤里传输数据,因此需要的光纤数量比较少,也更适合跨机柜和带宽密度比较高的场景。
VCSEL则可以直接调制出光,结构相对简单。
它比较适合距离较短的Scale-up连接,但大量并行通道通常需要更多多模光纤。总带宽提高以后,FAU、光纤和前面板连接数量都会增加。
所以这两条路线目前都有人在做。
短距离、可以接受更多光纤的场景,VCSEL有自己的优势;距离拉长或者希望减少纤芯数量,硅光会更合适。
五、CPO再把光引擎和交换芯片封到一起
CPO比NPO再往前一步。
NPO只是把光引擎放到ASIC旁边,CPO直接把交换ASIC和光引擎放进同一套封装系统。
这样高速电信号只需要走毫米级甚至封装内部的距离,很快就能转成光信号。
收益首先体现在功耗。
Cisco针对一套51.2T系统的测算中,CPO相比可插拔架构可以降低约25%—30%的整机功耗。
Bro
ad
com在一个576颗GPU互联的示例中,也分别测算了DSP可插拔、LRO和CPO的光学功耗,结果约为16.2kW、11.7kW和7.1kW。
这些数字对应的是特定系统,不能直接套到所有设备,但缩短PCB高速电线路、减少DSP以后,功耗下降的方向比较明确。
第二个变化是前面板。
4只800G可插拔光模块提供3.2T带宽,需要放下4套模块外壳、笼子和散热结构;一颗3.2T CPO光引擎可以提供相近带宽,但前面板只需要留下光纤连接。
交换机因此可以塞进更多光口。
端口
数量增加以后,还可以做更高Radix的交换芯片。Radix可以理解成一颗交换芯片能够直接连接多少个节点,连接数量越多,整个网络就有机会减少中间交换层级。
六、
英伟达
已经把CPO做到交换机里面
CPO现在已经开始从样品走向整机。
英伟达推出的Quantum-X800-Q3450和Spectrum-X分别面向InfiniBand和
以太网
AI集群。
其中Spectrum-X的Spectrum-6交换ASIC周围集成36个第二代光引擎,32个正常工作,另外4个作为硬件冗余。单个光引擎带宽达到3.2Tbps,整套系统有效带宽达到102.4Tbps。
英伟达使用的硅光平台来自台积电COUPE。
COUPE把硅光
PI
C和负责驱动、接收信号的EIC通过SoIC工艺堆叠起来,再与交换芯片组成完整的CPO系统。
PIC可以理解成负责处理光信号的芯片,里面有波导、调制器和探测器;EIC主要负责Driver、TIA和控制等电路。
台积电的这套平台同时支持光栅
耦合
和边缘耦合,还可以通过多排FAU提高出纤密度。
英伟达已经采用COUPE,
博通
的后续路线也开始转向这一平台,Ayar Labs也把COUPE纳入规划。
七、CPO真正量产还有五道难题
CPO把很多昂贵部件封在一起以后,制造难度也明显增加。
第一是良率。
ASIC、PIC、EIC、中介层和光纤耦合结构只要有一个地方出现缺陷,都可能影响整套产品。量产前必须尽量把坏芯片提前筛掉,还需要增加晶圆级光测试、封装过程测试和全流程追溯。
第二是散热。
交换ASIC本身发热很大,PIC、EIC和激光器又对温度变化比较敏感。冷板不只要把总热量带走,还要让多个光引擎的温度尽量保持一致。
第三是光源。
目前比较现实的方案,是把CW激光器放在封装外面做成ELS外置光源,再通过光纤给多个光引擎供光。这样激光器坏了可以单独换,也能远离ASIC周围的高温区域。
第四是光纤耦合。
几十甚至上百根光纤要在很小的空间里准确对准光芯片,误差通常已经到了微米级。FAU、微透镜、MT插芯和高密度连接器的重要性都会提高。
第五是测试和维修。
以前一个光模块坏了,直接拔掉换新的。CPO的光引擎和ASIC放在同一个封装里,数据中心现场通常没办法拆开维修。
所以现在的CPO系统会考虑光源冗余、备用光引擎、可分离光纤连接以及整板替换。
这也是NPO短期仍然有价值的原因。
3.2T阶段可以先用NPO积累装配、散热、光纤和运行数据;到了6.4T、7.2T以后,NPO和CPO可能同时存在。交换容量继续走到102.4T以上,电通道功耗和前面板空间压力继续增加,CPO的优势才会进一步体现。
传统可插拔光模块也不会因此消失。
跨数据中心、长距离连接和需要现场热插拔的端口,仍然会继续使用成熟的可插拔方案。
八、光学往芯片里面走,增加了哪些东西
NPO和CPO带来的变化,不是把原来一只光模块的价值全部搬到ASIC旁边。
一部分器件会减少,一部分器件会换位置,还有一些过去用量不大的零部件会升级。
比较明确的一块是高功率CW激光器和ELS。
外置光源需要把一颗或者几颗激光器产生的连续光分给多个光引擎,所以单颗激光器对输出功率、稳定性和可靠性的要求提高。
不过集中供光以后,激光器数量也可能减少,所以不能简单按照CPO端口数量去计算激光器颗数。
FAU和高密度连接的适用范围更广。
FAU负责把很多根光纤按照固定间距排列好,再准确对准光芯片。NPO和CPO的光纤进入ASIC周围以后,那里温度高、空间小,还要承受振动和热循环,对FAU的精度和可靠性要求都会提高。
MPO/MTP、MT插芯、光纤带、盲插连接器、微透镜以及自动耦合设备也会跟着升级。
保偏光纤则要区分具体路线。
外置激光器给偏振敏感的硅光调制器供光时,需要保偏光纤稳定光的偏振方向;但并不是所有CPO都会使用保偏光纤,部分光I/O方案仍然使用普通单模光纤。
先进封装和测试设备也会增加新的工序。
晶圆和芯粒需要提前筛选,装配以后要做主动或者被动光纤对准,最后还要进行老化、温循、振动、功率闭环和端到端误码测试。
九、相关公司业务梳理
1、天孚
通信
天孚通信主要对应FAU和外置光源等CPO配套产品。
FAU负责把多根光纤精确排列后与光芯片对准,NPO和CPO提高光纤密度以后,对FAU通道数、精度和一致性的要求都会提高。
公司同时布局ELS外置光源相关产品。
2、罗博特科
罗博特科主要对应
光电
子和
半导体
自动化封装、耦合及测试设备。
NPO和CPO进入批量制造以后,光芯片与光纤之间需要进行
高精度
对准,同时还要完成封装后的光电测试,这些工序对
自动化设备
的精度和生产节拍要求较高。
3、炬光科技
炬光科技主要对应CPO微光学器件。
公司产品包括微透镜、微透镜阵列和光纤耦合等器件。
光信号从FAU进入PIC或者从PIC耦合到光纤时,需要微透镜控制光束位置和形状,光纤通道增加以后,对微光学器件的一致性要求也会提高。
4、致尚科技
致尚科技主要对应高密度光纤连接。
公司产品包括MTP/MPO、FA-MT、保偏光纤阵列以及模场转换光纤阵列等。
NPO和CPO把大量光纤从前面板引到ASIC周围,高密度连接器和光纤阵列承担板内和设备内部的光路连接。
5、光库科技
光库科技布局DR4/DR8 FAU、MT-FAU、保偏光纤阵列、保偏尾纤、WDM以及MPO/MTP等产品。
这些产品分别对应光芯片耦合、外置光源供光、高密度连接和波分复用等环节,覆盖NPO和CPO内部多种光路需求。
6、腾景科技
腾景科技主要提供精密光学元组件、光纤阵列和WDM等光通信产品。
NPO和CPO提高集成度以后,光纤与光芯片之间的耦合、分光和波长管理都需要精密光学器件配合。
7、长飞光纤
长飞光纤在这条产业链中主要对应保偏光纤。
外置光源给硅光调制器供光时,需要尽量保持稳定的偏振状态,保偏光纤主要用于这一段供光链路。
这部分需求与具体CPO技术路线有关,不能直接外推到所有数据光纤。
8、长盈通
长盈通主要布局CPO用极细径抗弯保偏光纤。
光纤进入ASIC周围以后,板内空间更紧,弯曲半径也会受到限制。极细径和抗弯性能可以减少布线占用,同时满足外置光源到光引擎之间的保偏传输要求。
9、太辰光
太辰光主要对应MTP/MPO高密度
光纤连接器
、光柔性板和MT插芯等产品。
NPO和CPO取消部分前面板完整光模块以后,大量光纤需要通过高密度连接方式完成汇聚、重排和出纤,公司产品主要对应这一环节。
10、源杰科技
源杰科技主要对应大功率CW激光器。
公司已经布局70mW、100mW等大功率硅光CW光源,并继续推进更高功率产品。
CPO采用外置光源以后,对单颗激光器的输出功率、稳定性和可靠性要求提高,但具体用量还要看客户采用几路共享以及冗余方案。
11、仕佳光子
仕佳光子主要对应
高通
道FAU和硅光CW激光器。
公司布局CPO高通道FAU,同时拥有硅光使用的CW DFB激光器。
前者对应光纤与光芯片的高密度精密耦合,后者对应硅光方案的连续波光源。
以上为行业及产业链资料梳理,仅供交流,不构成投资建议。
光模块
光模块
+关注
关注
85
文章
1858
浏览量
66283
NPO
NPO
+关注
关注
0
文章
20
浏览量
14338
CPO
CPO
+关注
关注
0
文章
87
浏览量
875
