澜起科技率先试产CXL 3.2内存扩展控制器,解锁数据中心内存新可能
近日,澜起科技正式对外宣布,已在行业内率先完成CXL 3.2内存扩展
控制器
(MXC)芯片的试产工作。这款全新芯片专门面向
人工智能
、
云计算
、大型数据
中心
的内存扩展与资源池化需求打造,依托最新的CXL技术,能帮助下游客户搭建出容量更大、利用率更高、调度更灵活的内存基础设施,为当下算力需求暴涨的
AI
和云计算场景,补上内存侧的关键性能短板。
很多普通用户可能对CXL这个概念完全陌生,但它其实是现在数据中心里解决“内存不够用”痛点的核心技术。简单来说,过去服务器里的内存是直接焊死在主板上的,每台服务器能插的内存数量有严格的物理上限,一旦AI大模型训练、云计算多任务并行运行的时候,本地内存装不下临时数据,系统就只能反复往硬盘里读写数据,整个运行速度会直接慢一大截。而CXL技术就相当于给服务器的内存装了一条高速“外接通道”,能让不同服务器之间的内存互相打通、灵活共享,彻底打破单台服务器的物理内存上限。
澜起科技这次试产的CXL 3.2内存扩展控制器,就是这条高速通道里的核心“调度枢纽”。它能把多台服务器的内存资源全部打通,整合成一个统一的超大内存资源池,过去单台服务器装不下的超大规模AI训练数据集,现在可以直接放在这个共享内存池里,所有算力服务器都能高速调用,不用再反复在硬盘和本地内存之间来回倒数据,AI大模型的训练速度能得到非常明显的提升。
更重要的是,这款芯片能大幅提升数据中心里内存的实际利用率。过去传统数据中心里,每台服务器的内存都是单独分配的,经常会出现某台服务器的内存用满了、旁边另一台服务器的内存还空着大半的情况,大量昂贵的内存资源就这么白白闲置浪费了。现在有了这款CXL 3.2控制器,系统可以根据实时的算力需求,动态给不同服务器分配内存资源,哪里需要就把空闲的内存调度到哪里,过去闲置浪费的内存资源都能被充分利用起来,不用额外采购大量新内存,就能支撑更多的算力任务运行,直接帮数据中心降低硬件投入成本。
作为率先试产的新一代CXL 3.2芯片,它的传输速度比上一代CXL标准有了大幅提升,不同设备之间的内存数据传输延迟压到了极低的水平,跨设备调用共享内存的速度,几乎和调用服务器本地内存的体验差不多,不会出现过去外接内存速度太慢拖慢系统运行的问题。同时它的兼容性做得非常好,能直接适配现在主流的服务器硬件平台,数据中心不用把现有服务器全部淘汰替换,只要加装这款控制器,就能快速升级搭建内存资源池,升级改造成本非常低。
对于当下正在高速扩张的AI和云计算行业来说,这款芯片的试产落地刚好踩中了行业的核心需求。现在AI大模型的参数规模越来越大,对内存容量的需求几乎呈指数级上涨,传统的服务器内存架构已经很难跟上需求增长,这款CXL 3.2内存扩展控制器的出现,刚好给行业提供了一个低成本扩容内存的成熟方案,不用投入巨额成本更换整批服务器,就能快速获得超大容量的共享内存资源池。
澜起科技这款率先试产的CXL 3.2内存扩展控制器,补上了国产高端内存互联芯片的关键一环。后续随着这款芯片正式量产落地,国内的大型AI训练集群、云计算数据中心,都能用上更灵活、利用率更高的内存基础设施,进一步降低算力运行的综合成本,给AI和云计算行业的持续高速发展,提供扎实的底层硬件支撑。
芯片
芯片
+关注
关注
463
文章
55423
浏览量
477059
控制器
控制器
+关注
关注
114
文章
18045
浏览量
198891
内存
内存
+关注
关注
9
文章
3307
浏览量
77041
数据中心
数据中心
+关注
关注
18
文章
6085
浏览量
75691
澜起科技
澜起科技
+关注
关注
1
文章
141
浏览量
15848
