英伟达推理芯片,量产

英伟达的尖端人工智能(AI)推理加速器“Groq 3 LPX”已进入商业化阶段。负责芯片代工的三星电子和提供基板的三星电机预计也将开始真正受益。
NVIDIA 于当地时间 24 日在其官方新闻中心宣布,Grok 3 LPX 已开始量产。
Grok 3 LPX 是一款专用于人工智能推理的机架,配备 256 个 Grok 3 语言处理器 (LPU)。Grok 是一家无晶圆厂初创公司,去年年底被 NVIDIA 以约 29 万亿韩元的价格间接收购。 该公司一直致力于开发 LPU,以加速大型语言模型 (LLM) 的推理任务。
Grok 3 LPX 的首个客户是总部位于荷兰的 NeoCloud 公司 Nevius,该产品已全面投入生产。Nevius 决定在其企业级 AI 推理平台“Nevius Token Factory”中采用 Grok 3 LPX。
随着英伟达最近的公告,三星电子和三星电机等主要国内合作伙伴也有望从中受益。
三星电子晶圆代工厂正在采用先进的4nm(SF4X)工艺量产Grok 3 LPU。三星晶圆代工厂为Grok 3 LPU设定的初始晶圆月产量预计约为1万片。
一位半导体行业人士解释说:“随着Grok的LPU被整合到NVIDIA生态系统中,产量正在显著增长,三星晶圆代工也计划明年将其晶圆月产量扩大到15000片以上。确保Grok下一代LPU的更多订单是关键。”
据了解,三星电机已于今年第二季度开始量产用于GROCK-3 LPU的倒装芯片球级封装(FC-BGA)。今年早些时候,三星电机与三星晶圆代工合作,获得了GROCK-3 LPU的FC-BGA“第一供应商”(产量最大的供应商)地位。
FC-BGA是一种封装基板,它利用“倒装芯片凸点”将半导体芯片与基板连接起来。由于其相比传统引线键合具有更优异的电气和热学特性,因此正被广泛应用于人工智能半导体领域。
与此同时,GROCK 3 LPX 是一款可扩展产品,可以与 Vera Rubin 结合使用,Vera Rubin 是 NVIDIA 今年下半年开始提供的尖端 AI 平台。
NVIDIA 表示:“GROK 3 LPX 通过超快的 token 生成功能,支持 Vera Rubin 的推理性能,适用于下一代智能 AI。”他还补充道:“在使用开源智能体模型‘Gemma 4 31B’ 进行基准测试时,该模型取得了最高性能,每秒可输出 3400 个 token。”
点这里👆加关注,锁定更多原创内容
*免责声明:文章内容系作者个人观点,半导体芯闻转载仅为了传达一种不同的观点,不代表半导体芯闻对该观点赞同或支持,如果有任何异议,欢迎联系我们。
推荐阅读

喜欢我们的内容就点“在看”分享给小伙伴哦~![]()

