OpenAI自研Jalapeño芯片首测亮相:性能超越顶尖推理处理器
OpenAI 正式推出其首款自主研发的 AI 推理芯片 Jalapeño,这款芯片在性能和能效方面展现出显著优势。根据官方发布的测试数据,Jalapeño 在单用户 token 处理量和每千瓦吞吐量等关键指标上,均超越了当前市场上领先的 AI 推理处理器。
在测试过程中,OpenAI 采用了半导体研究公司 SemiAnalysis 开发的公共基准测试工具 InferenceX,并选取了 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三款大语言模型进行验证。结果显示,与英伟达的 GB200 和 GB300 系统相比,Jalapeño 每瓦能够完成的 AI 吞吐量达到对比系统的 1.5 至 1.9 倍,端到端延迟则降低至 28% 至 59%。具体来看,运行 GPT-OSS 120B 时,Jalapeño 的每千瓦峰值吞吐量比 GB200 系统高出约 1.9 倍;在 DeepSeek R1 和 Kimi K2.5 模型上,其每瓦性能分别比 GB300 高出约 1.7 倍和 1.5 倍。
Jalapeño 芯片由 OpenAI 与博通合作开发,台积电采用 3nm 制程代工制造。这款 ASIC 专用集成电路采用脉动阵列架构,配备高带宽内存(HBM),专为大语言模型推理场景设计,不涉及模型训练功能。芯片额定功率为 700 瓦,但在实际测试工作负载中,持续功耗保持在 550 瓦或以下,展现出优异的能效表现。
OpenAI 硬件负责人 Richard Ho 领导了 Jalapeño 的研发工作。他此前在 Google 工作近九年,是 Cloud TPU 项目的核心工程师。值得关注的是,Jalapeño 从架构设计到完成流片仅耗时约 9 个月,被 OpenAI 称为高性能先进半导体领域有史以来最快的 ASIC 开发周期之一。在研发过程中,OpenAI 的 AI 模型深度参与了芯片设计流程,帮助加速了设计优化进程。
目前,第二代 Jalapeño 芯片已进入后期开发阶段,预计未来数月内完成流片;第三代芯片也已启动概念设计。OpenAI 计划于 2026 年年底前小规模部署 Jalapeño,2027 年逐步扩大部署规模。需要说明的是,此次测试对比对象为英伟达 GB200 和 GB300 系统,尚未与英伟达最新一代 Vera Rubin 芯片进行对比测试。OpenAI 强调,英伟达仍是其重要合作伙伴,未来将持续采用多供应商策略以满足庞大的算力需求。
