理想汽车探索自研云端推理芯片:数据流架构延续,车端技术能否云端生花?
据多方消息透露,理想汽车正着手研发用于云端的推理芯片,其技术路线将延续智能驾驶芯片所采用的数据流架构。目前该项目仍处于初步探索阶段,具体技术细节尚未完全公开。
在人工智能数据中心领域,GPU长期占据主导地位,既承担模型训练也负责推理任务。不过,部分数据中心已开始部署专用云端推理芯片,以分担GPU的运算压力。行业专家指出,这类芯片可承接智能驾驶模型的数据处理、测试仿真以及大语言模型的请求响应等任务,但涉及参数更新的模型训练环节仍需依赖专业训练芯片。
技术层面,将数据流架构从车载端扩展至云端具备可行性。一种实现方式是整合多个车载NPU(神经网络处理器)的计算单元,通过高带宽内存和高速互联技术构建更大规模的推理芯片。这种设计可使车端与云端共享部分技术模块和开发工具,从而降低研发成本。
但云端芯片的研发面临特殊挑战。车载芯片侧重低功耗、低延迟和稳定运行,其处理任务相对固定;而云端需同时处理多个动态模型,应对更频繁的更新需求、更长的输入序列以及波动的并发请求。高带宽内存管理、多芯片协同、动态批处理和集群调度等技术难题也亟待突破。
有芯片行业人士强调,单纯提升芯片性能并非最大难点,关键在于构建具有成本竞争力的推理系统。数据流架构能否在云端形成优势,取决于模型适配能力和整体运行效率。目前该架构在模型通用性、软件生态和规模化部署方面仍需进一步验证。
国际市场上,SambaNova、Groq和Tenstorrent等企业也在探索类似技术路径。其中,SambaNova核心团队来自斯坦福大学,Groq团队则有谷歌TPU项目背景,而Tenstorrent由特斯拉自动驾驶芯片前负责人吉姆·凯勒领导。这些企业的实践表明,数据流架构正成为芯片领域的重要研究方向。
值得注意的是,在理想汽车推进云端芯片项目期间,其芯片研发团队出现人事变动。软件研发负责人金一华和前端设计一组负责人戴颉已离职,两人此前均向算力单元负责人罗旻汇报,罗旻则直接向集团CTO汇报。目前尚无法确认此次人事调整是否会对项目进度产生影响。
