理想汽车探索自研云端推理芯片,数据流架构能否带来新突破?
近日有消息指出,理想汽车正着手研发自研云端推理芯片,该芯片计划采用与智能驾驶芯片相同的数据流架构,不过目前项目尚处于早期探索阶段。这一动态引发了行业内对汽车与芯片领域融合发展的新关注。
在当前的AI数据中心领域,GPU是完成模型训练和推理的常用工具,同时也有部分数据中心部署了云端推理芯片。据芯片行业人士介绍,云端推理芯片能够承担部分原本由GPU执行的推理任务,像智能驾驶模型的数据处理、测试、仿真,以及大语言模型的请求处理等。不过,模型训练中涉及参数更新的部分,仍需依赖训练芯片来完成。
从技术层面来看,数据流架构从车端向云端延伸具备可行性。业内人士透露,一种可行的实现路径是复用车端NPU(AI处理器)的计算设计,将多个AI计算晶粒封装在一起,并配备高带宽内存和高速互联技术,从而组成规模更大的推理芯片。如此一来,车端和云端能够复用部分设计以及软件工具,进而分摊研发成本。
然而,云端芯片并非车端芯片的简单放大。车端模型、传感器输入以及运行节奏相对固定,主要追求低功耗、低延迟和稳定执行。而云端则需要同时处理更多模型,模型更新速度更快,输入长度和并发请求的波动也更大,还涉及高带宽内存、多芯片互联、动态批处理和集群调度等复杂问题。
一位芯片行业人士强调:“一颗芯片达到某个性能指标并非难事,真正困难的是让整套推理成本具备竞争力。”数据流架构从车端延伸到云端能否形成成本优势,关键在于模型适配能力和系统运行效率。
在国际上,SambaNova、Groq、Tenstorrent等公司也在积极探索数据流架构。其中,SambaNova和Groq的核心团队分别来自斯坦福和谷歌TPU(张量处理单元)项目,Tenstorrent则由曾负责特斯拉自动驾驶芯片的Jim Keller领导。不过,与GPU相比,数据流架构在模型通用性、软件生态和规模化部署等方面仍有待进一步验证。
值得注意的是,在理想汽车推进云端推理芯片项目的同时,其芯片团队出现了人事变动。多方渠道确认,理想芯片的软件研发负责人金一华和芯片前端设计一组负责人戴颉已经离职。此前,两人均向算力单元负责人罗旻汇报工作,罗旻则向集团CTO谢炎汇报。目前,尚不清楚此次人事变动是否会对云端推理芯片项目的进度产生影响。
