中国工程院院士郑纬民:中国AI算力,真正缺的是什么?

文丨李海伦
编辑丨徐青阳
中国的AI算力正在经历一个看似矛盾的时刻。
一边是大模型和智能体加速进入产业,Token消耗快速增长,高端算力依然供不应求;另一边,部分已经建成的算力资源却因为软件适配、供需对接和调度能力不足,未能得到充分利用。
这点在中国信通院2025年发布的《人工智能算力基础设施赋能研究报告》中也被提到:目前国内人工智能算力基础设施的利用负载差异较大,尤其是部分由地方政府或国资平台主导建设的智算设施,实际赋能价值仍有待提升。
这背后暴露出的,不仅是芯片数量的问题,还需要考虑更多复杂的因素,比如软件生态是否成熟,国产芯片能否适配真实业务,模型、知识和工具能否被有效组织,以及每一单位算力能够生产多少高质量Token(能够准确承载业务知识、形成可靠推理结果并产生实际业务价值的有效模型输入与输出,而非简单追求Token数量增长),都在重新决定中国AI基础设施的效率。
在中国工程院院士、海致科技首席科学家郑纬民看来,中国AI算力正处在关键转型期。高端算力短缺只是表层矛盾,更深层的挑战在于,如何依靠基础软件、图计算和全栈生态,盘活现有算力资源;又如何推动基础设施从提供模型,进一步走向提供可调度、可执行的智能生产能力。
在2026世界人工智能大会(WAIC)期间,围绕国产算力的结构性矛盾、主权AI生态、算力基础设施等方面,郑纬民院士和媒体们进行了交流。

中国工程院院士、海致科技首席科学家 郑纬民
以下为交流实录:
问:当前中国AI算力基础设施的整体水平处于什么阶段?您提到“高端算力供不应求,中低端算力供过于求”,这种结构性矛盾应该如何解决?
郑纬民:当前,中国AI算力基础设施正处于关键转型期,面临明显的结构性矛盾。
坦率地说,美国对我国高端AI芯片的出口管制,是国内高端智能算力供不应求的直接原因。
而另一方面,国产中低端算力市场之所以“供过于求”,核心症结在于软件生态尚不成熟,导致大量硬件资源难以被高效调动。
在高端算力紧缺的当下,我们一方面要稳步推进国产替代和硬件扩容,另一方面必须依靠自主可控的“基础软件”来盘活现有的算力资源,把中低端的算力也高效利用起来。
在高端算力紧缺的情况下,一方面要稳步推进国产替代和硬件扩容;另一方面,也必须依靠自主可控的基础软件,盘活现有算力资源,提高中低端算力的利用效率。
这就涉及到一个关键的底层技术——高性能图计算。
当前,大模型在企业级场景落地时普遍面临幻觉和不可控问题,需要通过一套软件系统对模型、知识、工具和业务流程进行组织和约束,也就是AI Harness,或者说“驾驭工程”。通过这样的系统,可以用更少的算力完成更加精准的任务。
这也是为什么我一直倡导“做有用的科研”,比如我们团队与海致科技共同打造的院士专家工作站,就是在这个方向上深耕,要把实验室的技术变成国家真正用得上的产品。
Q:您提出主权AI三大支柱——“算力自主、算法自强、生态自立”。当前这三者“木桶效应”最明显的短板是什么?国产芯片从“能跑”到“愿意用”,最关键的突破口在哪里?
郑纬民:当前最明显的短板是“生态自立”。
算力自主是物理底座,算法自强是核心引擎,但生态自立决定了这套体系能否真正落地生根。国产芯片要跨越从“能跑”到“愿意用”的鸿沟,急需成熟的“全栈国产化解决方案”。只有让国产芯片在真实的、复杂的产业场景中跑起来,生态才能真正自立。
因此,必须理清从技术方到最终用户(如公共服务和安全、银行等)的需求链条,合理配置技术人才,以底层技术为基础,追求极致的性价比和效率。这种“国产算力底座 + 顶尖产业AI落地能力”的生态组合,正是推动国产算力生态自立自强的关键突破口。
Q:您提出“从MaaS走向TaaS(Token即服务)”,Token已成为AI时代“新石油”。中国Token消耗两年增长千倍,现有基础设施为何“产不出”足够Token?TaaS对算力基础设施提出了哪些新要求?
郑纬民:从MaaS(Model as a Service)走向TaaS(Token as a Service),是人工智能基础设施发展的重要演进方向。
过去,MaaS主要解决模型能力的供给问题,而随着大模型进入规模化应用阶段,未来竞争的核心将逐步转向高质量Token的高效生成、组织和利用能力。
我们需要认识到,Token能力的提升并不只是依赖算力规模的扩张,更取决于计算体系、数据体系、知识体系与应用体系之间的协同优化,实现从计算资源到智能能力的有效转化。
从技术路径看,TaaS 的发展需要同步攻克两大核心难题:一方面,提升大模型推理与服务全链路的资源利用效率,搭建面向 Token 生成的新型计算基础设施;另一方面,需打通 Token 服务底座、垂直行业知识库与全链路业务流程,形成从基础 Token 算力单元到可落地、可调度智能执行能力的完整闭环。
从整体发展趋势来看,TaaS需要构建计算基础设施、知识基础设施与智能执行基础设施协同演进的技术体系,推动人工智能由以模型能力供给为核心,逐步向面向行业场景的智能生产能力供给演进。
问:您一直倡导“做有用的科研”,在当前国产基础软件面临“卡脖子”的背景下,这种产学研深度融合的科研平台,对于打通从“实验室”到“生产线”的最后一公里,具有怎样的战略意义?
郑纬民:产学研深度融合最重要的机制突破,是打破高校“发论文”与企业“做产品”之间的壁垒,建立长期、深度的协同机制。
在基础软件领域,高校具有前沿理论和技术研究能力,企业则具备真实应用场景和工程化经验,两者缺一不可。
高校和科研院所在理论研究方面具有优势,但学术界有时并不了解市场到底需要什么,也不熟悉具体的业务场景。企业长期服务客户,更清楚实际需求以及技术落地过程中面临的问题。
将二者结合,一方面可以让高校的研究更有针对性,另一方面也能够提高企业技术和产品的实际价值。
再拿刚提到的海致科技举例,2021年,我们成立了高性能图计算院士专家工作站,将高校科研力量与企业产业实践结合起来。
2023年,双方共同推进了国产分布式图数据库AtlasGraph的研发,推动相关技术从底层基础软件向上层AI应用延伸。

推荐阅读

人形机器人进化:首先“卷”向一双手

朱松纯:中国AI产业,不要被“马斯克信仰”带偏

