中软国际教育科技集团开展昇腾910系列全模态大模型规模化适配验证工作

当下


AI


行业全面迈向全模态融合、自主可控国产化发展阶段，政务、工业、金融、教育、医疗等各行各业的数字化业务持续升级，单一文本或图像AI能力早已无法匹配实际业务需求，融合图文、


音频


、视频的全模态智能大模型，成为各行业数字化转型的核心刚需。

长期以来，国产化算力生态落地始终存在行业共性难题：主流开源大模型与国产算力硬件适配门槛高、统一兼容验证标准缺失、落地效果缺少权威实测参照依据，诸多痛点持续制约信创AI项目规模化推广。

作为华为昇腾深度核心合作伙伴，中软国际教育科技集团依托自身成熟的AI适配与工程落地能力，在成都、深圳分多批次开展昇腾910全系自有硬件全模态大模型规模化适配验证工作，覆盖市面主流开源大模型体系，搭建统一标准化测试基准，输出完整模型兼容评估体系、整体运行效能评估成果，打造一套具备高度复用性、可大范围推广的国产化AI行业落地标杆方案。

一、双算力硬件定位区分：

昇腾910B与910C适配场景差异

本次整体验证工作统一采用国产化


ARM


架构Atlas 800T A3超节点服务器作为硬件载体，两款算力芯片均基于同源达芬奇自研架构打造，面向不同规模、不同负载的业务场景形成清晰能力分层，适配不同企业的AI建设需求。

1、昇腾910B基础算力机型

主打中轻量化常规业务场景，适配中小型智能业务需求，能够平稳承载低并发日常智能应用。

2、昇腾910C高端增强算力机型

硬件综合能力全面升级，可承载各类超大规格融合模型、超长文本深度处理、大规模集群高并发访问场景，多卡集群协同运行损耗极低，是大型企业规模化AI平台建设的核心选择。

统一标准化测试底座环境

整套验证工作采用完全统一的底层软硬件环境，保障全部评估结果具备横向对比、行业参考价值，完整覆盖


操作系统


、昇腾底层驱动固件、多类主流推理加速引擎、开源模型生态全链路：

· 底层操作系统：国产化openEuler自研系统

· 昇腾底层驱动与配套固件：配套官方标准化适配版本

· 推理加速引擎：MindIE原生推理、vLLM-Ascend高速推理、SGLang多模态专用引擎三大主流技术路线

· 模型来源：国内开源模型社区ModelScope，完整覆盖文本、图文、语音、视频全模态技术方向

昇腾全栈推理技术架构体系

以昇腾原生推理引擎MindIE作为整体技术底座，搭建分层式完整推理架构，覆盖服务调度、模型加速套件、底层开发框架全链条，形成完整闭环的国产化AI推理技术栈：

· 推理服务层：配套第三方加速调度引擎MindIE Motor

· 模型推理套件：通用大模型加速套件、多模态专用加速套件、高速推理套件、主流开源推理适配组件

· 底层开发框架：昇思Min


dSp


ore、PyTorch、昇腾底层


CAN


N开发套件

二、昇腾 910 全系模型兼容评估体系

评估分级规则

完全适配：任意主流推理引擎均可稳定运行，满足企业生产环境商用标

条件适配：配置对应专用推理引擎可实现业务适配

评估分类维度

整体分为纯文本通用大模型、图文/语音/视频多模态融合模型两大评估板块，基于三类主流推理引擎完成全维度验证。

三、全模态模型综合运行效能实测总结

依托统一基准环境完成多维度业务效能评估，从整体吞吐承载能力、终端交互响应体验、多模态业务处理效率三大维度形成完整评估结论：

1、大模型整体吞吐承载能力

高端910C多卡集群具备极强的并发承载能力，集群横向扩展损耗极低，长文本深度处理场景资源占用均衡，可稳定支撑海量用户同时访问。

2、终端交互响应体验

日常短对话场景下，910C硬件响应速度优势显著，用户交互流畅无延迟；长文档深度推理场景中，高端机型能够大幅缩短用户等待时长，长序列文本计算是影响交互体验的核心因素。

3、多模态业务处理效率

图文识别、语音生成类业务处理速度成熟，可满足实时业务需求；AI视频生成业务处理周期有进一步提升空间，属于现阶段生态核心优化方向，后续通过算子融合、引擎迭代可实现效率大幅提升。

四、四大核心落地结论，为各行业信创AI建设提供顶层参考

1、通用文本大模型国产化适配体系成熟，全行业替代具备完整可行性

市面主流开源通用大模型均能够在昇腾硬件体系稳定落地，双主流推理引擎形成互补适配能力，绝大多数行业常规智能业务无需开展深度定制改造，政务知识库、智能客服、代码辅助开发等场景可快速完成国产化部署落地。

2、大型企业规模化AI平台优先选用昇腾910C算力方案

面超大融合模型、海量长文档处理、多用户高并发平台级业务，推荐搭建910C算力集群；中小企业轻量化智能应用、常规中小型模型部署，选用910B硬件具备更高投入产出比。

3、当前生态三类典型落地痛点，均具备标准化优化解决方案

① 部分定制化行业模型底层算子配套待优化：切换对应专用推理引擎即可化解适配障碍；

② 长文本业务硬件资源碎片化引发响应变慢：启用分页注意力优化方案可有效缓解；

③ 高阶视频生成多模态模型整体处理效率不足：超高并发视频生成类业务生态需进一步建设。

4、形成标准化全模态国产化AI落地实施流程，全行业可复用

本次多批次规模化适配工作沉淀完整标准化实施链路：模型筛选评估→整体方案规划→国产化镜像部署→全链路推理验证，教育、政企等各类行业可直接复用整套落地流程，大幅缩减企业自主适配研发周期与人力投入。

国产AI算力生态已经跨越“模型能否正常运行”的初级建设阶段，全面迈入“稳定运行、高性能承载、规模化商用交付”的全新发展周期。

中软国际教育科技集团落地的昇腾910全系全模态大模型规模化适配验证工作，填补了行业内国产算力模型兼容标准化实测体系的空白，为全行业信创AI项目建设提供权威落地参考依据与标准化实施流程。

如对测试结果感兴趣，请联系本公司获取。（黄经理：13510856993）

注：以上结论、报告均由中软国际教育科技集团自有软硬件测试平台所测得数据及行业公开资料整理汇总得出，内容仅供行业


技术交流


参考，不构成任何产品采购、技术选型、投资或决策建议或商业宣传。因测试环境、数据版本及个体差异，结论可能存在偏差，请以相关厂商或权威机构发布的最新官方相关文档为准。中软国际教育科技集团不对内容的准确性、完整性、时效性做任何明示或默示保证。读者基于本文做出的任何决策与操作，风险自行承担。本文内容可能随技术发展而更新，建议读者关注最新信息。