稀疏计算产业化提速：墨芯人工智能通过软硬件协同重塑AI算力效率

电子发烧友网报道（文/黄山明）当下


AI


算力需求呈指数级增长，而


半导体


硬件工艺迭代速度逐步放缓，行业算力发展面临效率不足、成本偏高的双重难题。作为稀疏计算技术领域的标杆企业，墨芯


人工智能


依托全维度软硬件协同设计，走出了一条差异化发展路径。在近期的ICDIA上，墨芯人工智能副总裁郭威俊接受了电子发烧友网采访，详细分享了墨芯在稀疏计算领域的技术优势与商业化进展。

全栈技术创新，打造稀疏计算核心优势





区别于单纯堆砌硬件规格的思路，墨芯聚焦提升现有硬件资源利用效率。郭威俊强调，稀疏不仅是一个数学名词，郭威俊表示：“稀疏本身是一套生产工具。”整个芯片在设计层、调度层以及稀疏计算单元都要做专门调整。他指出：“我们的芯片里面有一个单独的芯片区域叫SPU，这个东西在国内在芯片架构领域独一无二的，它是为了稀疏整个算子单独做了一个区域去做稀疏加速的。”




在硬件层面，墨芯自研Antoum系列芯片原生适配稀疏张量运算；在生态层面，自研专属编译器与优化工具链，主流Transformer大模型可快速适配部署。墨芯S30计算卡连续三届斩获MLPe


rf


Inference国际基准测试冠军，针对60亿参数GPT-J大模型推理场景，单卡及多卡集群算力均位居行业首位。




针对外界对稀疏计算与存算一体、模型蒸馏的区别疑问，郭威俊明确回应：“墨芯完完全全不是存算一体的架构，也不是把应用层临时做几个神经单元剪枝的技术。”他强调，墨芯做的是结构化软硬协同一体化的系统工程，通过预埋在芯片架构中的动态缓存重新分配，跳过无效乘加和不必要的数据搬运。





规模化落地与产学研深耕





目前墨芯已进入全国多区域千卡集群规模化部署阶段。西北区域落地大型推理集群服务工业场景；西南打造低碳算力；华东赋能医疗生信；华北支撑城市智慧治理。郭威俊以一个安防项目为例分享了稀疏计算的性价比优势，郭威俊表示：“大概100多张卡能从整体的TCU上面来讲，大概能够等于原来他们在做三四百张卡的ROI”。




为加速产业化，墨芯正与高校深化产学研合作。郭威俊透露，墨芯与清华大学及西安交通大学应用数学系进行了矩阵级的稀疏合作。他解释道，稀疏在矩阵层上面是一个应用数学问题，未来希望将稀疏训练前移至基模训练阶段，与国内大模型公司产生深入合作。


面向未来的产品规划




资金方面，郭威俊透露，墨芯目前官宣的是C2轮融资，融资进度非常好，且国内押注稀疏赛道的公司只此一家。




面对国际巨头压力及制程限制，墨芯将推出新一代SP 200芯片。郭威俊表示：“我们的SP 200，我们新一代的产品上，我们认为目前已经做了从产业到目前制程工艺的标准上最大化的一款芯片的平衡。”该芯片预计今年年底到明年Q1批量进入市场，郭威俊充满信心地表示：“我们的芯片应该会在今年的年底，到明年Q1会批量化进入到市场，成为第一款支持完全半结构化动静态稀疏的加速卡。”




他同时强调，“我们有信心这张卡在未来上市之后能够挤进国内现有的推理卡的前5。”





结


语





AI产业已从规模扩张转向效能优先，算力竞争核心升级为资源利用效率的比拼。墨芯凭借全栈稀疏化创新与软硬件协同优势，打破传统算力发展瓶颈，将持续为AI基础设施降本增效提供核心支撑。