海光“Agent to Token开放计算架构”发布:双芯协同驱动词元经济新发展
随着人工智能大模型在产业场景中的深度应用,Agent技术正成为连接业务需求与智能化服务的关键桥梁。作为支撑这一变革的核心要素,词元(Token)的生产效率与成本控制能力,直接决定了AI技术在真实业务场景中的落地深度与广度。近日,海光信息推出全新“Agent to Token开放计算架构”,通过芯片级协同创新为词元经济提供算力支撑,引发行业广泛关注。
该架构突破传统计算框架的局限,首次将CPU与DCU双芯协同机制引入词元生产体系。其中,海光CPU作为业务流的系统枢纽,承担数据预处理、任务调度决策、记忆体分级存储等核心功能,确保Agent能够高效处理复杂业务逻辑。与此同时,DCU专注并行计算加速,通过批量解码优化、KV缓存动态管理等技术,显著提升词元生成效率,尤其擅长处理长序列计算任务。
双芯协同机制的创新性体现在动态资源调配能力上。系统可根据Agent并发规模与任务复杂度,实时调整CPU与DCU的算力分配比例,将硬件资源精准转化为词元生产力。这种设计既避免了单一芯片的性能瓶颈,又通过开放互连协议实现了双芯间的高效数据传输,较传统架构带宽提升数倍。
在开放生态建设方面,该架构构建了多维度的技术标准体系。算力层面支持CPU与DCU的原生组合,允许用户根据业务需求灵活配置硬件资源;互连层面采用自研HSL协议,突破传统总线带宽限制;安全层面通过芯片级内生安全机制,确保词元生产全流程的可信验证;软件栈层面兼容主流AI框架,大幅降低开发者的适配成本。这种全栈开放策略,为国产加速卡与CPU的协同应用开辟了新路径。
行业分析指出,随着Agent技术在金融、医疗、制造等领域的加速渗透,词元经济正从概念验证阶段迈向规模化发展。海光此次推出的计算架构,通过硬件协同创新与生态开放策略,不仅解决了词元生产中的算力瓶颈问题,更为国产AI芯片在产业智能化浪潮中争取到关键话语权。该架构的落地应用,或将推动国内AI基础设施向更高效、更开放的方向演进。
