字节跳动与清华AIR携手：CUDA Agent助力大模型编写超速GPU内核

字节跳动旗下Seed团队与清华大学智能产业研究院（AIR）联合宣布，推出面向GPU内核优化的智能体强化学习系统CUDA Agent。该系统通过将大型语言模型深度融入CUDA开发环境，实现了底层代码生成效率的突破性提升，为AI基础设施优化提供了全新解决方案。

传统大模型在生成CUDA代码时面临效率瓶颈。以KernelBench基准测试数据为例，基础模型Seed1.6虽能完成74.0%的任务，但仅有27.2%的生成内核运行速度优于torch.compile编译器，整体几何平均速度甚至落后于传统编译方案。这种"语法正确但性能不足"的矛盾，制约了AI在底层代码优化领域的应用潜力。

研发团队构建了包含性能分析工具、正确性验证模块和安全沙盒的闭环训练环境。通过近端策略优化（PPO）算法实施150步深度强化训练，CUDA Agent在250项基准测试中取得显著突破：任务通过率跃升至98.8%，其中96.8%的生成内核运行速度超越torch.compile，平均加速比达到传统方案的1.8倍。这种性能跃升源于系统对内存访问模式、线程调度策略等底层细节的精准优化能力。

在技术开放方面，研究团队已发布包含6000个优化样本的CUDA-Agent-Ops-6K数据集，同步公开SKILL.md技术规范及训练配方文档。虽然完整模型权重暂未开源，但开放的组件已覆盖从数据构建到奖励函数设计的完整技术链条，为开发者提供了可复现的研究框架。该成果在自动驾驶实时感知、量化交易低延迟策略等对响应速度要求严苛的场景中具有直接应用价值，相关技术正在与多家行业头部企业开展联合验证。