Anthropic探索“AI训练AI”路径：效率提升成本降低 潜力与挑战并存

用人工智能系统训练其他人工智能模型，正成为科技领域的前沿探索方向。近日，一家知名AI研究机构公布了一项突破性进展，其研发的自动化系统在提升模型对齐能力方面展现出显著优势。

该机构发布的最新研究论文详细阐述了自动化对齐系统的运作机制。研究团队针对十种典型模型失调行为设计了专项测试，结果显示自动化系统使所有测试指标均获得改善，且未影响模型整体性能。这项成果为解决AI对齐难题提供了全新思路。

系统开发团队负责人介绍，这套自动化研究框架模拟了传统科研流程。系统首先会自主检索相关文献，生成训练方案后进行30分钟模型训练，通过多轮迭代优化测试成绩。有效方案会被保留并进一步优化，无效方案则自动淘汰，这种机制使研究效率呈指数级提升。

实验数据显示，自动化系统在效率与成本方面具有压倒性优势。最优自动化方案平均仅需6小时即可超越人类专家提出的解决方案，且每小时运行成本仅约4美元。与之形成鲜明对比的是，人类研究人员的时薪高达150美元，成本差距超过30倍。

这项研究被视为向递归自我改进迈出的重要一步。当AI系统能够自主优化对齐训练方法时，理论上就具备了改进更广泛训练流程的潜力。这种自我进化能力可能引发AI研发模式的根本性变革，甚至使人类研究人员的作用逐渐弱化。

尽管取得突破，研究团队也指出当前技术存在明显局限。自动化系统的有效性高度依赖基准测试的准确性，而建立和维护这些测试标准需要持续投入大量资源。系统依赖的研究文献库也需要不断更新扩充，否则可能影响训练效果。