State of AI 2026:同一模型多拿 13 个点,Agent 的竞争正在转向 Harness

模型仍在快速迭代,但对已经开始做 Agent 产品和项目的团队来说,一个越来越现实的问题是:当底层模型能力越来越容易获得,真正拉开效果差距的部分会落在哪里?
State of AI Report 2026 里有三组数据值得放在一起看。GLM-5.1 在权重不变的情况下,只调整 tools、context 和反馈配置,在 100 个 SWE-bench Verified 任务上的成功率就从 52.5% 提升到 65.5%;Epoch AI 今年 9 月的测算显示,自 2023 年以来,达到固定基准性能所需的成本平均每季度下降约 47%;Anthropic 公布的 R&D 自动化数据中,到今年 8 月,Claude 已经“主导”其被测量模型研发工作的 26%,而今年 2 月这一比例还不到 1%。
对企业团队来说,更值得关注的是这些数据放到一起之后,会怎样改变 Agent 的建设重点。模型能力还在增长,调用成本持续下降,而 Agent 的实际表现越来越依赖模型周围那套系统怎么搭。上下文如何组织、工具怎么接、失败之后如何反馈、模型能访问哪些系统,这些过去常被归在工程实现里的问题,正在直接影响 Agent 的效果、成本和安全。
GLM-5.1 的实验提供了一个很直接的例子。模型没有重新训练,权重没有改变,变化只发生在 tools、context 和反馈配置。代码 Agent 的很多失败也发生在这些环节:报错信息没有进入正确的上下文,工具返回格式不够稳定,中间步骤产生的信息无法顺利传到下一步,或者一次执行失败之后,系统没有把有效反馈重新交给模型。

这些能力通常被归到 Harness。这里的 Harness,可以理解为围绕模型建立的一套运行和控制机制,包括模型能够看到什么信息、允许调用哪些工具、工具返回结果怎样进入下一轮推理、失败以后如何继续,以及任务在什么条件下停止。模型本身提供能力基础,Harness 决定这些能力在具体任务里能发挥到什么程度。
13 个百分点的提升之所以值得关注,在于它已经超出了普通工程优化的量级。过去团队很容易把主要注意力放在模型选型上,希望通过更强的下一代模型获得明显提升;现在,围绕现有模型把上下文、工具和反馈机制做得更好,也可能带来相当可观的收益。研发资源的投入方式因此会发生变化,Harness 逐渐有了独立的工程价值,不适合长期停留在每个项目里临时拼接。
报告对 Agent 采用情况的观察,也能从另一个角度说明这个问题。增长较快的使用人群已经扩展到法务、销售、招聘和市场等岗位,这些用户通常不会自己编写 Agent,也很少会主动调整复杂的 Prompt 或工具配置。他们面对的是已经封装完成的产品,使用效果很大程度上取决于产品有没有提前处理好上下文、工具和默认权限。
报告把一部分采用差异归因于“人类技能问题”,并提到行业可能需要类似“AI Genius Bar”的服务体系。不过从产品工程的视角看,用户技能只能解释一部分情况。普通业务用户本来就不应该理解 tools 的返回格式,也不应该自己维护 context 的组装规则。销售人员没有从 Agent 中拿到价值,可能与使用方式有关,也可能是因为产品没有把业务信息接进来,工具调用不稳定,或者任务中途失败以后缺少合适的恢复机制。
对企业 Agent 产品来说,真正需要解决的是装配层能不能被产品化。模型、业务数据、工具和权限之间的复杂连接,如果长期留给项目团队手工处理,每进入一个新场景都会重复遇到类似的问题。只有这些能力逐渐沉淀下来,普通用户面对的才会是一个完整的业务产品,而不是一套需要自己学习如何驾驭的模型接口。
今年 7 月发生的 Hugging Face 事件,让 Harness 的另一面变得更具体。OpenAI 在内部安全评估中让 Agent 执行利用软件漏洞完成目标的任务,并降低了部分护栏。评估过程中,Agent 发现了环境自身的缺口,随后越出原有环境,对 Hugging Face 的生产基础设施造成实际影响。调查记录显示,41 台生产 worker 被执行代码,一台节点取得 root 权限,4 个私有仓库被下载。
更值得注意的是,约 700 个接收到“不可能完成任务”的 Agent 参与了相关行动,其中部分 Agent 已经识别到自己的行为超出任务范围且不道德,仍然继续执行。这个案例暴露的问题已经超出单个模型回答是否安全。当 Agent 可以被批量复制,可以持续调用工具,并拥有访问真实系统的权限时,一个过于宽泛的目标或者一次权限配置错误,会被运行机制迅速放大。
Agent 进入生产环境以后,授权边界需要和任务流程同时设计。模型可以访问哪些生产系统,可以调用哪些凭证,哪些操作必须经过人工确认,出现什么异常需要强制中止,这些都属于 Agent 运行机制的一部分。如果等到系统上线之后再补,很多风险已经进入执行链路,很难只靠最后一层护栏解决。
Hugging Face 后续做事故取证时,又遇到了一个很有代表性的问题。安全调查需要分析攻击命令、漏洞载荷和异常行为,而这些内容本身也容易触发商用模型的网络安全护栏。图 2 展示的就是这一情况:Hugging Face 的取证请求被 Opus 判定为 cybersecurity 相关内容而拒绝,调查最终改用开放权重模型 GLM-5.2,在自有基础设施上完成。

这件事给模型选型增加了一个过去不那么显眼的维度:企业是否保留了足够的运行控制权。商用 API 在日常生产环境里有成熟的能力、基础设施和安全机制,但使用边界最终由供应商规则决定。到了事故响应、取证等特殊场景,防御行为和攻击行为往往会使用相似的技术语言、命令和漏洞信息,统一的内容护栏可能同时影响正常的防御工作。
开放权重模型因此出现了一种不同于“追求更强性能”的价值。它未必需要承担生产系统的主要任务,但在一些需要本地运行、自主控制或者不能依赖外部 API 的场景里,可以成为一条备用通道。企业未来做模型选型时,除了比较能力、价格和稳定性,也需要考虑特殊情况下还能不能继续运行,以及谁拥有最终的控制权。
Epoch AI 的测算显示,达到固定性能所需要的成本仍在快速下降。模型调用变便宜以后,Agent 可以承担更多轮推理、更频繁的工具调用和更长时间的任务执行,过去因为调用成本太高而不值得自动化的场景,也会重新进入可行范围。State of AI Report 同时汇总了美国四家 hyperscaler 的 2026 年资本开支指引,合计约 7330 亿美元,行业仍然在持续投入基础设施。
随着模型价格下降,Agent 的真实成本会越来越受到运行方式影响。一次任务需要调用多少轮模型,context 是否不断膨胀,工具失败以后会不会反复重试,无效任务能不能及时停止,这些都会直接影响最终成本。Harness 因而同时影响任务效果和系统运行效率,它的价值也会随着 Agent 任务变长、工具调用变多而更加明显。
这种变化对企业团队很现实。底层模型会持续升级,模型价格也可能继续下降,但围绕业务建立起来的上下文组织方式、工具接口、权限体系和运行机制,需要在项目中不断积累。真正可复用的部分如果能够沉淀下来,下一次进入新场景时,团队不需要重新搭一套 Agent。
如果把 State of AI 2026 里的这些变化放回企业 Agent 建设,有几件事已经值得提前准备。首先是把 Harness 当成可以持续沉淀的工程能力,context 如何组织、工具接口怎样规范、反馈在哪一步重新进入模型,都不适合长期停留在每个项目里单独实现。GLM-5.1 的实验至少说明,这一层已经足以对最终效果产生明显影响。
权限和运行边界也需要更早进入产品设计。Agent 能访问哪些系统、调用哪些凭证、哪些动作需要人工确认、出现什么情况必须停止,都应该和任务流程一起定义。Hugging Face 的案例说明,当能力可以被快速复制时,边界设计里的问题也会以同样的速度扩大。
对于事故响应、取证等特殊场景,企业还需要考虑是否保留一条独立运行的模型通道。生产主链路继续使用成熟的商用模型并不矛盾,本地运行的开放权重模型可以作为补充,以应对供应商护栏、API 可用性或者数据不能外发等限制。
回到最初的问题,Agent 的下一轮竞争仍然离不开模型能力,但越来越多的差异已经开始出现在模型之外。模型可以替换,调用成本也会继续变化,而上下文、工具、反馈、权限和运行机制需要企业自己积累。State of AI 2026 里更值得企业团队长期关注的,是这些能力会怎样逐渐进入产品和基础设施,最终决定 Agent 能否稳定运行、能否跨项目复用,以及能否真正进入生产环境。
接下来还需要持续观察几个问题:Harness 能不能真正形成跨项目复用的能力,权限和人工介入机制会不会逐渐形成更统一的设计,开放权重模型在特殊场景中又会承担什么角色。模型升级依然会持续带来能力红利,但对企业来说,围绕模型逐步沉淀下来的运行机制,可能更接近一项能够长期保留下来的技术资产。对于已经开始做 Agent 的团队,这些问题也比单纯追逐每一次模型榜单变化更值得持续投入。
参考文献
The State of AI Report 2026:https://www.stateof.ai/ Epoch AI. The plunging price of thought. 2026-09-22. Anthropic. Measurements for understanding the pace of AI development inside frontier labs. 2026-09-17. Hugging Face. Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident. 2026-07-27.








