Agentic AI的成本与价值管理

访谈者:Lari Hämäläinen(McKinsey 高级合伙人)
受访者:David Tepper(Pay-i CEO、联合创始人)
发布时间:2026 年 7 月 8 日
分析归纳声明: 本分析忠于访谈的核心观点、案例和数据进行主线化整理与概念解释。除特别注明的访谈观点和研究数据外,文中的核算关系、决策分类和治理框架,是为呈现原材料内在逻辑所作的分析性归纳,不代表McKinsey或受访者提出了完全相同的管理框架。
生成式AI早期以能力接入、应用试验和部署覆盖为主,项目规模有限,费用也可以归入创新预算;进入客服、研发和运营等生产场景后,智能体开始连续读取资料、调用模型和工具,并根据中间结果决定下一步,单项任务由此产生持续费用,错误还可能引发返工、赔付或系统恢复。企业对智能体的管理重心随之从技术可用性转向经营价值。
现有指标能够记录模型单价、token、调用次数、响应时间和最终答案质量,却无法直接说明业务结果。token能反映资源消耗账单,但智能体带来的价值必须通过完成业务工作才能确认。当下的模型单价虽然在持续下降,但不会自动带来任务成本下降,因为企业在持续增加任务难度和执行范围,单项任务使用的模型、资料、工具和重试次数会同步增长。据此,企业需要把主要管理单位转向“成功完成的业务任务”,在同一任务边界内比较业务改善、模型和工具费用、人工核验、返工及失败影响。
在真实业务中,结果的可核验性和错误的可逆性决定一项任务适合由智能体参与到什么程度;项目是否值得继续投入,还要结合业务基线和完整成本判断。这两项判断都需要任务目标、执行过程、人工介入、费用和最终结果等持续证据,因此企业需要通过可观测性把相关信息连接到同一业务任务,并通过治理将责任、权限、预算、审批及停止条件落实到系统运行中。由此形成的证据和约束支持企业作出扩大、优化、继续验证或停止的决定。
高价值智能体扩大使用后,企业对AI资源的要求会从“能够调用”转向“稳定可用”。当共享按量资源无法继续稳定承接业务时,企业通常需要购买预留容量,提前承诺费用以换取确定的处理能力,部分AI支出由此转为固定承诺。如果各业务仍按照自身峰值分别采购,容易形成闲置和重复投入,企业需要汇总跨业务需求,统一安排容量和业务优先级。最终,业务、财务和技术团队应建立周期性经营机制,持续复审任务价值、模型选择和容量安排,并据此调整项目状态、预算与资源。
生成式AI投入具有鲜明的消耗型经济特征。传统SaaS通常按照账号、席位或订阅收费,新增用户带来的边际成本增长相对缓慢;生成式AI则从第一次调用开始消耗计算资源,智能体每执行一次任务,就会继续调用搜索、数据库和其他业务系统。随着业务量增长,成本会沿着任务执行过程持续累积,项目规模化也会同时放大有效产出与无效消耗。
David Tepper在微软负责内部生成式AI消费时,一些部门每天支出约25万美元,却仍然使用Excel记录资源。他通过调整使用方式,每周节省约30万美元。这项个人经历无法代表行业水平,但它说明模型定价只是支出的一部分,任务设计、调用方式和资源配置同样会改变最终账单。企业如果只关注供应商价格,往往无法解释成本为什么增长,也无法判断支出是否合理。
当办公助手、客服机器人、代码助手和业务部门试点分散运行时,单个项目中的成本解释困难会扩大为组织级管理问题,形成访谈所说的“智能体蔓延”。中央管理团队可能已经看到账单增长,却没有掌握智能体总量、责任归属和业务产出;工程团队缺少价值证据,难以扩大有效项目或及时停止失败项目。当下CIO和CFO面对的核心问题逐渐聚焦到智能体的投入证明,企业需要一套能够连接AI消耗与业务结果的共同口径。
模型单价、token、调用量和失败率主要说明系统使用了多少资源、运行是否稳定,企业还需要结合业务结果判断这些投入是否有效。账单相同并不代表产出相同,例如缩短工单处理时间的支出和生成未被采用内容的支出,在资源指标上可能没有明显区别。模型降价与任务降本之间因此没有必然联系。模型降价降低的是单项资源价格,如果一项任务需要读取更多资料、增加模型和工具调用,或者经历多次检查与重试,累计消耗仍会推高完成任务的总成本。
任务成本的波动程度常取决于系统对执行路径拥有多大自主权,因此企业需要先区分实际运行的是Workflow、Pipeline还是Agent。Workflow(工作流)在固定业务流程中加入生成式AI步骤,执行路径基本由既有规则决定。Pipeline(流水线)按照预设顺序连续调用模型或工具,调用次数通常可以预估。Agent(智能体)获得目标和使用边界后,可以在运行中自行安排步骤与调用顺序,同类任务可能走出不同路径,费用和结果也会随之波动。这三类系统的自主程度不同,适用的成本边界和评估方法也需要相应调整。
执行路径的变化也限制了最终答案评分。智能体可能在中间步骤出现错误,最后生成一个表面合理的答案,过多重试也可能换来正确结果,却让成本失去合理性。业务结果、完整执行过程和成本需要结合起来理解,成功与失败任务都应保留可追溯记录。
资源消耗、执行过程和业务结果分散在不同指标中,企业需要用一个共同边界把这些信息连接起来,这个边界就是“成功完成的业务任务”。业务任务应有明确起点、完成条件和责任人,例如解决一张客户工单、完成一次合格的代码修改,或者形成一份通过审核并被采用的报告。以任务为边界,模型和工具成本、人工投入、失败影响与业务结果才能进入同一笔账,企业也才能比较智能体与人工或原有流程的真实差异。
一项任务能够由智能体执行,并不直接说明它适合自动完成。任务适配主要取决于两个条件:结果能否用较低成本核验,错误发生后能否撤回或丢弃。草稿和候选方案这类任务通常容易检查,失败结果也不会改变外部环境;客户退款和业务系统变更这类任务一旦出错,则可能带来赔付、合规或恢复成本。任务的风险边界由此决定智能体可以参与到什么程度。
访谈给出了一项简化判断:当智能体成功概率高于“人工核验时间与人工完成时间之比”时,使用智能体可能节省总体人工时间。假设人工完成一项任务需要两小时,检查智能体结果只需六分钟;在失败可以直接丢弃的前提下,成功率超过5%就可能带来时间收益(这个数字只用于说明任务适配规律,无法作为普遍的成功率标准)。
前述简化判断只适用于人工能够快速识别错误、失败不会改变外部环境的任务。智能体一旦开始影响客户、资金或业务系统,错误便会引发核验、返工和恢复等额外负担,访谈将这部分因智能体自主执行而增加的成本称为“智能体代理成本”。企业此时需要从判断“是否节省人工时间”进一步转向分析整项任务的经济性:业务KPI与上线前基线用于确认智能体带来的改善,模型和工具费用、人工投入及失败损失共同构成完整成本,ROI由业务改善与完整成本计算得出。没有业务基线,智能体的贡献会与同期流程变化混在一起,投资回报也就缺少可靠的归因基础。
完整的任务经济性分析需要确认收益是否真正实现,并计算为获得收益支付的全部成本。员工少花半小时,只能说明潜在产能得到释放;节省的时间转化为更多业务处理量、更短周期、更好服务或实际成本变化后,才能计入已实现价值。模型选择也应按照同一口径判断。高能力模型虽然单价更高,但成功率提升和核验减少可能降低完成一项合格任务的总成本,因此模型单价不能单独决定投资选择。
企业综合任务适配性、业务改善、完整成本和失败风险后,可以将项目划分为四种管理状态:1)价值证据充分且风险可控的项目可以扩大投入;2)已经产生价值但人工介入或成本偏高的项目继续优化;3)证据不足的项目维持小规模验证;4)长期没有增量价值或风险过高的项目停止。四种状态把评估结果转化为资源配置决定,也为后续可观测性和治理明确了管理目标。
智能体可观测性的核心,是把一项业务任务的目标、执行步骤、模型和工具使用、人工介入、费用及最终结果连接起来。传统技术日志通常说明系统是否运行,可观测数据还要能支持业务层面的追溯,使企业能够定位成败原因和费用来源,并判断结果是否进入真实业务流程。
可观测性把分散的信息连接起来,首先解决了执行过程难以追溯的问题,使企业能够看到智能体采取了哪些步骤、成本在哪里产生,以及问题出在哪个环节。这些记录构成价值评估的过程证据,但要确认投入是否真正改善了业务,还需要将任务结果与人工或原有流程的基线进行比较。模型、提示词或工具发生变化后,企业还需使用代表性任务重新验证已经取得的改善能否继续成立。为了提高评估的可靠性,大模型自动评分可以辅助检查最终文本,完整执行过程与人工判断用于分析中间行为和规则难以覆盖的风险。结果、过程、成本和基线在同一任务边界内相互印证,才能构成可靠的任务级评估。
智能体治理是指将评估结果转化为系统规则。企业需要明确业务结果责任和数据工具的访问边界,并在运行中设置预算、人工审批、停止及转人工条件;模型升级后,相关任务也要重新评测。可观测数据为治理提供依据,治理规则则控制智能体在真实业务中的行动范围。这套能力可以在现有日志、成本和业务数据基础上逐步建立,无须以采购新平台作为起点。
经过价值验证并准备扩大投入的智能体,会进入容量管理阶段。容量表示企业在一定时间内能够稳定获得的AI处理能力。试点规模较小时,共享按量资源通常足以支撑运行;智能体进入关键业务后,任务量和并发需求增长,企业需要开始关注现有资源能否持续满足业务所需的响应速度和稳定性。
共享资源接近处理上限后,系统对新增负载会变得更加敏感,原本可以正常运行的服务可能在一个新团队或智能体上线后突然出现排队、超时和失败。性能在临界点附近发生的明显变化就是“容量悬崖”,它表明现有共享资源已经难以稳定支撑业务增长。Pay-i观察到,一些客户在单一供应商、单一模型年支出接近300万美元时进入这一阶段(该数字仅反映部分客户经验,实际拐点还会受到任务结构、业务高峰和合同条件影响)。
当共享资源无法稳定支撑关键业务时,企业通常需要购买预留容量,即提前承诺一部分费用,以换取较为稳定的处理能力。由此,原本随实际用量变化的支出中增加了固定承诺;资源没有充分使用时,企业仍需承担相应费用。如果每个业务都按照自身可能出现的最高需求单独采购,而各业务的高峰并未同时发生,分散采购的总容量就会超过全公司的实际需要。容量组合管理通过汇总不同业务的负载规律来减少这类浪费:持续、稳定的需求由预留资源承接,短期高峰继续使用按量资源,资源紧张时优先保障关键业务。
预留容量可能与特定供应商、模型或合同周期绑定,因此长期资源承诺也会影响企业更换模型的灵活性。新模型上线后,即使任务成功率和运行成本更有优势,已经购买的容量仍可能继续产生费用。模型与容量因此需要围绕业务任务统一决策,在保障关键业务资源的同时保留调整模型的空间。容量由此进入投资配置范围,并自然连接到周期性复审机制。
模型能力、供应商价格、业务量和失败风险一直在变化,比如一个本季度值得扩大的智能体到了下一季度可能需要重新判断。智能体价值管理因此需要从上线审批延伸到持续经营,由业务、财务和技术团队共同参与。相关管理行动可以归入三个层次。
1. 管理基础层:首先盘点智能体并拆分业务场景,在上线前确定量化结果,同时明确业务负责人和测量体系责任人。这一层解决管理对象、成功标准和责任归属问题,为后续比较建立统一入口。 2. 任务测量层:把账单与执行过程、成本、耗时和业务结果连接起来,使技术运行数据能够进入业务判断。测量范围可以从结果清楚的重点场景开始,再将已经验证的任务定义和成本口径推广到其他项目。 3. 持续经营层:统一管理容量和模型,使用同一组业务任务定期比较新旧方案,并由业务、财务和技术组成联合机制。业务团队负责确认结果,技术团队保证系统可测、可控,财务团队统一完整成本口径。三方以同一任务和同一业务结果为依据开展季度复审,再根据评估结果调整项目状态、预算和资源安排。
这套机制最终服务于项目取舍与资源配置。模型、token和智能体数量用于解释投入,投资方向则取决于成功完成的业务任务及其增量价值、完整成本和失败风险。企业需要以任务级证据持续筛选高价值场景、配置智能产能,并将失败影响控制在可接受范围内。静态的智能体清单无法承担这项工作。
[McKinsey Quarterly, Cost versus value: Managing agentic AI system performance](https://www.mckinsey.com/capabilities/quantumblack/our-insights/cost-versus-value-managing-agentic-ai-system-performance),2026年7月8日。
本文为访谈材料的主线化分析。David Tepper的观点不代表McKinsey立场;约25万美元日支出、每周节省约30万美元和约300万美元容量拐点等,主要属于个人经历或客户观察,不应直接作为行业基准。 Pay-i提供AI可观测性、成本管理和ROI管理产品。访谈关于可观测性和管理平台的判断具有相应商业背景,不意味着企业必须采购特定产品。








