麦肯锡警示：AI代理执行同一任务的成本可相差30倍

2026年9月26日，麦肯锡提醒企业，代理式人工智能正在令AI支出更难预测。其关注点不是单纯的模型调用价格，而是完成一项实际工作所需的总计算成本。对于目标相同的任务，不同AI代理会采取不同处理方法，调用模型、使用工具和反复检查的次数也可能不同，成本差距最高可达到30倍。

成本差异来自执行过程

普通聊天机器人通常接收问题、处理问题并返回答案。AI代理则可能把任务拆成多个步骤，分析下一步行动，调用外部工具或业务系统，检查返回结果，修改原有方案，再继续执行，直至任务结束。每增加一个步骤，都可能增加模型调用和token消耗。因此，表面上相同的需求，不一定对应相同的资源使用量。

一篇2026年工作论文由密歇根大学、斯坦福大学、All Hands AI、Google DeepMind、Microsoft AI和MIT的研究人员参与撰写。论文发现，与用于比较的代码推理和代码对话任务相比，代理式编程任务消耗的token约高出1000倍。论文还发现，即使是同一任务，不同运行过程的总token消耗也可能相差30倍。这一结果说明，任务名称本身不足以预测代理的运行成本。

单价下降与总账单上升可以同时发生

模型推理的单位价格确实在下降。斯坦福大学2025年AI Index报告显示，在一项标准化AI知识与推理基准上，获得GPT-3.5级别表现的查询成本，从2022年11月每百万token 20美元，降至2024年10月每百万token 0.07美元，降幅超过280倍。该报告援引Epoch AI的分析称，按不同任务计算，大语言模型推理价格每年的下降幅度在9倍至900倍之间。

• 企业应关注完成一项已定义工作的总成本，而不只是模型标价或token单价。
• 代理会进行规划、工具调用、结果检查和必要的重试，因而通常比一次聊天交互消耗更多token。
• Gartner在2026年8月的分析中称，把任务路由至代理式推理模型，提供商的推理成本至少可能是基础聊天机器人交互的5倍。
• 完整核算应包括模型调用、token、计算资源、编排流程和人工监督，并与任务创造的价值进行比较。

经合组织也观察到类似趋势。其2026年7月分析估计，按质量调整后，文本到文本AI模型的价格在2024年1月至2026年4月间下降近80%。但经合组织同时指出，AI代理每项任务使用的token显著更多，并可能把模型使用强度提高若干数量级。也就是说，企业即使享受更低的每token价格，仍可能因为工作负载更复杂、使用更频繁而支付更高总额。

企业预算压力已经显现

麦肯锡所述的2026年AI调查显示，约三分之一受访组织把超过10%的技术和通信预算投入AI；60%的受访者计划在下一年增加AI支出；约五分之一表示，AI开支已经对运营成本形成压力。麦肯锡管理层将这类支出形容为变得相当具体且可见。调查反映的是受访组织的情况，不能直接视为所有企业的统一结果。

麦肯锡2026年5月的Enterprise AI FinOps调查覆盖五个行业的75名合格受访者，其中93%表示已超出AI预算。麦肯锡还引用Menlo Ventures的数据称，截至2025年底的12个月内，企业在大语言模型上的支出大约增长至原来的三倍。上述数据共同指向一个管理问题：价格下降虽然扩大了可应用AI的场景，但也可能鼓励企业把AI放进更多、更复杂的流程。

软件开发团队被视为压力尤其明显的群体。麦肯锡表示，利用代理工具自动化编程的需求特别消耗token。该机构提及的既有研究显示，在部分转型办公室任务中，代理式AI可使人工时间减少35%至40%，有些情形超过70%。不过，这些是特定任务和情境中的报告结果。企业仍需判断节省的时间、提高的产出或其他业务价值，是否足以证明计算和运营成本合理。

从token指标转向任务经济性

Coforge提出，更有意义的指标是“单位任务成本”：完成一项明确工作要花多少钱，以及该工作产生多少价值。仅用token数量衡量并不充分，因为不同模型、不同提示方式和不同代理设计会产生不同效率。相同数量的token也不一定交付相同质量的结果。对采购、技术和财务团队而言，这意味着需要把模型使用记录与可验证的任务结果联系起来。

模型选择同样会改变成本结构。封闭或专有模型，例如OpenAI的GPT、Anthropic的Claude和Google的Gemini，通常由开发商控制训练参数，并通过托管服务或API使用。权重开放模型，例如Meta的Llama、Google的Gemma以及Mistral的权重开放模型，允许组织在许可条件下下载和自行运行。权重开放并不必然意味着完全开源，训练数据、训练过程和其他组成部分仍可能未公开。

Coforge称，其客户正更多采用多模型组合：把能力要求较高的工作留给更昂贵的前沿模型，把部分工作交给成本较低的小模型或权重开放模型。该公司还称，按其经验，当消费量达到70亿token时，客户会开始考虑自行运营更多AI技术栈，而非只订阅前沿模型；这一门槛可能随权重开放模型和主权AI的发展而下降。这是Coforge的经验判断，并非适用于所有机构的通用阈值。

对中国企业而言，代理项目的预算管理需要同时覆盖云资源、模型接口、自建部署、工具集成、审查流程和人工复核。尤其在代码生成、客服流程、文档处理或内部知识检索等场景中，试点阶段的一次性演示成本并不能代表稳定运行后的月度开支。麦肯锡认为，未来12个月，如何衡量代理式AI的收益与成本将成为更关键的管理课题。企业需要把任务质量、完成率、人工介入和全流程成本放在同一张账上比较，而不能只依据更低的token报价作出判断。