麥肯錫示警：代理式 AI 同一任務成本可相差 30 倍

2026 年 9 月 26 日，麥肯錫提醒企業，代理式 AI 的成本正成為比模型定價更難管理的問題。同一項工作目標，代理系統可能採取不同的拆解、推理、工具呼叫與修正路徑，因而產生顯著不同的 token 與運算消耗；麥肯錫所引述的情況顯示，成本差異最高可達 30 倍。

這項警告的核心不是 AI 單價必然上升，而是企業實際買到的「完成工作成本」更不容易預測。過去以聊天機器人為主的使用情境，通常是一次提問、一次回應；代理式 AI 則可能規劃步驟、連接外部工具或系統、檢查中間結果、修正方案，再持續執行到任務結束。每增加一個環節，都可能增加模型呼叫與 token 使用。

便宜的 token，不等於便宜的工作流程

每 token 的模型價格確實持續下降。史丹佛 2025 年 AI Index 引述 Epoch AI 的分析指出，達到 GPT-3.5 等級表現的標準知識與推理查詢，價格從 2022 年 11 月每百萬 token 20 美元，降至 2024 年 10 月的 0.07 美元，約下降超過 280 倍。OECD 的 2026 年 7 月分析也估計，經品質調整後的文字對文字 AI 模型價格，在 2024 年 1 月至 2026 年 4 月間下降近八成。

但價格下降同時擴大了使用量。Coforge 在一次高階主管簡報中表示，在此前七個月內，取得同等 AI 智慧所需 token 的單位成本約降 100 倍，token 消耗量卻增加約 8,000 倍。這是企業總支出可能成長的原因之一：較低門檻讓更多工作被交給模型，而較複雜的流程又使每件工作消耗更多運算資源。

• 以「每件完成任務的成本」取代只看每 token 價格。
• 分別追蹤模型呼叫、工具使用、運算資源與人工覆核。
• 為高成本代理流程設定預算、用量與例外警示。
• 依任務難度配置不同模型，而非一律使用最高能力模型。

程式開發是成本壓力較明顯的場景

麥肯錫特別點名軟體開發團隊。以代理工具自動化撰寫程式的需求，往往需要大量 token，成本壓力因而更清楚。代理不只生成一段程式碼，也可能讀取程式庫、規劃修改、執行測試、分析錯誤後重試。這些迭代若缺乏限制，即使單次呼叫看似便宜，累積帳單仍可能與最初估算相差很大。

一篇由密西根大學、史丹佛大學、All Hands AI、Google DeepMind、Microsoft AI 與 MIT 研究人員共同發表的 2026 年工作論文，將代理式程式設計任務與程式推理及程式聊天任務比較後發現，前者約消耗 1,000 倍 token。該研究也發現，即使執行同一任務，不同執行結果的總 token 消耗可相差最多 30 倍。這與麥肯錫所提出的成本變異風險相呼應。

預算超支已成企業管理問題

麥肯錫 2026 年 AI 調查顯示，約三分之一受訪組織把超過一成的科技與通訊預算投入 AI，60% 受訪者計畫在下一年增加 AI 支出；約五分之一表示，AI 開支已對營運成本造成壓力。另一項麥肯錫於 2026 年 5 月進行、涵蓋五個產業 75 名合格受訪者的企業 AI FinOps 調查，則有 93% 受訪者表示 AI 預算已經超支。

這些調查不代表所有企業都會出現同樣幅度的超支，也不能直接推論個別導入案的投資報酬率。不過，調查反映的共同現象是：企業從試驗與簡單對話應用，轉向可完成多步驟工作的系統後，財務治理需要跟上。麥肯錫認為，未來 12 個月內，如何量測代理式 AI 的效益與成本，將成為更關鍵的管理課題。

衡量重點應放在產出與價值

Coforge 主張，token 數量本身不是評估 AI 經濟性的正確終點，更有意義的是「每單位任務成本」：完成一項明確工作花了多少，以及該工作創造多少價值。這項計算應包括模型呼叫、token、運算資源、流程編排與人工監督，而不是只比較 API 標價。Gartner 也將此現象稱為「推論悖論」：代理式推理模型的供應商推論成本，可能至少是基本聊天互動的五倍，且複雜度提高時常更高。

Gartner 在 2026 年 8 月的分析中預測，到 2028 年，每個代理式工作流程的推論成本將增加超過五倍。這是預測而非既成結果，實際成本仍會受模型選擇、任務設計、重試次數、工具連接與治理機制影響。企業若只因模型單價下降而擴大部署，卻不觀察完整流程，可能難以及早辨認成本主要來自何處。

混合模型策略可能改變帳單結構

開放權重模型的普及，為成本管理提供另一種選項。這類模型可在授權條件下供組織下載及自行運行，但不必然等同完整開源；其訓練資料、訓練流程或其他組成部分仍可能未公開。Coforge 表示，觀察到的平台中，開放權重模型占 token 消耗量約 35%，高於 2025 年初約 11% 至 12% 的水準。

對台灣企業而言，重點不在追逐單一模型或單一代理產品，而是在採購與內部治理中建立可比較的任務指標。可先把程式輔助、文件處理、客服支援等流程拆成可驗證的工作單位，再同時記錄品質、完成時間、人工介入與總成本。當 AI 支出逐漸成為可見的營運項目，能否用完成任務的成本與實際價值管理代理流程，將比單看 token 報價更具參考性。