自主 AI 代理

1. 定義

自主 AI 代理是圍繞語言模型建構的軟體，交給它的是一個目標，而不是一套流程。你不必描述要執行的操作順序：你說明期望什麼，給它接上必要的工具，然後讓它自己想辦法抵達。

「自主」一詞容易引起誤解，最好一開始就澄清。它既不表示「不受任何控制」，也不表示「自行決定目標」。自主代理始終受限於交給它的任務、為它開放的工具，以及為它設下的界線。自主關乎路徑，從不關乎目的地。

實用的區分很簡單：想一想，當情況與預期不符時會發生什麼。傳統程式會停下，或者給出錯誤結果。代理會察覺偏差，另尋他路，找不到就回報。正是這種補救能力——而且僅僅是它——撐得起這個稱呼。

2. 代理的四個部件

代理不是單一部件，而是一個組合。抽掉其中任何一個，它就退回成一個只會回答的助理。

• 一個目標。描述要達成狀態的指令，而不是一串命令。「確保沒有任何一張發票逾期超過三十天而未催收」是目標。「寄一封電子郵件給客戶 X」是命令。
• 工具。讓它作用於世界、而不只是談論世界的東西：讀取信箱、寫入資料庫、呼叫服務、產生檔案、查閱網頁。沒有工具的模型只能產出文字，因而產出不了任何改變公司的東西。
• 一份記憶。它對自己的工作、對公司、對已經做過的事的了解。沒有記憶，它每天早上從零開始，對同一位客戶催收兩次，並忘掉昨天叮嚀過的規則。
• 一個迴圈。讓它觀察自身行動的結果、與目標對照，並決定繼續、修正還是停止的機制。這是最不起眼、也最具決定性的部件：沒有迴圈就沒有代理，只有一次稍微講究的模型呼叫。

迴圈值得再多說一句，因為它正是多數展示避而不談的部分。宣布了一個計畫隨即停下的代理，沒有閉環。執行了計畫卻從不回看產出的代理，同樣沒有閉環——它只是跑得快，也會錯得快。完整的一圈——感知、決策、行動、學習——才把模型變成一個做事的人。

3. 五個自主等級

「自主」不是開關，而是一把尺，混淆其刻度解釋了大多數失望。有的公司買的是等級 4，腦子裡想的卻是等級 2，反過來也一樣。

• 等級 1 — 建議。代理提出建議，人來執行。寫一份草稿，給一個回覆建議。沒有風險，也沒有真正省下時間：工作原封不動。
• 等級 2 — 準備。代理產出成品，人只需確認並寄出。這是起步時最划算的等級，因為錯誤在離開公司之前就看得見。
• 等級 3 — 在門檻以下行動。在宣告的額度以下自行執行，超過則請求核准。200 歐元的欠款自行催收，超過 5 000 歐元交由人工確認。這是一個調校良好的系統的巡航狀態。
• 等級 4 — 行動並交代。代理從頭到尾完成任務，並留下可回看的紀錄。適合可逆的重複性工作：歸檔、分類、保持更新、發布內部情報簡報。
• 等級 5 — 指揮其他代理。代理拆解目標、分派任務、追蹤進度並作出裁決。這個等級只有在前幾級經過檢驗之後才有意義——把它交給一個從未被量測的系統，等於把一個未知的錯誤放大許多倍。

等級不是一次定死的，而是依任務選擇的。同一個代理可以獨自催辦一份報價，卻要就折扣徵求人的同意。只能整體設定自主性的系統，逼人在無用與魯莽之間二選一。

4. 自主代理不是什麼

它不是聊天機器人。聊天機器人等一個問題、給一個答案；工作在它之後才開始，而且由人來做。代理的評判標準是現實世界裡的結果：發票寄出去了，檔案歸檔了，會面約好了。

它不是自動化腳本，也不是 RPA。自動化腳本沿著事先寫好的步驟走，遇到第一處偏差就會斷裂——一個欄位標題改了，一個畫面重繪了。代理追求的是目標，能吸收偏差。差別體現在維護成本上，而不是上線當天。

它不是副駕。副駕加快的是敲鍵盤的那個人；把人撤走，什麼也不會發生。代理在沒人盯著的時候工作——這正是它的價值所在，也正因如此，它做過的事必須可以回看。

它不是通用智慧。代理既沒有自己的意圖，也沒有做本職之外之事的欲望。擔心系統會「奪取控制權」是找錯了對象：真實、平常而頻繁的風險，是一個把措辭糟糕的指令準確執行、規模龐大、卻無人察覺的代理。

5. 什麼讓代理值得信賴

代理的可靠度極少取決於驅動它的模型，而在很大程度上取決於四道防線。三個月後放棄的公司，幾乎從來都不是模型出了問題。

• 一條宣告過的邊界。那些在執行之前必須取得人工同意的行動清單——動用資金、簽署、回覆敏感客戶、刪除。要事先宣告，而不是留給當下的判斷。
• 可執行的預算。費用在呼叫模型之前就已預留，而不是事後統計。事後核對的上限不是上限，而是一份報告。
• 一條可回看的紀錄。所追求的目標、查閱的資訊、採取的行動、結果與成本。無法回看的委派工作，終將變成沒人再信任的工作——公司會悄悄退回人工處理。
• 最小權限。每個代理只取得其任務所需的工具。一個做情報監測的代理，沒有理由擁有開立發票系統的寫入權限。

這四點不是舒適性選項：它們決定了明年能否交出更多工作。這正是治理與預算控制那一頁的主題。

6. 戳破假代理的六個問題

許多工具自稱代理，實際上只是在固定軌道上串起一次次模型呼叫。六個問題足以分辨，而且都能在展示現場提出。

• 工具失敗時它做什麼？如果就此停住，那是一條鏈路。如果換一條路再試、然後如實回報，那是代理。
• 它能把同一個步驟做兩遍嗎？真正的代理會退回去重做。軌道只會一直向前。
• 它知道自己昨天做了什麼嗎？沒有記憶，它會對同一位客戶催收兩次，並忘掉你的更正。
• 它在哪裡自行停下？如果沒有任何一項行動是它未經核准就拒絕執行的，那麼邊界並未宣告——它根本不存在。
• 這項任務花了多少錢？如果拿不到以任務計的數字，就無從判斷什麼值得交出去。
• 我能不問任何人就回看它的工作嗎？如果答案是否定的，控制就建立在信任之上，而信任撐不起規模。

實務上最快見分曉的是第六個。能夠看見做了什麼、由誰完成、花了多少錢，不是一塊擺設式儀表板：它讓人知道系統是在做事，還是只在忙碌。

7. 常見問題

延伸閱讀

延伸閱讀：什麼是代理型系統、AI 代理在企業裡究竟做什麼，或治理與預算控制。