自主 AI 智能体

1. 定义

自主 AI 智能体是围绕语言模型构建的软件，交给它的是一个目标，而不是一套流程。你不必描述要执行的操作顺序：你说明期望什么，给它接入必要的工具，然后让它自己想办法抵达。

「自主」一词容易引起误解，最好一开始就澄清。它既不表示「不受任何控制」，也不表示「自行决定目标」。自主智能体始终受限于交给它的使命、为它开放的工具，以及为它设定的边界。自主关乎路径，从不关乎目的地。

实用的区分很简单：想一想，当情况与预期不符时会发生什么。传统程序会停下，或者给出错误结果。智能体会察觉偏差，另寻他路，找不到就上报。正是这种补救能力——而且仅仅是它——支撑得起这个称呼。

2. 智能体的四个部件

智能体不是单一部件，而是一个组合。抽掉其中任何一个，它就退回成一个只会回答的助手。

• 一个目标。描述要达成状态的指令，而不是一串命令。「确保没有任何一张发票逾期超过三十天而未催收」是目标。「给客户 X 发一封邮件」是命令。
• 工具。让它作用于世界、而不只是谈论世界的东西：读取邮箱、写入数据库、调用服务、生成文件、查阅网页。没有工具的模型只能产出文字，因而产出不了任何改变公司的东西。
• 一份记忆。它对自己的工作、对公司、对已经做过的事的了解。没有记忆，它每天早上从零开始，对同一个客户催收两次，并忘掉昨天叮嘱过的规则。
• 一个循环。让它观察自身行动的结果、与目标比对、并决定继续、纠正还是停止的机制。这是最不起眼、也最具决定性的部件：没有循环就没有智能体，只有一次稍显讲究的模型调用。

循环值得再多说一句，因为它正是多数演示避而不谈的部分。宣布了一个计划随即停下的智能体，没有闭环。执行了计划却从不回看产出的智能体，同样没有闭环——它只是跑得快，也会错得快。完整的一圈——感知、决策、行动、学习——才把模型变成一个干活的人。

3. 五个自主等级

「自主」不是开关，而是一把标尺，混淆其刻度解释了大多数失望。有的公司买的是等级 4，脑子里想的却是等级 2，反过来也一样。

• 等级 1 — 建议。智能体提出建议，人来执行。写一份草稿，给一个答复建议。没有风险，也没有真正省下时间：工作原封不动。
• 等级 2 — 准备。智能体产出成品，人只需确认并发出。这是起步时最划算的等级，因为错误在离开公司之前就看得见。
• 等级 3 — 在阈值以下行动。在声明的限额以下自行执行，超过则请求批准。200 欧元的欠款自行催收，超过 5 000 欧元交由人工确认。这是一个调校良好的系统的巡航状态。
• 等级 4 — 行动并交代。智能体从头到尾完成任务，并留下可复读的痕迹。适合可逆的重复性工作：归档、分拣、保持更新、发布内部情报简报。
• 等级 5 — 指挥其他智能体。智能体拆解目标、分派任务、跟踪进度并作出裁断。这个等级只有在前几级经受过检验之后才有意义——把它交给一个从未被度量的系统，等于把一个未知的错误放大许多倍。

等级不是一次定死的，而是按任务选择的。同一个智能体可以独自催办一份报价，却要就折扣征求人的同意。只能整体设定自主性的系统，逼人在无用与鲁莽之间二选一。

4. 自主智能体不是什么

它不是聊天机器人。聊天机器人等一个问题、给一个答案；工作在它之后才开始，而且由人来做。智能体的评判标准是现实世界里的结果：发票发出去了，文件归档了，会面约好了。

它不是自动化脚本，也不是 RPA。自动化脚本沿着事先写好的步骤走，遇到第一处偏差就会断裂——一个列标题改了，一个界面重画了。智能体追求的是目标，能吸收偏差。差别体现在维护成本上，而不是上线当天。

它不是副驾。副驾加快的是敲键盘的那个人；把人撤走，什么也不会发生。智能体在没人盯着的时候工作——这正是它的价值所在，也正因如此，它做过的事必须可以复读。

它不是通用智能。智能体既没有自己的意图，也没有做本职之外之事的欲望。担心系统会「夺取控制权」是找错了对象：真实、平常而频繁的风险，是一个把措辞糟糕的指令准确执行、规模很大、却无人察觉的智能体。

5. 什么让智能体可靠

智能体的可靠性极少取决于驱动它的模型，而在很大程度上取决于四道防线。三个月后放弃的公司，几乎从来都不是模型出了问题。

• 一条声明过的边界。那些在执行之前必须获得人工同意的行动清单——动用资金、签字、回复敏感客户、删除。要事先声明，而不是留给当下的判断。
• 可执行的预算。费用在调用模型之前就被预留，而不是事后统计。事后核对的上限不是上限，而是一份报告。
• 一条可复读的痕迹。所追求的目标、查阅的信息、采取的行动、结果和成本。无法复读的委派工作，终将变成没人再信任的工作——公司会悄悄退回手工处理。
• 最小权限。每个智能体只获得其使命所需的工具。一个做情报监测的智能体，没有理由拥有开票系统的写权限。

这四点不是舒适性选项：它们决定了明年能否交出更多工作。这正是治理与预算控制那一页的主题。

6. 戳穿假智能体的六个问题

很多工具自称智能体，实际上只是在固定轨道上串起一次次模型调用。六个问题足以分辨，而且都能在演示现场提出。

• 工具失败时它做什么？如果就此停住，那是一条链路。如果换一条路再试、然后如实上报，那是智能体。
• 它能把同一步骤做两遍吗？真正的智能体会退回去重做。轨道只会一直向前。
• 它知道自己昨天做了什么吗？没有记忆，它会对同一个客户催收两次，并忘掉你的更正。
• 它在哪里自行停下？如果没有任何一项行动是它未经批准就拒绝执行的，那么边界并未声明——它根本不存在。
• 这项任务花了多少钱？如果拿不到按任务计的数字，就无从判断什么值得交出去。
• 我能不问任何人就复读它的工作吗？如果答案是否定的，控制就建立在信任之上，而信任撑不起规模。

实践中最快见分晓的是第六个。能够看到做了什么、由谁完成、花了多少钱，不是一块摆设式看板：它让人知道系统是在干活，还是只在忙碌。

7. 常见问题

延伸阅读

延伸阅读：什么是智能体系统、AI 智能体在企业里究竟做什么，或治理与预算控制。