自律型AIエージェント

1. 定義

自律型AIエージェントとは、言語モデルを中心に組み立てられたソフトウェアで、手順ではなく目標を託されたものです。行うべき操作の順序は示しません。何を期待するかを伝え、必要なツールへの接続を与え、どう到達するかは本人に決めさせます。

「自律」という語には、早めに解いておきたい誤解がつきまといます。「一切の統制の外にある」ことでも、「自分で目的を決める」ことでもありません。自律型エージェントは、与えられた任務、開かれたツール、課された制限に囲まれたままです。自律が及ぶのは経路であって、行き先ではありません。

実務上の見分け方は簡単です。想定どおりでない状況になったとき何が起きるかを考えてください。従来のプログラムは止まるか、誤った結果を出します。エージェントはずれに気づき、別の道を探し、見つからなければ報告します。この立て直しの力だけが、この呼び名を正当化します。

2. エージェントを構成する四つの部品

エージェントは単一の部品ではなく、組み合わせです。ひとつでも取り除けば、答えるだけのアシスタントに戻ります。

• 目的。 到達すべき状態を示す指示であって、命令の羅列ではありません。「督促されないまま三十日を超えて滞留する請求書をなくすこと」は目的です。「顧客Xにメールを送る」は命令です。
• ツール。 世界について語るのではなく、世界に働きかけるための手段です。メールボックスを読む、データベースに書き込む、サービスを呼ぶ、ファイルを作る、ウェブを調べる。ツールのないモデルは文章しか生み出せず、したがって会社を変えるものは何も生み出せません。
• 記憶。 自分の仕事、会社、そしてすでに行ったことについて知っている内容です。これがなければ毎朝ゼロから始まり、同じ顧客に二度督促し、前日に伝えた規則を忘れます。
• ループ。 自分の行動の結果を観察し、目的と照らし合わせ、続けるか、直すか、やめるかを判断させる仕組みです。もっとも目立たず、もっとも決定的な部品でもあります。ループがなければエージェントは存在せず、少し手の込んだモデル呼び出しがあるだけです。

ループにはもう少し言葉を割く価値があります。多くのデモがここを省くからです。計画を告げて止まるエージェントは、ループを閉じていません。出したものを一度も見ずに計画を実行するエージェントも同じです。速かっただけで、速く誤ります。知覚し、判断し、行動し、学ぶという一巡があってはじめて、モデルは働き手になります。

3. 自律の五段階

「自律」はスイッチではなく段階であり、段の取り違えが失望の大半を説明します。段階2を思い描きながら段階4を買う会社があり、その逆もあります。

• 段階1 — 提案する。 エージェントが提案し、人が行います。下書きの作成、返信案の提示。危険はありませんが、実際の時間短縮もありません。仕事はそのまま残ります。
• 段階2 — 仕上げる。 エージェントが完成物をつくり、人は承認して送るだけです。会社の外へ出る前に誤りが見えるため、始めるにはもっとも実入りのよい段階です。
• 段階3 — しきい値の下で行動する。 宣言された限度の下では独力で実行し、それを超えれば承認を求めます。200ユーロの未収金は自分で督促し、5,000ユーロを超えれば承認に回す。よく調整された仕組みの巡航状態です。
• 段階4 — 行動し、報告する。 エージェントが最初から最後まで作業を進め、読み返せる記録を残します。戻せる反復作業に向いています。分類する、振り分ける、最新に保つ、社内向けの情報整理を出す。
• 段階5 — 他のエージェントを率いる。 目的を分解し、割り振り、進捗を追い、判断します。この段階は前の段階が実証されてはじめて意味を持ちます。一度も測っていない仕組みに任せるのは、未知の誤りを増やすことにほかなりません。

段階は一度決めたら終わりではなく、タスクごとに選びます。同じエージェントでも、見積もりの督促は独力で行い、値引きの承認は人に求める、ということができます。自律性を全体でしか設定できない仕組みは、役に立たないか無謀かのどちらかを選ばせることになります。

4. 自律型エージェントではないもの

チャットボットではありません。 チャットボットは質問を待ち、答えを返します。仕事はその後に始まり、行うのは人です。エージェントは現実の結果で評価されます。請求書は出た、書類は片付いた、面談は入った。

自動化処理でもRPAでもありません。 自動化処理はあらかじめ書かれた手順をなぞり、最初のずれで壊れます。列見出しがひとつ変わる、画面が作り直される、それだけで十分です。エージェントは目的を追い、ずれを吸収します。違いが出るのは保守費用であって、稼働初日ではありません。

コパイロットではありません。 コパイロットはキーボードの前の人を速くします。人がいなくなれば何も起きません。エージェントは誰も見ていないときに働きます。まさにそこに価値があり、まさにそれゆえ、行った仕事を読み返せることが欠かせません。

汎用知能ではありません。 エージェントには固有の意図も、任務以外のことをしたいという欲求もありません。「制御を奪う」システムへの恐れは的外れです。現実の、ありふれて頻繁な危険は、まずい指示を正確に、大規模に、誰にも気づかれずに実行するエージェントです。

5. エージェントを信頼できるものにするもの

エージェントの信頼性は、動かしているモデルにはほとんど左右されず、四つの歯止めに大きく左右されます。三か月でやめる会社が抱えていた問題は、まずモデルの問題ではありません。

• 宣言された境界。 実行の前に人の承認を要する行為の一覧です。金銭を約束する、署名する、慎重を要する顧客に返信する、削除する。その場の判断に委ねるのではなく、宣言しておきます。
• 実効性のある予算。 支出はモデルを呼び出す前に確保され、後から集計されるのではありません。事後に確認される上限は上限ではなく、報告書です。
• 読み返せる記録。 追った目的、参照した情報、選んだ行動、その結果、その費用。読み返せない委任作業は、やがて信用されない作業になり、会社は静かに手作業へ戻ります。
• 最小権限。 各エージェントには任務が求めるツールだけを与えます。情報収集のエージェントに請求処理への書き込み権限は不要です。

この四点は快適さのための選択肢ではありません。翌年さらに任せられるかどうかを決めます。ガバナンスと予算の管理のページで扱う主題です。

6. 偽のエージェントを見抜く六つの問い

多くの製品がエージェントを名乗りますが、実際には固定されたレールの上でモデル呼び出しをつないでいるだけです。六つの問いで見分けがつき、いずれもデモの場で確かめられます。

• ツールが失敗したとき何をするか。 そこで止まるなら、それは連鎖処理です。別の方法を試したうえで報告するなら、エージェントです。
• 同じ工程を二度行えるか。 本物のエージェントは戻ってやり直します。レールは前にしか進みません。
• 昨日何をしたか覚えているか。 記憶がなければ、同じ顧客に二度督促し、あなたの訂正を忘れます。
• どこで自分から止まるか。 承認なしに実行を拒む行為がひとつもないなら、境界は宣言されていません。存在しないのです。
• この作業はいくらかかったか。 作業単位で数字が得られないなら、何を任せる価値があるかを判断できません。
• 誰かに頼まずに仕事を読み返せるか。 答えが「いいえ」なら、統制は信頼に依存しており、信頼は規模に耐えません。

実務でもっとも早く決着がつくのは六つ目です。何が、誰によって、いくらで行われたかを見られることは飾りのダッシュボードではありません。システムが働いているのか、ただ動き回っているのかを知る手立てです。

7. よくある質問

さらに読む

次に読む：エージェント型システムとは何か、AIエージェントは企業で実際に何をするのか、あるいはガバナンスと予算の管理。