シンガポール、ハイリスクエージェントAIの保証を見直し

2026年10月7日、シンガポール政府はハイリスクエージェントAIに関する保証を再検討すると表明した。これは、人間の直接的な監督なしにエージェントとして機能するシステムの自律性が高まっていることを背景にしている。この発表は、これらのシステムが広範な影響を及ぼす決定を下す可能性について国際的な懸念が高まる中で行われた。特に、重要インフラや政府のデジタルシステムといったセンシティブな分野での利用が想定される。省庁は、実際の事故が起きる前に規制枠組みを強化し、ハイリスクと分類されるアプリケーションの基準を明確に設定することを目的としている。

エージェントAIとは何か？

エージェントAIは、特定の目標に基づいて独立した行動を取ることができるシステムを指す。人間の継続的な指示を必要とせず、データから学習し独自の戦略を構築するため、ネットワークや重要インフラ内の脆弱性や脅威を検出する効率が高い。しかし、その自律性は、プログラムされた範囲を超えて行動したり、権限のない者に悪用されたりするリスクを伴う。そのため、一部の利用ケースは「ハイリスク」と分類され、厳格な監視が求められる。

現在のリスク評価

デジタル開発・情報省のジョセフィン・ティオ大臣は、議会での質問に対し、監督外エージェントによるサイバー攻撃の正式な報告はこれまで受けていないと回答した。実際に事故が起きていないからといってリスクが不存在というわけではなく、予防的な備えが必要であると付け加えた。政府機関はすでにAIを活用してシステムの脆弱性や脅威を特定しているが、インシデントが発生した際に迅速に対応できるよう、明確な報告メカニズムの整備が求められている。

一方、タン・キアト・ハオ大臣は、現在提示されているリスクは過去数年にわたる課題の延長であり、政府は内部実験を通じてAIの責任ある展開に向けた能力と理解を深めていると述べた。規制枠組みとインシデント報告の見直しは、公共部門と民間部門の信頼関係を強化する重要なステップであり、特に国家安全保障への影響を評価できる専門チームの育成に重点を置くと説明した。

利用リスクの具体例

議会討論の中で、政府職員がAI生成テキストを用いて、政府データベース内の95,000以上のメールアドレスを抽出した内部事例が取り上げられた。この作業自体は機密情報の漏洩には至らなかったものの、スマートツールが予想外の速度で大量データを抽出できることを示し、将来的に同様の利用が悪用されないようにするための制御策が必要であるという議論が生まれた。

また、オーストラリアで同様の事例が報告されたことも言及された。監視されていないAIモデルの使用により、政府部門で機密情報が露出したというもので、詳細は公表されていないが、リスクは地理的境界に限定されず、同様の技術を採用するすべての国で再発する可能性があることが示唆された。

提案された対策と枠組みの更新

政府は上記の事例を踏まえて、新たな規制枠組みに組み込むべき保証策をまとめた。提案された主なステップは、エージェントAIの挙動を評価する内部能力の強化、すべての公的・民間組織が潜在的インシデントを即時に開示する統一報告プロトコルの策定、ハイリスクエージェントシステムの導入前にリスク評価を実施し、国際基準との整合性を定期的に確認することを含む。

• デジタル開発省内にエージェントシステムの挙動を監視する専門部隊を設置する。
• ハイリスクAIモデルを使用するすべての組織に対し、潜在的インシデントの定期的な報告を義務付ける。
• AIモデル提供企業に対し、予期せぬ挙動が検出された際の迅速な報告メカニズムを提供させる。
• 重要インフラへのエージェント導入前に、事前リスク評価を実施する。

最後に、ジョセフィン・ティオ大臣は、保証策の見直しは次の四半期内に完了し、年末までに一般公開用の規則案を発表すると述べた。民間セクターや研究者コミュニティとの協議セッションも開催し、枠組みの包括性と実効性を確保する方針だ。政府は、イノベーションを遅らせるのではなく、サイバーセキュリティと経済的安定を両立させる責任ある方向へ導くことを目指すと強調した。