新加坡重新審視高風險代理式人工智慧的保障措施

在2026年10月7日，政府宣布將重新審視與高風險代理式人工智慧相關的保障措施，因為這類系統在缺乏直接人工監督的情況下，獨立性不斷提升。此公告是對國際上對這類系統在做出可能產生廣泛影響的決策時的能力日益擔憂的回應，特別是當它們被用於關鍵基礎設施和政府數位系統等敏感領域。部門強調，目標是在任何真實事件發生前加強監管框架，並制定明確標準，以將應用程式分類為高風險。

什麼是代理式人工智慧？

代理式人工智慧指的是能夠根據既定目標自行採取行動的系統，無需持續的人類指令。這些系統從資料中學習並發展自己的策略，使其在發現網路與關鍵基礎設施中的漏洞與威脅方面更為高效。然而，這種獨立性也帶來新風險，當系統超出原先程式設計的範圍或被未授權的實體利用時，可能產生問題。因此，某些使用情境被歸類為「高風險」，需要嚴格監控。

當前風險評估

數位發展與資訊部部長喬芬·蒂歐（Jocelyn Tiu）在議會答問時說，政府尚未收到任何未受監督的代理人發動的網路攻擊的正式通報。她補充說，雖然目前沒有實際事故發生，但這並不代表風險不存在，仍需採取前瞻性準備。她指出，政府機關已經使用人工智慧來識別系統中的漏洞與威脅，但仍需建立明確的通報機制，以確保在任何違規發生時能快速回應。

同時，資深部長陳·基亞·浩（Tan Kiatt Hoo）表示，今天提出的風險是多年來挑戰的延伸，政府正進行實驗以提升內部能力，並更好地理解負責任的人工智慧部署。他說，檢視監管框架與事故通報機制是加強公私部門信任的關鍵步驟，並將重點放在組建能監測智慧代理行為、評估其對國家安全影響的專業技術團隊上。

使用風險案例

在議會討論中，提到一件內部事件：一名員工使用生成式人工智慧工具，從政府資料庫中找出超過95,000個電子郵件地址。雖然此舉未導致敏感資訊外洩，但凸顯了智慧工具能在極短時間內大量提取資料的能力，進而引發對未來防止類似濫用的管控需求。

同時也提及澳洲類似案例，當時未受監控的人工智慧模型在政府部門揭露了敏感資訊。來源未透露更多細節，但此例顯示風險並非僅限於單一地理區域，任何採用類似技術且缺乏嚴格監督機制的國家都可能面臨相同挑戰。

建議措施與框架更新

政府根據上述事例，擬定一系列將納入新監管框架的保障措施。建議的步驟包括加強內部能力以評估智慧代理的行為、制定統一的通報協議，要求所有公私部門在任何潛在事件發生時立即披露。此外，框架將要求在部署任何高風險代理系統前進行風險評估，並定期審查以確保符合國際標準。

• 在數位發展與資訊部內部成立專責單位，監控代理系統的行為。
• 要求所有使用高風險人工智慧模型的機構定期提交事故報告。
• 強制人工智慧模型供應商在發現異常行為時提供快速通報機制。
• 在關鍵基礎設施部署任何代理系統前，先行進行風險預評估。

最後，數位發展與資訊部部長喬芬·蒂歐強調，相關保障措施的審查將於下季度完成，並在年底前公開徵求意見稿。政府將舉辦諮詢會議，邀請私營部門與研究社群參與，以確保框架的完整性與有效執行。她重申，目標不是阻礙創新，而是引導創新走向負責任的道路，確保國家的網路安全與經濟穩定。