新加坡审查高风险代理人工智能的保障措施

2026年10月7日，新加坡政府正式表示，将重新审视与高风险代理人工智能相关的监管保障措施。此举正值这些能够在缺乏直接人工监督的情况下自主行动的系统独立性日益提升之际。政府此番声明是对国际社会日益增长的担忧的回应，担忧这些系统在关键领域——如关键基础设施和政府数字系统——做出可能产生广泛影响的决策。相关部门强调，此次审查的目标是在任何真实事故发生之前，先行完善监管框架，并明确划分哪些应用属于高风险类别，以便制定相应的分类标准。

什么是代理人工智能？

代理人工智能指的是能够依据预设目标自主采取行动的系统，无需持续的人类指令。这类系统通过数据学习并自行发展策略，从而在发现网络漏洞和威胁方面表现出更高的效率。然而，正因为其自主性，当系统的行为超出原始编程范围或被未经授权的主体利用时，会产生新的风险。因此，部分使用场景被划定为“高风险”，需要进行严格监控。

当前风险评估

数字发展与信息部部长乔芬·赵在议会答问时指出，政府尚未收到任何关于未经监管的代理人发动网络攻击的正式报告。她补充说明，尽管目前没有实际事故发生，这并不意味着风险不存在，而是需要采取前瞻性的准备措施。她还提到，政府部门已经在使用人工智能来识别系统中的漏洞和威胁，但仍需建立明确的报告机制，以确保在出现任何泄露时能够快速响应。

与此同时，部长陈嘉浩表示，当前面临的风险是多年挑战的延伸，政府正进行试验，以提升内部能力并更好地理解负责任的人工智能部署。他说明，审查监管框架和事故报告流程是增强公私部门之间信任的关键步骤，重点在于组建专门的技术团队，监控智能代理的行为，并评估其对国家安全的潜在影响。

使用风险示例

在议会讨论中，曾提及一起内部事件：一名工作人员使用生成式人工智能工具，在政府数据库中检索出超过95,000个电子邮件地址。虽然此操作并未导致敏感信息泄露，但它凸显了智能工具能够在极短时间内提取海量数据的能力，从而引发对未来如何防止类似滥用的监管需求。

议员还提到一例澳大利亚的类似事件：一款未经监管的人工智能模型在政府部门使用时，意外暴露了敏感信息。虽然来源未披露更多细节，但该案例表明风险并不局限于单一国家，只要缺乏严格监督，任何采用类似技术的国家都可能面临类似威胁。

拟议措施与框架更新

政府依据上述案例，提出了一系列将在新监管框架中纳入的保障措施。建议的步骤包括加强内部能力以评估智能代理的行为，制定统一的报告协议，要求所有公共和私营部门在发现潜在事故时立即披露。此外，框架还将要求在任何高风险代理系统上线前进行风险评估，并设立定期审查机制，以确保其符合国际标准。

• 在数字发展与信息部内部设立专门单位，监控代理系统的行为。
• 要求使用高风险人工智能模型的所有机构定期提交潜在事故报告。
• 强制人工智能模型供应商在发现异常行为时提供快速报告机制。
• 在关键基础设施部署任何代理系统前进行事前风险评估。

最后，数字发展与信息部部长乔芬·赵重申，相关保障措施的审查工作将在下个季度完成，并将在年底前公开征求意见稿。政府计划与私营部门以及研究社区举行协商会议，确保框架的全面性和有效实施。她强调，目标并非阻碍创新，而是引导创新走向负责任的方向，以保障网络安全和国家经济的长期稳定。