싱가포르, 고위험 대리 인공지능 보장책 재검토

2026년 10월 7일, 싱가포르 정부는 고위험 대리 인공지능에 관한 규제 보장책을 전면 재검토한다는 선언을 공식적으로 발표했습니다. 이 발표는 인간의 직접적인 감독 없이 독립적으로 행동할 수 있는 대리 시스템의 자율성이 점점 커지고 있다는 배경에서 이루어졌습니다. 국제 사회에서 이러한 시스템이 광범위한 영향을 미칠 수 있는 결정들을 스스로 내릴 가능성에 대한 우려가 커지고 있는 상황에서, 싱가포르 정부는 사전에 규제 틀을 강화하고 명확한 기준을 마련함으로써 실제 사고가 발생하기 전에 위험을 차단하고자 하는 목표를 명시했습니다. 특히, 핵심 인프라와 정부 디지털 시스템과 같이 민감한 분야에서 대리 인공지능이 활용될 경우 발생할 수 있는 잠재적 위험을 사전에 식별하고 관리하기 위한 구체적인 방안을 모색하고 있습니다.

대리 인공지능이란 무엇인가?

대리 인공지능은 인간의 지속적인 지시 없이도 사전에 정의된 목표를 달성하기 위해 스스로 행동을 취할 수 있는 시스템을 의미합니다. 이러한 시스템은 방대한 데이터에서 학습하고, 자체적인 전략을 개발하며, 네트워크와 핵심 인프라 내의 취약점 및 위협을 탐지하는 데 높은 효율성을 보입니다. 그러나 그 독립성은 새로운 위험을 동반합니다. 시스템이 프로그래밍된 범위를 넘어서는 행동을 하거나, 권한이 없는 제3자에 의해 악용될 경우, 기존의 통제 메커니즘으로는 충분히 대응하기 어려운 상황이 발생할 수 있습니다. 이러한 이유로 일부 활용 사례는 '고위험'으로 분류되며, 정밀한 감시와 관리가 요구됩니다.

현재 위험 평가

디지털 및 정보 개발부 장관인 조세핀 티우(Josphine Tiew) 장관은 국회 질의에 답변하면서, 현재까지 감독되지 않은 대리자가 사이버 공격을 실행했다는 공식적인 신고를 받지 못했다고 밝혔습니다. 그러나 장관은 실제 사고가 없다는 사실이 위험이 사라졌다는 의미는 아니며, 오히려 선제적인 대비가 필요하다고 강조했습니다. 정부 부처에서는 이미 인공지능을 활용해 시스템 내의 취약점과 위협을 식별하고 있지만, 사고 발생 시 신속히 대응할 수 있도록 명확한 보고 체계가 여전히 필요하다고 지적했습니다.

한편, 탄키앗 호(Tan Kiatt Hoo) 장관은 현재 제기되는 위험이 수년간 존재해 온 과제들의 연장선이라고 설명했습니다. 정부는 내부 역량을 강화하고 책임 있는 인공지능 배포에 대한 이해를 높이기 위해 다양한 실험을 진행하고 있습니다. 장관은 규제 프레임과 사고 보고 절차를 재검토하는 것이 공공 부문과 민간 부문 간 신뢰를 강화하는 핵심 단계라고 강조했으며, 특히 대리 인공지능의 행동을 지속적으로 모니터링하고 국가 안보에 미치는 영향을 평가할 수 있는 전문 기술 팀을 구축하는 데 중점을 두고 있습니다.

사용 위험 사례

국회 토론 중, 한 내부 사례가 언급되었습니다. 해당 사례에서는 직원이 인공지능이 생성한 텍스트를 활용해 정부 데이터베이스에 저장된 95,000개 이상의 이메일 주소를 추출했습니다. 비록 이 과정에서 민감한 정보가 외부로 유출되지는 않았지만, 인공지능 도구가 예상보다 훨씬 빠른 속도로 대량 데이터를 추출할 수 있음을 보여주었습니다. 이는 향후 유사한 도구가 악의적으로 사용될 경우, 데이터 보호를 위해 어떤 통제와 제한이 필요할지에 대한 중요한 질문을 제기합니다.

또한, 호주에서 발생한 유사한 사건도 언급되었습니다. 해당 사건에서는 감독되지 않은 인공지능 모델이 사용되어 정부 부문에서 민감한 정보를 노출시켰습니다. 구체적인 세부 사항은 공개되지 않았지만, 이 사례는 위험이 특정 국가에 국한되지 않으며, 유사한 기술을 채택한 어느 국가에서도 발생할 수 있음을 시사합니다. 따라서 강력한 감독 메커니즘과 국제적인 협력이 필요하다는 점이 강조되었습니다.

제안된 조치 및 프레임워크 업데이트

정부는 앞서 언급된 사례들을 근거로 새로운 규제 프레임워크에 포함될 일련의 보장책을 도출했습니다. 제안된 주요 조치에는 대리 인공지능의 행동을 평가할 내부 역량을 강화하고, 모든 공공 및 민간 기관이 잠재적인 사고를 즉시 보고하도록 요구하는 통합 보고 프로토콜을 개발하는 것이 포함됩니다. 또한, 고위험 대리 시스템을 실제 배포하기 전에 위험 평가를 수행하고, 국제 표준과의 일치성을 정기적으로 검토하는 절차도 포함될 예정입니다.

• 디지털 개발부 내에 대리 시스템 행동을 감시하는 전담 부서를 설립한다.
• 고위험 인공지능 모델을 사용하는 모든 기관에 대해 잠재적 사고에 대한 정기 보고를 의무화한다.
• 인공지능 모델 제공 업체가 예기치 않은 행동을 발견했을 때 신속히 보고할 수 있는 메커니즘을 제공하도록 요구한다.
• 핵심 인프라에 대리 시스템을 배포하기 전에 사전 위험 평가를 실시한다.

마지막으로, 조세핀 티우 장관은 보장책 재검토가 다음 분기 내에 완료될 것이며, 연말 이전에 일반 공개를 위한 규제 초안이 발표될 것이라고 강조했습니다. 또한, 정부는 민간 부문 및 연구 커뮤니티와의 협의 회의를 개최하여 프레임워크가 포괄적이고 실효성 있게 적용될 수 있도록 할 계획이라고 밝혔습니다. 정부는 혁신을 억제하려는 것이 아니라, 책임 있는 방향으로 유도하여 사이버 보안을 강화하고 국가 경제의 안정성을 확보하는 것이 목표라고 재확인했습니다.