미 재무장관, 중국에 AI 사고 양자 통보 메커니즘 제안

양자 AI 알림 제안의 배경

2026년 9월 20일, 미국 재무부 장관 스콧 베센트는 미국이 중국에 국가 안보에 영향을 미칠 수 있는 인공지능 사고에 대해 서로 알리는 양자 메커니즘을 제안했다고 발표했다. 이 발표는 두 주요 AI 강국 간에 AI 관련 위험에 초점을 맞춘 구조화된 소통 채널에 대한 첫 번째 공개 언급이었다.

이 제안은 베센트가 중국 부총리 허리펑과 만나 뉴욕에서 진행된 일련의 논의 중에 소개되었다. 주요 국제 도시인 뉴욕이라는 장소는 이 이니셔티브에 부여된 외교적 무게를 강조했지만, 메커니즘의 구체적인 세부 사항은 공개되지 않았다.

베센트에 따르면, 미국은 인공지능에 관한 전용 양자 대화를 원하며, 이를 통해 공동 목표와 위협에 대한 공유된 비전을 촉진하고자 한다. 이러한 명시된 의도는 고립된 국가별 접근보다 조정된 위험 관리에 대한 더 넓은 전략적 욕구를 반영한다.

동일한 성명에서 베센트는 미국과 중국 간의 투명성을 높여야 할 필요성을 강조하며, 제안된 알림 채널을 AI 사고에 대한 상호 인식을 증대시키는 수단으로 설명했다. 운영 기준, 보고 일정, 절차 단계 등에 관한 구체적인 내용은 제공되지 않아 메커니즘의 정확한 구조가 정의되지 않은 상태로 남아 있다.

외교 일정의 맥락

이 발표는 전 대통령 도널드 트럼프와 중국 국가주석 시진핑 간의 예정된 회담 직전, 2026년 9월 21일 주에 워싱턴에서 열릴 예정이었던 시점에 나왔다. 두 사건이 근접해 있다는 점은 AI 알림 제안이 그 고위급 회담의 의제에 영향을 미치려는 의도가 있었을 가능성을 시사한다.

중국 공식 뉴스 기관인 신화통신은 뉴욕 회담 중 양측 대표단이 인공지능과 관련된 주제를 논의했다고 확인했지만, 미국 제안에 대한 구체적인 내용은 공개하지 않았다. 이는 중국 측이 아직 공개적으로 이 이니셔티브를 승인하지 않았음을 나타낸다.

보도 시점에 이 제안은 외교적 제안 단계에 머물러 있었다. 중국의 승인, 서명된 협정, 혹은 실행 일정이 발표되지 않아 이 노력의 초기 단계와 운영 프레임워크가 확립되기 전 추가 협상의 필요성을 강조한다.

잠재적 이점과 한계

지지자들은 알림 채널이 AI 시스템의 예상치 못한 행동으로 인한 확대 위험을 감소시킬 수 있다고 주장한다. 특히 그런 행동이 적대적이거나 위협적으로 해석될 경우, 조기 경고를 제공함으로써 양 정부가 사건을 평가하고 보다 광범위한 안보 딜레마로 번지기 전에 대응할 수 있다.

그럼에도 불구하고 이 제안은 기술 표준이나 검증 메커니즘을 대체하지 않는다. 명시적인 기술 기준이 없기 때문에, 채널은 주로 소통 도구로 기능하며 안전 규범 준수를 강제하는 수단이 아니다.

공개적으로 정의된 기준이 부재한 점은 어떤 사고가 알림 대상이 되는지에 대한 질문을 제기한다. 합의된 기준이 없으면 서로 다른 해석이 특정 AI 사건이 보고 대상인지에 대한 분쟁을 야기할 수 있어 채널의 효과성을 제한할 가능성이 있다.

또한, 이 제안이 외교적 호의에 의존한다는 점은 지속 가능성이 양국 관계 전반에 달려 있음을 의미한다. 정치적 신뢰의 변동은 어느 한쪽이 AI 사고에 관한 민감한 정보를 공유하려는 의지에 영향을 미칠 수 있다.

• AI 관련 사고에 대한 상호 상황 인식 강화
• 조기 소통을 위한 구조화된 포럼 제공
• 오해로 인한 확대 위험 감소 가능성
• 기술 안전 표준을 보완하지만 대체하지 않음

위 목록은 알림 메커니즘에 대해 제시된 주요 목표를 요약하면서, 이를 포괄적인 AI 안전 해결책이 아닌 보조적인 조치로 인식하고 있음을 보여준다.

채널의 운영화에 관한 미해결 질문이 남아 있다. 예를 들어, 기밀성 유지와 투명성 요구 사이의 균형은 어떻게 맞출 것인지, 보고된 사고에 어떤 검증 절차가 동반될 것인지가 불분명하다.

향후 연구는 핵이나 사이버 사고와 같은 다른 분야에서 유사한 알림 프레임워크가 어떻게 작동했는지를 조사하여, 인공지능에 적용될 때의 강점과 약점을 추론할 수 있다.

요약하면, 미국의 제안은 중국과 AI 위험 소통을 제도화하려는 초기 외교 노력이다. 이 개념이 위기 관리 개선에 기여할 수는 있지만, 그 영향은 최종적인 기준 정의, 신뢰 구축, 그리고 보다 넓은 기술 거버넌스 구조와의 통합 여부에 달려 있다.

양국이 인공지능 사고에 대한 상호 통지를 위한 양자 메커니즘을 제안한 것은, 기존에 존재하던 위험 관리 체계가 충분히 투명하지 않다는 인식에서 비롯된 것으로 보인다. 제안 자체는 두 국가가 공유할 수 있는 공통 목표와 위협에 대한 이해를 촉진하려는 의도를 담고 있다. 그러나 아직 구체적인 작동 기준이나 보고 절차가 명시되지 않았기 때문에, 실제로 어떤 상황이 통지 대상이 되는지에 대한 해석 차이가 발생할 가능성이 있다. 이러한 해석 차이는 양측이 서로 다른 위험 인식을 갖고 있을 경우, 통지 채널이 기대하는 조기 경보 역할을 충분히 수행하지 못하게 할 수도 있다. 따라서 이 메커니즘이 실질적인 위기 관리에 기여하려면, 사전에 합의된 기준이 마련되고, 그 기준이 일관되게 적용될 수 있는 절차적 보완이 필요할 것으로 예상된다. 또한, 신뢰 기반의 협력이 전제되어야 하며, 양국 간 정치적 관계가 변동될 경우 민감한 정보 공유에 대한 의지가 약화될 위험도 존재한다는 점을 감안해야 한다.

제안된 통지 체계는 기술적 표준이나 검증 메커니즘을 대체하는 것이 아니라, 보완적인 커뮤니케이션 수단으로서의 역할을 강조한다. 이 점에서, 기존의 안전 규범과 별도로 운영될 경우, 실제 사고 발생 시 정보의 정확성과 신뢰성을 확보하기 위한 별도의 검증 절차가 필요할 수 있다. 또한, 비밀보호와 투명성 사이의 균형을 어떻게 맞출지에 대한 명확한 방안이 제시되지 않았기 때문에, 민감한 사건에 대한 보고가 제한되거나 과도하게 공개될 위험이 존재한다. 이러한 불확실성은 통지 채널이 기대하는 조기 경보와 위기 완화 효과를 제한할 수 있다. 따라서, 해당 메커니즘이 효과적으로 작동하려면, 조건부로 정의된 보고 기준과 함께, 신뢰 구축을 위한 지속적인 외교적 대화와 기술적 연계가 병행되어야 할 것이다.