중국 AI 랩, 2021년 이후 857개 모델 중 3.6%만 안전 결과 공개

‘베이징은 최전선을 주도하지 않는다’라는 제목의 연구는 2021년부터 2026년 9월 15일까지 9개 중국 개발사의 AI 모델 출시를 종합적으로 조사했으며, 총 857개의 서로 다른 모델 버전을 확인해 안전 관련 공개 수준을 측정할 기준을 마련했습니다.

그 중 31개 버전, 즉 정확히 3.6%만이 개발자가 공개하기로 선택한 안전 결과를 포함했습니다. 이 수치는 SemiAnalysis 분석에서 직접 도출된 확정된 사실입니다.

더 놀라운 점은 31개 공개 결과 중 9개(전체 출시의 1.1%)만이 모델 출시 시점에 제공되었으며, 나머지 22개는 모델이 공개된 이후에 발표되었습니다.

기업 유형별 공개 비율

조직 유형별로 데이터를 나누어 보면, DeepSeek, Moonshot, Zhipu, MiniMax, StepFun 같은 스타트업은 6.3%의 비율로 안전 결과를 공유하는 반면, 알리바바, 바이트댄스, 텐센트, 바이두 등 네 개의 대형 기업은 전체의 2%만을 공개했습니다.

Zhipu( Z.ai 브랜드로 운영)는 2022년 이후 매년 지속적으로 안전 결과를 발표한 유일한 기업으로, 기업 자체 진술에 근거합니다.

주요 기업의 절대 수치

가장 많은 모델을 출시한 알리바바는 238개 버전 중 7개의 안전 결과만을 제공했으며, 텐센트는 133개 버전 중 1개, 바이트댄스는 120개 버전 중 2개만을 공개했습니다. 이 수치는 각 기업이 자체 보고한 내용입니다.

나머지 813개 버전, 즉 전체의 94.9%는 전혀 공개된 안전 정보가 없습니다. 이는 SemiAnalysis 보고서에서 확인된 사실입니다.

출시 후 공개 시점

31개의 공개 결과 중 16개는 모델이 이미 출시된 뒤에 발표되었습니다. 중앙값 지연 기간은 42일이며, 최대 지연은 349일에 달했습니다. 이러한 통계는 연구에서 직접 도출되었습니다.

• 중국 AI 모델 출시의 3.6%만이 공개된 안전 결과를 포함합니다.
• 스타트업은 6.3%, 대형 기업은 2% 비율로 안전 결과를 공개합니다.
• Zhipu는 2022년 이후 매년 안전 결과를 발표했습니다.
• 출시 후 평균 공개 지연 기간은 42일입니다.

2026년 9월 14일 공개된 ‘중국 AI 안전 거버넌스 프레임워크 3.0’은 정기적인 테스트와 주기적인 안전 평가 공개를 권고하지만, 법적 강제력이 없어 자발적 준수에 머물러 있습니다.

SemiAnalysis 연구진은 공개된 안전 평가가 없다고 해서 내부 테스트가 없다는 뜻은 아니라고 경고합니다. 이 연구는 공개적으로 접근 가능한 정보만을 포착하므로, 비공개 평가에 대한 맹점이 남아 있을 수 있습니다.

첫 번째 단락에서는 현재 보고된 안전 결과 공개 비율이 극히 낮다는 점을 바탕으로, 투명성 부족이 위험 관리 체계 전반에 미치는 구조적 영향을 설명한다. 모델이 공개될 때마다 안전 검증 결과가 동시 제공되지 않으면, 사용자는 사후에 발생할 수 있는 오류나 편향을 사전에 인지하기 어렵다. 이는 특히 기업 고객이 AI 서비스를 도입할 때 위험 평가 모델을 구축하는 데 추가적인 비용과 시간을 요구하게 만든다. 또한, 안전 결과가 사후에 공개되는 경우, 이미 배포된 시스템에 대한 신뢰 회복이 어려워지며, 이는 장기적인 시장 신뢰도 저하와 규제 당국의 감시 강화 압력으로 이어질 가능성이 있다. 이러한 구조적 문제는 투명성 기준이 명문화되지 않은 상황에서 더욱 확대될 위험이 있다.

두 번째 단락에서는 공개 비율 차이가 기업 유형별로 나타나는 현상을 한계점으로 분석한다. 스타트업이 상대적으로 높은 비율(6.3%)을 보이지만, 전체 모델 수가 적어 절대적인 안전 검증 건수는 제한적이다. 반면 대형 기업은 모델 수가 방대함에도 불구하고 2%에 불과한 비율을 유지하고 있어, 규모의 경제가 안전 공개와는 역설적으로 작용하고 있음을 시사한다. 이와 같은 불균형은 기업 규모에 따른 내부 검증 프로세스의 차이와, 공개 의무에 대한 인식 차이를 반영한다는 점에서, 정책 입안자는 기업 규모에 관계없이 최소 공개 기준을 설정할 필요가 있음을 강조한다.

세 번째 단락은 공개 시점의 지연 현상이 의미하는 바를 검증한다. 평균 42일, 최대 349일의 지연은 모델이 실제 운영 환경에 투입된 뒤에야 안전 결과가 드러난다는 위험을 내포한다. 이러한 지연은 문제 발생 시 신속한 대응을 방해하고, 사후 조치가 사전 예방보다 비용이 많이 드는 상황을 초래한다. 따라서, 지연 기간을 정량적으로 측정하고 이를 기준으로 계약상 벌칙 조항을 삽입하는 것이 실질적인 위험 완화 방안으로 제시될 수 있다. 또한, 지연 데이터 자체가 공개되지 않은 모델에 대한 불확실성을 가중시켜, 전체 AI 생태계의 위험 평가 정확도를 저하시킨다.

네 번째 단락에서는 현재 보고된 안전 결과가 공개되지 않은 모델에 대한 맹점 가능성을 검토한다. 연구진이 언급한 바와 같이, 비공개 평가가 존재할 가능성을 배제할 수 없으며, 이는 데이터 수집 단계에서의 편향이나 테스트 범위의 제한을 은폐할 위험을 내포한다. 따라서, 외부 감사기관이 접근 가능한 메타데이터와 비교 분석을 수행함으로써, 비공개 평가의 존재 여부를 추정하고, 필요 시 추가 검증을 요구하는 절차를 마련해야 한다. 이는 투명성 확보를 위한 간접적인 검증 메커니즘으로 활용될 수 있다.

다섯 번째 단락은 실무적 적용 방안을 구체화한다. 조달팀은 공급업체와의 계약에 안전 결과의 사전 공개를 명시하고, 공개 시점과 지연에 대한 구체적 기준을 설정해야 한다. 또한, 제3자 검증 기관을 통한 독립적인 안전 평가를 의무화함으로써, 내부 감사만으로는 파악하기 어려운 취약점을 보완한다. 이러한 계약 조항은 위험 관리 프로세스에 체계적으로 포함되어야 하며, 위반 시 계약 해지나 손해배상 조항을 통해 실질적인 실행력을 확보한다.

여섯 번째 단락은 정책적 함의를 정리한다. 현재의 자발적 공개 체계가 한계에 부딪힌 상황에서, 최소 공개 기준을 법제화하거나 산업 협의체 차원에서 강제적 가이드라인을 도입하는 것이 필요하다. 이를 통해 모델 출시와 동시에 안전 검증 결과가 공개되도록 유도하고, 지연 공개에 대한 명확한 제재 기준을 마련함으로써 전체 AI 생태계의 신뢰성을 제고할 수 있다. 또한, 지속적인 모니터링과 정기적인 보고 체계를 구축하여, 투명성 격차를 최소화하고 위험 관리 역량을 강화하는 방향으로 정책을 전개해야 한다.

한국 기업이 중국 AI 공급자를 평가할 때 실질적인 시사점은 명확합니다. 강제적인 공개 기준이 없기 때문에 대부분의 모델이 제한적이거나 문서화되지 않은 안전 검증을 거쳤을 가능성을 염두에 두어야 합니다. 따라서 조달팀은 내부 안전 감사 보고서를 요청하고, 안전 결과의 적시 공개를 요구하는 계약 조항을 협상하며, 제3자 검증을 통해 미공개 취약점 위험을 완화하는 방안을 고려해야 합니다.