AI 오류, 핵 부품 실수 보고로 미국 군, 중국 선박 급보류 위기

2026년 이란과의 충돌 중, 미국 정보 브리핑은 중국 화물선이 핵무기 프로그램과 관련된 부품을 전쟁 지역으로 운반하고 있다고 경고했다. 이 경고는 즉각적인 군사 대응을 촉발했으며, 무장 병력은 선박에 탑승할 준비를 마치고 항공기도 이미 공중에 배치되었다.

CNN이 인용한 네 명의 소식통은 이 브리핑이 미국 특수작전사령부의 분석가가 챗봇을 이용해 작성한 보고서에서 비롯됐다고 확인했다. AI 도구는 공개 자료와 기밀 신호 정보를 결합했지만, 화물 내용을 완전히 오인했다.

AI 기반 보고서 작성 과정

분석가는 위성 이미지, 전자 도청 자료, 공개된 선박 운송 목록을 챗봇에 입력했다. 시스템은 이 데이터를 바탕으로 "핵무기 개발 프로그램을 위한 핵심 부품"이라는 서술을 만들어 내고, 사령부에서 사용하는 표준 정보 보고서 양식에 맞춰 포맷했다.

출력물이 익숙한 구조를 띠었기 때문에 고위 장교들은 최소한의 검증만으로 이를 받아들였다. AI의 빠른 처리와 문서의 깔끔한 외관이 핵심 주장인 검증되지 않은 가설을 가려버렸다.

오류가 발견되기 전의 작전 대응

두 명의 익명 군 관계자에 따르면, 특수작전 부대가 동원되고 무기가 장전되었으며, 전투기 두 대가 선박의 마지막 알려진 좌표로 이미 출발한 상태에서 고위 관계자들이 정보의 재검토를 명령했다.

별도의 정보 셀에서 수행한 재검토는 위성 데이터와 주장된 화물 설명 사이에 불일치를 발견했다. 셀의 분석가들은 선박 내부에서 핵 관련 물질의 증거를 찾지 못했으며, 즉시 침몰 계획을 중단했다.

오류 전파를 가능하게 한 핵심 요인

• 단일 AI 초안에만 의존하고 독립 검증을 하지 않음
• AI가 조정할 수 없는 기밀 신호와 공개 데이터의 통합
• 공식 정보 제품을 모방한 포맷으로 신뢰도 상승
• 배포 전 인간 분석가의 교차 검증 의무 부재

펜타곤과 특수작전사령부는 CNN의 취재 요청에 대해 논평을 거부했으며, 이 사건은 공식 채널을 통해 거의 다루어지지 않았다.

이번 사건은 미국군이 정보 분석, 표적 지정, 물류 및 보고서 생성에 인공지능 활용을 가속화하고 있지만, 검증을 위한 거버넌스 체계가 여전히 파편화돼 있음을 보여준다.

전문가들은 인간이 의사결정 루프에 참여한다 하더라도 AI 시스템이 생산 속도를 높이고 근거를 숨기며 잠정적 추측을 공식 문서처럼 만들면 안전이 보장되지 않는다고 지적한다.

AI가 생성한 보고서가 군사 작전 단계에까지 침투한 과정은, 인공지능이 제공하는 데이터 가공 능력에 대한 과신과 인간 검증 절차의 약화가 결합될 때 발생할 수 있는 위험을 명확히 보여준다. 보고서가 표준 양식에 맞춰 자동으로 포맷되면서, 담당 장교들은 문서의 형식적 완성도에 매료되어 내용 자체에 대한 비판적 검토를 소홀히 하게 된다. 이는 인공지능이 제시한 가설을 사실과 동일시하는 인지 편향을 강화하고, 결과적으로 위험한 결정을 뒷받침하는 근거가 미흡함에도 불구하고 작전 실행을 정당화하는 구조적 결함을 초래한다. 이러한 현상은 AI 도구가 제공하는 신속한 분석 결과에 대한 신뢰도가 과도하게 상승하면서, 인간의 판단이 부차적인 역할에 머무르게 되는 조직적 병목을 드러낸다.

보고서 작성 과정에서 사용된 위성 이미지와 전자 도청 자료, 공개된 운송 목록은 각각 독립적인 정보원으로서 일정 수준의 신뢰성을 가지고 있다. 그러나 이들 자료를 AI가 자동으로 결합하고 해석하는 과정에서 발생한 의미론적 오류는, 원본 데이터의 맥락을 충분히 반영하지 못한 채 단편적인 연결 고리만을 강조하게 만든다. 특히, AI가 ‘핵무기 개발 프로그램을 위한 핵심 부품’이라는 문구를 생성할 때, 실제 물품의 특성이나 운송 목적에 대한 세부 검증 없이 추론된 결과가 그대로 보고서에 반영된 점은 검증 절차의 부재를 여실히 보여준다. 따라서 동일한 데이터라도 인간 분석가가 직접 교차 검증을 수행하지 않으면, AI가 만든 결론은 오히려 오해를 증폭시키는 요인이 될 수 있다.

오류가 발견된 후 수행된 재검토는, 기존 AI 기반 보고서와 독립적인 위성 데이터 간의 불일치를 포착함으로써 위기 상황을 차단하는 데 결정적인 역할을 했다. 이 과정에서 분석가들은 선박 내부에서 핵 관련 물질이 존재하지 않음을 확인하고, AI가 만든 가설이 실제 상황과 괴리됨을 입증했다. 그러나 재검토가 이루어지기까지 이미 동원된 특수작전 부대와 전투기 준비 상태를 고려하면, 초기 검증 단계에서의 부실이 초래한 위험은 이미 상당히 고조된 상태였다는 점을 간과할 수 없다. 이러한 사례는 AI가 제공하는 초기 인텔리전스가 최종 의사결정에 직접 연결되기 전에, 다중 단계의 검증 메커니즘을 반드시 포함해야 함을 시사한다.

AI 오류가 전파될 수 있었던 핵심 요인으로는 단일 초안에만 의존하고 독립 검증을 수행하지 않은 조직 문화, 기밀 신호와 공개 데이터를 통합하면서도 인간이 조정할 수 없는 복합 데이터 흐름, 그리고 공식 문서 형식을 모방함으로써 신뢰도를 인위적으로 높인 점 등이 있다. 이러한 요인들은 모두 인간의 판단이 AI 결과에 의해 압도되는 상황을 만들며, 결국 검증 의무가 사라진다면 잘못된 정보가 전술적 결정을 좌우할 위험이 커진다. 따라서 조직 차원에서 AI 활용 정책을 재정비하고, 자동 생성된 보고서에 대한 최소한의 인간 검증 단계를 법제화하는 것이 필수적이다.

이번 사건이 보여준 바와 같이, 인공지능이 군사 정보 분석, 표적 지정, 물류 관리 등에 깊숙이 침투하면서도 검증 거버넌스가 파편화된 상태에서는 실수의 파급 효과가 급격히 확대될 수 있다. 특히, AI가 생산 속도를 높이고 근거를 숨긴 채 잠정적 추측을 공식 문서처럼 제시할 경우, 인간이 최종 의사결정 루프에 참여하더라도 그 판단이 왜곡될 위험이 존재한다. 따라서 AI 시스템이 제공하는 모든 출력물에 대해 출처 명시와 함께 다층 검증 절차를 적용하고, 최종 승인을 담당하는 인간이 독립적인 검증 결과를 반드시 확인하도록 하는 체계적 방어선이 필요하다.

이와 같은 교훈은 방위산업체와 군 관계자들에게 AI 기반 정보 처리에 대한 경고 신호로 작용한다. 알고리즘 오류가 실제 충돌이나 근접 위협으로 이어질 가능성을 최소화하려면, AI가 생성한 정보는 다중 검증 절차와 명확한 출처 표기를 거쳐 인간 최종 승인을 받아야 한다는 원칙을 확고히 해야 한다. 또한, AI 활용에 대한 정책적 가이드라인을 정립하고, 검증 책임을 명확히 배정함으로써 조직 전체가 동일한 검증 기준을 공유하도록 해야 한다. 이러한 보호 장치가 부재할 경우, 향후 발생할 수 있는 유사한 오류는 더욱 심각한 국제적 긴장을 초래할 위험이 있다.

한국의 방위산업체와 군 관계자들에게 이 사건은 중요한 경고가 된다. AI가 생성한 정보는 다층 검증 절차와 출처 명시, 인간 최종 승인을 거치지 않으면 공식 문서로 취급해서는 안 된다. 이러한 보호 장치가 없으면 알고리즘 오류가 실제 충돌이나 근접 위협으로 이어질 위험이 계속해서 커진다.