애리조나 항소법원, AI로 만든 피해자 영상에 근거한 형량을 무효화

애리조나 항소법원은 가브리엘 폴 호르카시타스의 과실치사 유죄 판결은 그대로 두면서 2025년 5월에 선고된 10년 반 징역형을 무효화하는 분리 결정을 내렸습니다. 항소 패널은 원심에서 제시된 AI‑생성 피해자 영향 영상이 절차적 정의에 심각한 문제를 야기했다고 밝혔습니다.

호르카시타스는 2021년 11월 애리조나 챈들러의 신호등 앞에서 도로 분노 충돌로 37세 크리스토퍼 펠키를 사살한 혐의로 과실치사죄를 선고받았습니다. 사건 당시 펠키는 무장하고 있지 않았습니다.

AI‑생성 피해자 영향 진술

2025년 5월 선고 과정에서 펠키의 가족은 사망자를 대신해 약 4분 길이의 합성 영상을 제출했습니다. 이 영상은 인공지능을 이용해 펠키의 모습을 재현했으며, 그의 여동생이 작성한 스크립트를 기반으로 제작되었습니다.

영상 속 합성 펠키는 용서를 이야기하며, 다른 삶에서는 호르카시타스와 친구가 될 수도 있었다고 말했습니다. 진술은 구체적인 형량을 요구하지 않았지만, 판사는 “영상이 마음에 들었다”고 밝히며 검찰이 제시한 형량보다 높은 최대 형을 선고했습니다.

항소 이유와 절차적 문제

항소 패널은 이 영상이 사망자의 실제 진술이 아닌 상상된 생각을 실제 발언처럼 제시했기 때문에 신뢰할 수 없다고 판단했습니다. 이러한 오해는 형량 결정 과정의 무결성을 해친다고 지적했습니다.

피고 측은 스크립트를 누가 작성했는지, 혹은 펠키의 견해를 정확히 반영했는지에 대해 실질적인 이의를 제기할 기회를 박탈당했습니다. 패널은 이를 절차적 정의 위반으로 보고, 법원이 방어 측이 반박할 수 없는 자료에 의존한 점을 문제 삼았습니다.

검찰과 피해자 가족 입장

검찰은 가족이 법정에 진술하려는 의도는 알았지만 AI 영상이 사용될 것이라는 사실은 사전에 인지하지 못했다고 주장했습니다. 피해자 대표는 애리조나 법이 사전 고지 없이 서면, 음성, 영상 진술을 허용한다는 점을 내세웠지만, 항소법원은 이를 절차적 보호 장치를 넘어서는 근거로 보지 않았습니다.

• 유죄 판결은 유지
• 원래 10.5년 형량이 무효화
• 새로운 형량 선고 절차가 필요
• 합성 피해자 진술 자료의 향후 사용은 강화된 심사를 받게 됨

이번 판결이 법정 내 인공지능 사용을 전면 금지하는 것은 아닙니다. 행정 및 연구 목적의 AI 활용은 사법 시스템 전반에 계속 확대되고 있으며, 이번 결정은 형량 선고 시 제시된 합성 피해자 영향 진술에만 국한됩니다.

법학자들은 이번 사례가 사망자의 목소리를 전달한다는 주장하에 AI‑생성 증거의 허용 여부를 평가하는 선례가 될 수 있다고 지적합니다. 이는 공개, 진위 확인, 방어 측이 해당 자료에 이의를 제기할 권리 등을 명확히 규정하는 절차 규칙의 필요성을 강조합니다.

AI‑생성 증거가 형량 결정에 미치는 영향을 검토하면서, 법원은 먼저 증거의 신뢰성을 평가하는 절차적 기준을 명확히 해야 한다는 점을 강조한다. 기존 판례에서는 증언이나 물리적 증거가 직접적인 사실 확인을 가능하게 하는 경우에만 인정되었지만, 이번 사안은 가상의 발언을 실제 진술로 오인하게 만드는 위험성을 내포한다. 따라서 법관은 증거가 실제 인물의 의사표현을 대변한다는 전제 하에 그 진위와 출처를 독립적으로 검증할 수 있는 메커니즘을 마련해야 하며, 이는 증거 제출 단계에서 전문가 감정과 함께 투명한 검증 절차를 포함하도록 확대될 필요가 있다.

절차적 정의의 한계는 피고 측이 제기할 수 있는 반론 기회의 부재에서 명확히 드러난다. AI 영상이 법정에 제출될 경우, 방어 측은 해당 자료가 어떻게 생성되었는지, 어떤 데이터와 알고리즘이 사용되었는지를 상세히 파악할 권리가 있다. 그러나 현재 규정은 이러한 기술적 세부 사항을 요구하지 않으며, 결과적으로 피고는 실질적인 방어를 할 수 없는 상황에 놓인다. 이는 형량 결정 과정에서 일방적인 증거 의존을 초래해, 공정한 재판을 보장하는 기본 원칙과 충돌한다는 점에서 제도적 보완이 요구된다.

검증 과정에서 필요한 요소는 크게 세 가지로 구분된다. 첫째, AI 생성물에 대한 메타데이터와 생성 로그를 확보해 누가, 언제, 어떤 목적으로 제작했는지를 명확히 밝히는 것이다. 둘째, 독립적인 기술 감정기관이 해당 영상의 변조 여부와 원본 데이터와의 일치성을 과학적으로 입증해야 한다. 셋째, 피고와 검찰 양측이 동일한 정보에 접근할 수 있도록 공개 범위를 제한 없이 확대함으로써, 불균형적인 정보 활용을 방지한다. 이러한 절차가 체계화되면, 법정에서 AI 증거가 차지하는 비중을 합리적으로 조정할 수 있다.

실제 형량 재판에 AI‑생성 진술이 사용될 경우, 그 결과는 형량의 양적·질적 측면 모두에 영향을 미친다. 양적으로는 기존 형량 가이드라인을 초과하거나 축소하는 근거로 활용될 위험이 존재한다. 질적으로는 피해자의 감정적 호소가 판사의 판단에 과도하게 작용해, 법리적 근거보다 감성적 요소가 우선시되는 판결을 초래할 수 있다. 따라서 법원은 AI 진술을 형량 산정의 보조 자료로 제한하고, 핵심 판단은 객관적 증거와 법정 논리에 기반하도록 규정해야 한다.

향후 실무적 적용을 위해서는 AI 콘텐츠 제공 업체와 법조계 간의 협업 체계가 필요하다. 업체는 모든 합성 진술에 대해 명확한 라벨링과 출처 표기를 의무화하고, 법원은 이러한 라벨을 검증 기준으로 채택한다. 또한, 법원은 AI 증거 제출 전 사전 심사를 의무화하여, 해당 자료가 절차적 요건을 충족하는지 여부를 사전에 판단하도록 한다. 이와 같은 사전 검토 절차는 소송 지연과 비용 증가를 최소화하면서도, 법적 신뢰성을 확보하는 데 기여한다.

마지막으로, 이번 판결이 시사하는 장기적 사회적 파장은 AI 기술이 사법 영역에 미치는 영향에 대한 공론화와 입법적 대응을 촉구한다는 점이다. AI‑생성 증거의 허용 범위를 명문화하고, 위법 사용 시 제재 조항을 포함한 전용 법규를 제정함으로써, 기술 발전과 법적 안정성 사이의 균형을 유지할 수 있다. 이러한 제도적 뒷받침은 법적 예측 가능성을 높이고, 궁극적으로는 사법 정의가 기술적 혁신에 의해 훼손되지 않도록 보호한다.

한국의 법률·기술 기업에게 이번 판결은 AI 도구를 활용한 증거 제출 시 절차적 준수를 재점검하라는 신호입니다. AI‑생성 콘텐츠를 제공하는 기업은 모든 합성 진술이 명확히 라벨링되고, 모든 당사자에게 완전히 공개되며, 검증 가능한 출처를 동반해야 합니다. 이를 위반하면 절차적 위반을 근거로 항소가 제기될 수 있어 소송이 지연되고 비용이 증가할 위험이 있습니다.