AI가 만든 대량 이메일 스크립트, Bee Cheng Hiang 고객 95,364명 이메일 주소 노출

2026년 4월, 싱가포르 기반 육포 스낵 제조업체 Bee Cheng Hiang의 직원이 생성형 AI 도구를 이용해 SendGrid를 통해 마케팅 캠페인을 전송하는 파이썬 스크립트를 작성했습니다. AI에 제시한 프롬프트는 내부 목록에서 주소를 가져오는 대량 메일링 솔루션을 요구했지만, 수신자 주소를 숨겨야 한다는 조건은 명시하지 않았습니다.

AI가 만든 코드는 각 배치의 이메일 주소를 블라인드 카본 복사(BCC)가 아닌 표준 "To" 필드에 넣었습니다. 그 결과, 한 배치의 모든 수신자는 다른 수신자들의 전체 이메일 주소 목록을 확인할 수 있었습니다.

침해 범위

스크립트가 실행되면서 마케팅 메시지는 95,364개의 개별 고객 주소로 전송되었습니다. 노출된 데이터는 이메일 주소뿐이며, 비밀번호, 결제 정보 또는 메시지 내용은 포함되지 않았습니다.

직원은 테스트 중 활동 로그를 확인했지만 실제 수신자 목록을 확인하기 위해 테스트 이메일을 열어보지는 않았습니다. 따라서 가시성 오류는 대량 배포가 진행 중일 때까지 발견되지 않았습니다.

규제 당국의 대응

싱가포르 개인정보보호위원회(PDPC)는 이번 사건을 해당 기관에 보고된 최초의 AI 관련 데이터 침해로 분류했습니다. 규제 기관은 침해가 AI 도구 자체의 오작동이 아니라 스크립트 개발 및 배포 과정에서 발생한 인간 오류에 기인한다고 강조했습니다.

PDPC는 노출된 데이터가 AI 시스템에 의해 처리되거나 생성된 것이 아니라고 밝혀, 침해가 AI 보조 코드를 어떻게 사용했는지에 따른 결과이며 기술 자체의 내재적 위험이 아니라는 점을 재확인했습니다.

Bee Cheng Hiang의 복구 조치

• 대량 이메일 발송 즉시 중단
• 모든 수신자 배치에 BCC 적용하도록 스크립트 수정
• 전용 이메일 및 공개 성명을 통해 영향을 받은 모든 고객에게 통보
• 두 명 이상의 직원이 승인해야만 대량 커뮤니케이션을 전송하도록 이중 검증 정책 도입

PDPC는 유출된 주소가 추가 피싱이나 스팸 캠페인에 사용된 증거를 찾지 못했습니다. 벌금 부과 대신, 위원회는 Bee Cheng Hiang이 데이터 보호 관행을 강화하겠다는 자발적 약속을 받아들였습니다.

결정문에서 규제 기관은 AI 보조 도구를 도입할 때 데이터 보호 영향 평가를 수행하고, AI 사용에 대한 명확한 정책을 수립하며, 코드를 실운영에 투입하기 전에 로그뿐 아니라 실제 출력물을 검증하는 테스트를 실시할 것을 권고했습니다.

이 사건에서 드러난 핵심적인 교훈은 AI가 자동으로 생성한 코드를 실무에 적용하기 전, 인간이 수행해야 하는 검증 단계가 얼마나 중요한지를 명확히 보여준다는 점이다. 스크립트가 BCC 대신 To 필드를 사용하도록 설계된 것은 프롬프트에 명시된 ‘수신자 주소 숨김’ 요구사항이 누락된 결과이며, 이는 AI 도구가 제공하는 기본적인 코드 템플릿을 그대로 받아들였을 때 발생할 수 있는 일반적인 오류 형태다. 따라서 AI 활용 시, 요구사항을 구체적으로 정의하고, 생성된 코드가 실제 비즈니스 규칙을 충족하는지 확인하는 절차가 필수적이다.

검증 과정의 한계는 로그 검토만으로는 드러나지 않는 실행 결과의 차이를 포착하지 못한다는 점에 있다. 직원이 테스트 로그를 확인했지만, 실제 수신자 목록을 열어보지 않은 것은 출력물 자체에 대한 검증 부재를 의미한다. 이는 로그에 기록된 정보와 실제 메일 헤더가 일치하지 않을 가능성을 내포하며, 이러한 불일치는 데이터 노출 위험을 증폭시킨다. 따라서 로그 분석과 더불어 실전 메일 발송 전 샘플을 통한 헤더 검증, 자동화된 테스트 스크립트 적용이 필요하다.

법적·규제적 관점에서 이번 사건은 AI 보조 도구의 오작동이 아니라 인간 오류가 핵심 원인임을 명확히 함으로써 책임 소재를 구분한다. 규제 당국이 AI 자체의 위험보다는 개발·배포 단계에서의 인간 실수를 강조한 것은 향후 기업이 AI 도입 시 위험 평가를 수행하고, 내부 통제 절차를 강화하도록 유도한다. 이는 AI 활용 정책 수립과 데이터 보호 영향 평가를 의무화함으로써, 유사한 사고를 사전에 방지하는 근거를 제공한다.

복구 조치의 실효성을 평가하기 위해서는 즉각적인 발송 중단과 스크립트 수정 외에도, 장기적인 모니터링 체계가 필요하다. BCC 적용을 강제하고 이중 검증 정책을 도입했지만, 이러한 조치가 실제로 모든 직원에게 일관되게 적용되는지 확인하는 지속적인 감사가 뒤따라야 한다. 또한, 영향을 받은 고객에게 통보한 후 추가적인 피싱 시도나 스팸 활용 여부를 감시하는 외부 모니터링도 중요한 방어선이 된다.

실제 데이터 노출이 이메일 주소에 국한되었다 하더라도, 개인정보보호법상 식별 가능한 개인 정보로 간주될 수 있다. 따라서 기업은 노출된 정보가 추가적인 공격에 활용될 가능성을 염두에 두고, 고객에게 보안 인식 교육을 제공하고, 의심스러운 활동에 대한 신고 절차를 명확히 안내해야 한다. 이는 단순히 기술적인 수정에 머무르지 않고, 고객 신뢰 회복을 위한 포괄적인 대응 전략을 요구한다.

한국 기업이 이번 사례에서 얻을 수 있는 실질적인 시사점은 AI 생성 코드를 도입할 때, 사전 검증 단계에 대한 구체적인 체크리스트를 마련하고, 코드 리뷰와 자동화된 테스트를 결합한 다층 방어 체계를 구축해야 한다는 것이다. 특히 이메일 발송과 같은 민감한 데이터 처리 과정에서는 BCC 사용을 의무화하고, 헤더 분석 도구를 통해 실시간으로 주소 노출 여부를 검증하는 것이 필수적이다. 이러한 예방적 조치를 통해 AI 활용의 효율성을 유지하면서도 개인정보 보호 위험을 최소화할 수 있다.

한국 기업에게 이번 사건은 AI가 생성한 운영 코드를 적용할 때 구체적인 검증 절차가 필요함을 강조합니다. 로그 검토만으로는 실제 출력에서만 나타나는 기능적 결함을 놓칠 수 있습니다. 동료 검토, 이메일 헤더 자동 테스트, BCC 사용 의무화 등을 도입하면 개인 데이터 노출을 방지할 수 있습니다.