Meta, AI 검증을 추가해 아동 성학대 자료로 연결되는 광고 탐지

Meta는 이제 대규모 언어 모델을 사용하여 광고의 시각적 콘텐츠뿐만 아니라 외부 사이트의 불법 또는 유해한 활동을 가리키는 겉보기에 무해한 메시지인 “signposting” 역할을 할 수 있는 텍스트도 분석한다고 밝혔습니다. 모델은 텍스트와 이미지 사이의 의미적 연관성을 파악하고, 문맥을 고려해 위험성을 평가합니다. Meta에 따르면, 이 접근 방식은 겉으로는 정책을 준수하는 것처럼 보이지만 실제로는 미성년자 성착취 자료로 연결되는 입구 역할을 하는 캠페인을 식별할 수 있게 합니다. 따라서 광고가 보이는 형태와 실제 목적지 사이의 차이를 보다 정밀하게 감지할 수 있게 되었습니다.

AI 기반 탐지 방식

새로운 알고리즘은 광고 텍스트를 분석하고 이를 아동 착취와 연관된 키워드 및 언어 패턴 데이터베이스와 교차 검증합니다. 모델이 signposting의 징후를 감지하면, 검토는 시각적 요소에만 국한하지 않고 광고에 포함된 링크의 목적지를 고려합니다. 해당 URL이 학대 자료를 호스팅하는 사이트로 연결될 경우, 광고는 즉시 차단되고 해당 계정은 추가 보안 조치를 받게 됩니다. 이 과정에서 자동화된 판단 뒤에 인간 검토자가 최종 확인을 수행해 오탐지를 최소화하도록 설계되었습니다.

강화 조치 및 내부 감사

실시간 탐지 외에도 Meta는 기존 시스템이 놓친 콘텐츠를 식별하기 위해 이미 게시된 광고를 재검토하는 사후 스캔을 도입했습니다. 또한 회사는 위반자가 새로운 회피 기술을 사용하기 전에 이를 탐지하기 위해 회피 시도를 시뮬레이션하는 “레드팀” 에이전트가 존재한다고 설명합니다. 이 과정은 점점 더 정교해지는 전략에 대비해 필터를 최신 상태로 유지하는 것을 목표로 합니다. 레드팀은 다양한 시나리오를 테스트해 시스템의 허점을 찾아내고, 그 결과를 바탕으로 알고리즘을 지속적으로 업데이트합니다.

Meta는 차단된 후 새로운 프로필을 만든 계정에 대한 모니터링도 강화했습니다. 의심스러운 행동 패턴이 감지되면 플랫폼은 해당 계정을 비활성화하고 광고 스킴과 연관된 외부 링크를 차단합니다. 이러한 조치는 이미 아동 성학대 자료 출처로 확인된 URL을 자동으로 차단하는 조치와 함께 이루어집니다. 계정 활동 로그와 연결된 메타데이터를 분석해 재발 가능성을 사전에 차단하는 체계가 마련되었습니다.

보고된 결과 및 한계

Meta가 공개한 수치에 따르면, 2026년 1월부터 6월 사이에 인도에서 Facebook과 Instagram에 게재된 아동 성착취 콘텐츠 530만 건이 “조치”되었으며, 이 중 98% 이상이 사용자가 신고하기 전에 감지되었습니다. 전 세계적으로는 같은 기간에 총 3320만 건이 “조치”된 것으로 보고되었지만, 실제로 얼마나 많은 콘텐츠가 삭제되었는지 혹은 다른 억제 조치가 적용되었는지는 상세히 밝히지 않았습니다. 보고 방식은 내부 로그와 자동 감지 결과를 기반으로 하며, 구체적인 삭제 비율은 별도 공개되지 않았습니다.

Meta 자체도 98% 지표가 신고 이전에 발견된 콘텐츠에만 해당하며, 탐지되지 않은 자료의 양은 공개하지 않았다고 인정했습니다. 또한, 사후 스캔 과정에서 은폐된 광고가 얼마나 승인, 식별 또는 삭제되었는지에 대한 데이터도 공개하지 않아 새로운 도구의 전반적인 효율성을 평가하는 데 중요한 공백이 남습니다. 이러한 투명성 부족은 외부 감시 단체가 정확성을 검증하기 어렵게 만들고, 추가적인 독립 평가를 요구하는 목소리를 낳고 있습니다.

이 조치는 BBC가 인도 Instagram에서 유료 광고가 아동 성학대 자료를 홍보하고 외부 채널로 사용자를 유도한다는 조사 결과에 이어 나왔습니다. 이에 인도 당국은 전자·정보기술부(MeitY), 아동 권리 보호 국가 위원회, 인권 국가 위원회를 포함한 여러 절차를 개시했습니다. 조사 배경에는 광고가 숨겨진 경로를 통해 불법 콘텐츠에 접근하도록 설계된 사례가 있었으며, 정부는 이를 근절하기 위한 법적·행정적 조치를 동시에 진행하고 있습니다.

Meta는 이제 아동 안전 사례를 미국 NCMEC가 아니라 인도 국가 사이버 범죄 신고 포털에 직접 보고한다고 밝혔습니다. 이 변화는 현지 당국과의 협력을 강화하고 아동 착취 사건에 대한 대응 속도를 높이기 위한 것입니다. 보고 절차는 실시간으로 전송되며, 해당 포털을 통해 관련 기관이 즉시 조치를 취할 수 있도록 설계되었습니다.

기업이 새로운 기능과 전 세계적인 조치 수치를 상세히 제시했지만, 독립적인 감사기관이 알고리즘의 정확성이나 위양성·위음성 비율을 검증한 바 없습니다. 따라서 이러한 주장은 외부 검증 없이 기업의 주장에 머물러 있으며, 실제 조치의 효과를 확인할 외부 증거가 부족합니다. 외부 검증이 이루어지지 않을 경우, 정책의 실효성을 판단하기 어려워지는 점이 지적되고 있습니다.

광고주와 플랫폼에게 실질적인 변화는 겉보기에 무해한 크리에이티브라도 링크 목적지, 계정 이력 또는 주변 행동이 사용자를 불법 콘텐츠로 유도하려는 시도로 보일 경우 검토 대상이 된다는 점입니다. 이는 더 엄격한 감시와 게시 전 인간 개입 가능성을 의미하며, 광고주가 자신의 광고가 아동 착취의 전면으로 사용되지 않도록 책임을 강화합니다. 광고 검토 과정에서 추가적인 확인 절차가 도입되어, 위험 요소가 발견될 경우 즉시 수정 또는 중단이 요구됩니다.

결론적으로, Meta의 AI 기반 탐지 시스템은 기존 정책을 보완하고 새로운 위협에 대응하기 위한 중요한 단계로 평가됩니다. 그러나 투명성 확보와 외부 검증이 동반되지 않는 한, 실제 효과와 한계를 정확히 파악하기는 어려운 상황입니다. 지속적인 감시와 독립적인 평가가 병행될 때, 아동 성학대와 관련된 광고를 근본적으로 차단할 수 있는 기반이 마련될 것입니다.