호주, 알고리즘 옵트아웃 버튼 추진…미국은 검열 위험 제기

호주 정부는 디지털 돌봄 의무(Digital Duty of Care)를 초안으로 마련하고 있으며, 이 의무는 소셜 미디어 플랫폼이 사용자가 알고리즘 타임라인을 끄고 팔로우하는 계정의 게시물을 연대순으로 볼 수 있는 옵션을 정기적으로 제공하도록 요구한다.

제안된 의무의 적용 범위

옵트아웃 메커니즘 외에도, 이 법안은 플랫폼이 유해 콘텐츠를 식별하고 완화하도록 요구한다. 특히 18세 미만 사용자에게 영향을 미치는 신체 이미지 압박이나 온라인 괴롭힘 같은 내용에 중점을 둔다.

eSafety 위원회는 인증된 연구원들과 함께 시뮬레이션된 미성년자 프로필이 알고리즘 피드와 연대순 피드를 어떻게 경험하는지 테스트할 권한을 부여받게 되며, 이를 통해 위험 감소 전략에 필요한 데이터를 제공한다.

잠재적 벌금 및 집행

ABC 뉴스에 따르면, 새로운 규정을 위반할 경우 1억 호주달러를 초과하는 벌금이 부과될 수 있다. 이는 호주 내 글로벌 기술 기업들의 준수를 강제하려는 강경한 규제 입장을 나타낸다.

• 모든 사용자를 위한 필수 옵트아웃 토글
• 시뮬레이션된 미성년자 프로필을 통한 정기 테스트
• 유해 콘텐츠 평가 및 감소 의무
• 위반당 1억 호주달러 초과 벌금

호주 재무부는 이러한 재정적 벌금이 억제 효과를 발휘해 플랫폼이 자발적 조치에 의존하기보다 강력한 콘텐츠 모더레이션 시스템에 투자하도록 만들 것이라고 추정한다.

미국 외교 및 산업계 반응

캔버라 주재 미국 대사관은 법안에 포함된 ‘해악’ 정의가 모호해 과도한 검열로 이어질 위험이 있다며, 정부가 승인한 기준에 맞지 않는 의견이 침묵될 수 있다고 경고했다.

미국 관계자는 설계 수준의 의무가 독립 언론인의 도달 범위를 축소시킬 수 있다고 우려했으며, 플랫폼이 벌금을 회피하기 위해 논란이 될 수 있는 콘텐츠를 사전 차단할 가능성을 지적했다.

비평가들은 호주의 접근 방식이 다른 관할권에도 선례를 남겨 규제 압력이 국경을 넘어 확산될 수 있다고 주장한다.

앤소니 알바니즈 총리는 이번 입법이 국가가 아니라 개인에게 통제권을 되돌려 주는 것이며, 소셜 피드가 어떻게 구성되는지에 대한 개인의 선택을 강조한다고 답변했다.

하지만 초안은 아직 변동 가능성이 있다. 유해 콘텐츠 정의, 옵트아웃 요구 사항의 정확한 범위, 그리고 국회 투표 일정 등은 여전히 논의 중이다.

호주가 제시한 디지털 돌봄 의무는 단순히 옵션을 제공하는 수준을 넘어, 플랫폼이 사용자 인터페이스 설계 단계에서 옵트아웃 토글을 눈에 띄게 배치하도록 강제한다는 점에서 중요한 의미를 가진다. 이는 사용자가 알고리즘 피드와 연대순 피드 사이를 자유롭게 전환할 수 있도록 하여, 개인의 정보 흐름에 대한 통제권을 회복시키려는 시도이다. 그러나 이러한 의무가 실제 구현되는 과정에서 발생할 수 있는 기술적 제약과 사용자 경험(UX) 측면의 복잡성을 무시할 경우, 옵션 자체가 형식적인 장치에 머무를 위험이 있다. 따라서 정책 입안자는 플랫폼이 옵션을 제공하는 방식, 예를 들어 기본값 설정, 토글 위치, 접근성 표준 등을 구체적으로 규정하고, 이를 위반했을 때의 제재 기준을 명확히 해야 한다. 이는 단순히 ‘옵션 제공’이라는 문구에 머무르지 않고, 실질적인 선택 가능성을 보장하기 위한 구체적 실행 지침을 마련함으로써 정책의 실효성을 높일 수 있다.

옵트아웃 메커니즘과 병행하여 요구되는 유해 콘텐츠 식별 및 완화 의무는 현재 정의된 ‘해악’ 범주의 모호성 때문에 실질적인 적용에 한계가 있다. 특히 신체 이미지 압박이나 온라인 괴롭힘과 같은 민감한 주제는 문화적·사회적 차이에 따라 해석이 달라질 수 있다. 이로 인해 플랫폼이 과도하게 검열하거나 반대로 충분히 대응하지 못하는 상황이 발생할 수 있다. 따라서 규제 당국은 ‘해악’ 정의를 구체적인 사례와 함께 단계적으로 세분화하고, 정기적인 검토 절차를 도입해 정의가 시대적 변화에 맞게 조정되도록 해야 한다. 또한, 플랫폼이 자체적인 위험 평가 모델을 투명하게 공개하고, 외부 전문가와 협력해 검증받는 메커니즘을 마련한다면, 모호함을 최소화하고 정책 목표인 청소년 보호와 표현의 자유 사이의 균형을 유지할 수 있다.

eSafety 위원회가 시뮬레이션된 미성년자 프로필을 활용해 알고리즘 피드와 연대순 피드의 차이를 테스트하는 권한은 검증 절차의 핵심적인 부분을 차지한다. 이러한 테스트는 실제 미성년자 사용자 행동을 대변하는 가상의 시나리오를 통해 위험 요소를 사전에 파악하고, 플랫폼이 필요한 조치를 취하도록 압력을 가한다. 그러나 시뮬레이션 결과가 실제 사용자 경험을 완벽히 재현하지 못할 경우, 정책 입안자는 테스트 설계에 대한 지속적인 피드백 루프를 구축하고, 다양한 연령대와 사용 패턴을 반영한 다중 프로필을 도입해야 한다. 또한, 테스트 결과를 공개하고 플랫폼이 개선 조치를 이행했는지 독립적인 감사 기관이 검증하도록 함으로써, 투명성을 확보하고 규제 신뢰성을 강화할 수 있다.

벌금 제재는 규제 효과를 강화하는 수단으로 제시되었지만, 실제 억제 효과는 기업의 재무 구조와 법적 대응 전략에 따라 달라진다. 1억 호주달러 이상의 벌금이 부과될 경우, 대형 글로벌 기업은 법적 비용과 이미지 손실을 최소화하기 위해 사전 투자와 내부 정책 개편을 선택할 가능성이 높다. 반면 중소 규모 플랫폼은 재정적 부담이 과도해 사업 지속 자체가 위협받을 수 있다. 따라서 입법자는 벌금 규모와 함께 차등 적용 방안을 검토하고, 위반 정도에 따라 단계적 제재(경고, 시정 명령, 제한 조치 등)를 도입함으로써 기업 규모와 상황에 맞는 균형 잡힌 억제 메커니즘을 구축해야 한다.

미국의 검열 위험 우려와 관련해, 모호한 ‘해악’ 정의가 실제 콘텐츠 검열에 어떻게 적용될지에 대한 불확실성은 국제적인 규제 조화에 장애 요소가 된다. 호주의 규제가 다른 국가의 법적 기준과 충돌할 경우, 다국적 플랫폼은 각 국가별로 상이한 정책을 적용해야 하는 복잡한 상황에 직면한다. 이때 발생할 수 있는 가장 현실적인 문제는 동일한 콘텐츠가 한 국가에서는 허용되고 다른 국가에서는 차단되는 상황이며, 이는 사용자 신뢰를 저해하고 법적 분쟁을 초래한다. 따라서 호주는 국제 표준과의 정합성을 검토하고, 다자간 협의를 통해 ‘해악’ 정의를 보다 객관적이고 측정 가능한 지표로 전환함으로써, 국제적인 규제 충돌을 최소화하고 플랫폼이 일관된 운영 방침을 유지하도록 지원해야 한다.

한국어 사용 조직에게 실질적인 영향을 미치는 두 가지 주요 과제는 옵트아웃 기능의 준수 여부 감사와 eSafety 관계자의 콘텐츠 모더레이션 정책 검토이다. 첫 번째 과제는 플랫폼이 제공하는 옵트아웃 토글이 실제로 작동하고, 사용자에게 명확히 안내되는지를 확인하는 절차를 포함한다. 이 과정에서 조직은 내부 감시 체계를 구축하고, 정기적인 자체 점검을 통해 규정 위반 위험을 사전에 차단해야 한다. 두 번째 과제는 새로운 유해 콘텐츠 평가 기준에 맞춰 기존 모더레이션 프로세스를 재구성하는 것으로, 특히 미성년자 대상 위험 요소를 식별하고 대응하는 절차를 강화한다. 이를 위해 조직은 정책 문서를 최신화하고, 담당 인력을 재교육하며, 외부 감시 기관과의 협업 체계를 마련한다. 이러한 실무적 대응이 성공적으로 이루어질 경우, 막대한 벌금을 회피하고 동시에 편집 자유와 사용자 보호라는 두 축을 균형 있게 유지할 수 있다.

한국어 사용 조직에게 실질적인 영향은 두 가지다. 첫째, 플랫폼이 옵트아웃 기능을 충족하는지 감사를 진행해야 하며, 둘째, eSafety 관계자의 감사에 대비해 콘텐츠 모더레이션 정책을 새 기준에 맞게 검토해야 한다. 이를 통해 막대한 벌금을 피하고 편집 자유를 유지할 수 있다.