유럽 AI 텍스트 워터마크, 새로운 법적 요구에도 여전히 쉽게 제거 가능

유럽 연합이 2026년 8월에 시행을 목표로 하고 있는 AI 규제 조항 제50조는, 생성형 인공지능 시스템을 제공하는 기업이나 조직이 해당 시스템이 만든 텍스트 콘텐츠에 ‘기술적으로 가능한 범위 내에서’ 탐지 가능한 신호를 삽입하도록 강제한다. 이 조항은 특히 비공개 혹은 비상업적인 합성 텍스트에 대해서도 법적 근거를 마련해, 규제 당국이 인위적으로 만든 텍스트와 인간이 쓴 텍스트를 구분할 수 있게 하려는 의도였다.

하지만 텍스트는 그 자체가 매우 압축 가능한 매체이기 때문에, 의미와 스타일, 가독성을 유지하면서 동시에 눈에 보이지 않는 마커를 삽입한다는 요구는 실질적인 충돌을 일으킨다. 이미지가 픽셀 단위의 미세한 변형을 통해 압축 손실을 견디는 것과 달리, 텍스트는 문자와 공백 사이에 숨겨진 패턴을 위한 공간이 거의 남지 않아, 워터마크를 삽입하기가 매우 까다롭다.

토큰 기반 통계 워터마크

구글이 발표한 SynthID는 확률적 토큰 선택 방식을 활용한 대표적인 사례다. 생성 과정에서 특정 토큰을 의도적으로 편향시켜 선택함으로써, 인간 눈에 보이지 않는 통계적 지문을 남긴다. 이러한 지문은 사전에 훈련된 분류기가 텍스트를 분석했을 때, 일반적인 언어 모델이 만든 결과와는 미묘하게 다른 토큰 분포를 보여줌으로써 탐지가 가능하게 만든다.

하지만 이 방법의 신뢰성은 텍스트가 실제로 사용되는 환경에 크게 좌우된다. 다운스트림 사용자가 생성된 출력을 재작성하거나, 자동 패러프레이징 도구를 이용해 문장을 바꾸면 토큰 순서가 변하고, 결과적으로 워터마크가 사라진다. 따라서 토큰 기반 워터마크는 원본 텍스트가 그대로 유지되는 경우에만 일정 수준의 효과를 기대할 수 있다.

유니코드 동형문자 워터마크

두 번째로 제안된 기술은 유니코드 동형문자를 활용하는 방식이다. 이 방법은 표준 문자와 시각적으로는 동일하지만 코드 포인트가 다른 문자, 예를 들어 일반 공백처럼 보이지만 실제로는 비공백 문자(Zero Width Space, Non‑Breaking Space 등)를 텍스트 전역에 무작위로 삽입한다. 이렇게 하면 눈에 보이는 내용은 변함이 없지만, 특정 패턴을 추적할 수 있는 저비용 마커가 형성된다.

그러나 대부분의 텍스트 처리 파이프라인은 유니코드 정규화 과정을 자동으로 수행한다. 정규화 단계에서 동형문자와 같은 변형은 표준 형태로 변환되면서 사라지게 되며, 결과적으로 원본 텍스트는 그대로 보이지만 워터마크는 제거된다. 이는 워터마크가 실제 배포와 사용 단계에서 쉽게 사라질 수 있음을 의미한다.

메타데이터와 C2PA 서명

Content Authenticity Initiative이 만든 C2PA 서명은 파일에 디지털 서명을 삽입해 출처와 진위 여부를 검증할 수 있게 설계되었다. 하지만 텍스트가 채팅 창이나 웹 에디터에서 복사·붙여넣기 될 때, 해당 서명이 포함된 메타데이터는 함께 전달되지 않는다. 결과적으로 원본 파일이 아닌 순수 텍스트만 남게 되면서 서명은 사라지고, 검증 가능성도 사라진다.

• 토큰 편향 워터마크(예: SynthID)는 통계적 토큰 분포에 의존합니다
• 동형문자 삽입은 시각적으로 동일한 유니코드 문자를 사용합니다
• 두 기술 모두 패러프레이징이나 유니코드 정규화로 제거될 수 있습니다
• 텍스트 복사 시 C2PA 메타데이터가 분리되어 폐기될 수 있습니다

Sean Goedecke가 자신의 블로그에 올린 글에서는 일부 AI 제공자가 동형문자 워터마크를 실험하고 있을 가능성을 언급한다. 하지만 그는 이를 확인된 관행이라기보다 추측에 가깝게 표현했으며, 공식적인 증거가 부족하다는 점을 강조한다. 이러한 불확실성은 업계가 해당 기술을 실제로 채택할지 여부를 판단하는 데 큰 장애물이 된다.

EU가 규제 프레임워크 안에서 상호운용성과 투명성을 강조하며 합법적인 검증 절차를 간소화하려는 목표와는 달리, 워터마크 알고리즘 자체를 비밀에 부쳐 보호하려는 접근은 역효과를 낳는다. 탐지 방법이 공개되면 악의적인 행위자는 쉽게 제거 도구를 개발할 수 있고, 규제 당국은 실효성 없는 방어 수단에 의존하게 된다.

한국 기업에게 미치는 실제 영향은 제한적이라고 평가된다. 컴플라이언스 부서는 AI 시스템이 탐지 가능한 신호를 삽입하도록 시도했음을 문서화해야 하지만, 그 신호가 일상적인 텍스트 편집, 복사‑붙여넣기 혹은 일반적인 처리 파이프라인을 견뎌낼 수 있다는 보장은 없다. 따라서 법적 위험 평가는 워터마크 자체의 기술적 내구성보다, 정책 공개 여부와 감사 로그 관리 체계에 더 중점을 두어야 한다.

또한, 기업 내부에서 AI 생성 텍스트를 활용하는 경우, 내부 문서 관리 시스템이 자동으로 유니코드 정규화를 수행하거나 메타데이터를 제거하는 경우가 빈번하다. 이런 환경에서는 규제 요구사항을 충족시키기 위해 별도의 워터마크 삽입 도구를 도입하더라도, 실제 운영 단계에서 그 효과가 급격히 떨어지는 상황이 발생한다.

한편, 규제 당국은 워터마크 탐지를 위한 표준화된 검사 도구를 마련하려는 움직임을 보이고 있다. 그러나 현재까지 공개된 기술 사양은 매우 제한적이며, 실제 현장에서 적용 가능한 수준에 도달하기 위해서는 추가적인 연구와 테스트가 필요하다. 이는 규제와 기술 사이의 격차가 여전히 크다는 점을 시사한다.

결론적으로, EU AI Act이 요구하는 텍스트 워터마크는 이론적으로는 법적 근거를 제공하지만, 구현과 유지 관리 측면에서는 매우 취약하다. 토큰 기반 통계 워터마크와 유니코드 동형문자 삽입 방식 모두 최소한의 노력으로 제거될 수 있기 때문에, 규제 집행이 실질적으로 제한될 가능성이 높다.

마지막으로, 한국 내에서 이 규제가 실제로 적용될 경우, 기업들은 법적 컴플라이언스를 입증하기 위한 문서와 절차를 마련해야 한다. 하지만 텍스트 자체가 쉽게 변형되고 메타데이터가 손실되는 현실을 감안하면, 정책 입안자와 기술 공급자는 보다 견고하고 검증 가능한 인증 메커니즘을 함께 고민할 필요가 있다.