워터마크의 시대: AI는 자신이 쓴 글에 어떻게 서명하는가

8월 14일, 앤스로픽은 며칠 전 스스로 촉발시킨 논란을 진화하기 위한 게시글을 발표했다. 앞서 회사는 클로드 모델이 생성하는 모든 텍스트에 이제부터 보이지 않는 워터마크가 삽입될 것이라고 발표한 바 있다. 반발은 즉각적이었다. 레딧에서는 한 이용자가 이를 사용자에 대한 음모라고 평가했고, 다른 이용자는 이런 표시를 거부할 유일한 이유는 거짓말을 하고 싶어서일 뿐이라고 맞받았다. 비즈니스 인사이더에 따르면 X(트위터)에서는 구독 해지를 선언하는 게시글 수십 건이 퍼졌다. 그러나 이 조치는 변덕이 아니다. 유럽연합 인공지능법(AI Act)에 딸린 실무규범(code of practice)에 대응하는 것으로, 이 규범의 투명성 의무는 8월 2일부로 발효되었다. 위반 시 예정된 제재는 최대 1,500만 유로 또는 전 세계 매출액의 3%에 달한다.

우연 대신 조작된 주사위

앤스로픽이 채택한 방식은 'SynthID-Text'라는 이름으로, 원래 직접적인 경쟁사에서 나온 기술이다. 구글 딥마인드가 개발해 2024년 말 네이처(Nature)에 발표했고, 2022년 연구자 스콧 아론슨(Scott Aaronson)이 제시한 아이디어에서 출발한다. 원리는 텍스트 생성 과정 자체에 관여한다. 모델이 다음 단어를 고를 때는 '흐린'이나 '잿빛' 같이 하늘을 묘사할 수 있는 여러 개의 그럴듯한 후보 중에서 하나를 택하며, 이 선택에는 일정한 무작위성이 작용한다. 워터마크는 이 무작위성을 비밀 키에서 파생된 시퀀스로 대체한다. 앤스로픽은 자체적인 비유를 제시한다. 주사위 대신 원주율(pi)의 소수점 이하 숫자들을 사용하는 모노폴리 게임과 같다는 것이다. 게임을 하는 사람에게는 여전히 결과를 예측할 수 없지만, 키를 가진 사람이라면 사후에 그 게임에 이 서명이 있는지 확인할 수 있다.

워터마크는 클로드의 답변 품질에 영향을 주지 않습니다. 독자 입장에서 표시가 된 답변과 표시가 되지 않은 답변은 구별할 수 없습니다.

회사가 상세히 설명한 사용 사례 지도는 알아둘 만한 몇 가지 유용한 특징을 보여준다. 번역문은 표시가 뚜렷하게 남는데, 모델이 단어 하나하나를 직접 선택하기 때문이다. 자신이 쓴 글을 가볍게 다듬는 정도라면 흔적이 거의 남지 않는다. 거의 모든 단어가 원래 자신의 것이라면 워터마크가 붙을 곳이 없기 때문이다. 코드는 표시가 매우 어려운데, 제대로 작동해야 하는 프로그램은 동등한 표현이 여러 개 존재하는 경우가 드물기 때문이다. 이 경우 표시는 주석 쪽으로 옮겨가며, 코드 자체에는 영향이 미미하다. 삭제에 관해서는, 앤스로픽도 단어 단위로 완전히 다시 쓴 글은 서명이 사라진다는 점을 인정한다. 다만 그 시점이 되면 그 텍스트를 'AI가 생성한 글'로 규정하는 것 자체가 논쟁의 여지가 있다고 회사는 덧붙인다.

표시가 말해주지 않는 것

분명히 짚어야 할 세 가지 한계가 있다. 이 도구가 실제로 어느 정도 쓸모가 있는지를 좌우하기 때문이다. 탐지는 어디까지나 집단적이다. 즉 특정 모델이 사용되었다는 사실만 알려줄 뿐, 특정 계정이나 개인을 지목하지는 못한다. 표시가 없다고 해서 아무것도 증명되지 않는다. 짧은 글이나 크게 손질된 글은 신호가 희석되어 사라질 수 있기 때문이다. 마지막으로 이 장치는 유럽이 아니라 전 세계 단위로 적용되며, 앤스로픽 스스로도 이 규정을 부과한 지역에만 국한해 적용할 신뢰할 만한 방법이 없다고 인정한다.

업계의 전례를 보면 신중해질 수밖에 없다. 오픈AI는 2023년 1월 자체 텍스트 탐지기를 내놓았다가 6개월 만에 서비스를 중단했다. 이 도구는 생성된 텍스트의 26%만 정확히 식별했고, 9%의 경우 사람이 쓴 글을 잘못 AI 생성물로 지목했다. 현재 이 분야의 상업적 기준이 되는 GPTZero와 Pangram 두 서비스는 모델 특유의 문체적 버릇을 추적한다. 앤스로픽은 그 예로 '이것은 X가 아니라 Y이다'라는 자기 지적형 문장 구조를 들었다. 이런 오탐은 영어를 모국어로 쓰지 않는 사람들에게 먼저 타격을 준다. 워터마크는 전혀 다른 범주에 속한다. 탐지기가 사후에 추정하는 것과 달리, 워터마크는 생성 시점에 부착되고 키로 검증된다. 딥마인드는 SynthID를 제미나이(Gemini)의 응답 약 2천만 건에 적용해본 결과, 만족도에 측정 가능한 저하가 없었다고 밝혔다. 다만 이 수치는 해당 기술을 개발한 당사자가 내놓은 것이므로 어느 정도 유보적으로 받아들일 필요가 있다.

같은 시기, 구글은 눈에 보이는 워터마크를 없애다

같은 주에 구글에서는 정반대의 움직임이 나타났다. 구글은 이제 나노 바나나(Nano Banana)와 옴니(Omni) 모델이 생성한 이미지·영상·음악 구석에 붙던 작은 별 모양의 눈에 보이는 워터마크를, 제미나이와 영상 생성 도구 플로우(Flow)의 'Media watermark' 설정을 통해 끌 수 있도록 했다. 구글 랩스·제미나이·AI 스튜디오 부사장 조시 우드워드(Josh Woodward)는 보이지 않는 SynthID 표시와 C2PA 메타데이터는 계속 유지된다고 설명했다. 즉 제미나이나 검색에 특정 콘텐츠가 AI로 생성됐는지 물어보는 것은 여전히 가능하다. 다만 이 설정은 눈에 보이는 워터마크를 의무화한 국가에서는 제공되지 않는다.

그 근거는 간단한 관찰에서 나온다. 이미 많은 이용자가 이 표시를 손수 지우고 있었고, 주요 경쟁사들도 이런 표시를 적용하지 않고 있었다는 것이다. 오픈AI는 SynthID와 C2PA를 활용하고, 메타는 자체 표준인 '콘텐츠 씰(Content Seal)'을 내놓았다. 다시 말해 눈에 보이는 워터마크는 더 이상 신뢰할 만한 신호가 아니라, 규칙을 지키는 이들에게만 미적으로 거슬리는 존재로 전락한 셈이다.

• 표시됨: 8월 2일 이후 출시된 클로드 모델이 생성한 텍스트 전체, 번역문 포함.
• 거의 또는 전혀 표시되지 않음: 자신의 글을 가볍게 다듬은 경우, 그리고 주석을 제외한 소스 코드.
• 삭제됨: 생성된 텍스트를 단어 단위로 완전히 다시 쓴 경우.
• 보이지 않지만 존재함: 구글의 경우 별 표시가 사라져도 SynthID와 C2PA는 그대로 남는다.

기업에게 달라지는 것

AI의 도움을 받아 콘텐츠를 만드는 조직이라면 그 여파는 매우 구체적이다. 이제 모델 사용 여부를 밝힐지 말지는 이용자가 정하는 문제가 아니다. 유럽의 규제 의무에 따라 공급업체가 생성 시점에 이미 그 표시를 부착해 놓기 때문이다. 앤스로픽은 같은 실무규범에 서명한 다른 주요 연구소들도 각자의 워터마크를 도입할 것이라고 밝혔다. 한국 기업이나 실무자에게도 이는 남의 나라 이야기로 끝나지 않는다. 국내 기업들 역시 해외 AI 모델을 마케팅 문구, 보고서, 고객 응대 문서 작성에 폭넓게 활용하고 있으며, 유럽 시장을 상대하거나 유럽에 거점을 둔 자회사·고객사를 둔 기업이라면 이 규범의 영향권에 직접 들어간다. 앞으로 관건은 텍스트에 표시가 있는지 여부가 아니라, 그것을 검증할 키를 누가 쥐고 있으며, 그 키가 채용 심사나 시험 채점, 나아가 법정에서 무엇을 입증할 수 있는지가 될 것이다. 앤스로픽은 탐지용 API를 제공하겠다고 예고했다. 이 장치 전체의 실효성은 선언이 아니라 바로 이 API의 신뢰도로 판가름 날 것이다.