浮水印時代來臨：AI學會為自己寫的文字簽名

8月14日，Anthropic發布了一篇部落格文章，試圖平息數天前自己引發的爭議：該公司先前宣布，Claude系列模型產出的所有文字今後都將附上隱形浮水印。反彈幾乎是立即出現的——在Reddit上，一名用戶認為這是針對使用者的陰謀，另一名用戶則反駁說，拒絕這種標記的唯一理由就是想說謊。《Business Insider》報導，X（前Twitter）上流傳著數十則宣布取消訂閱的貼文。然而這項措施並非一時興起：它是為了回應歐盟人工智慧法案（AI Act）配套的行為準則，其中的透明度義務已於8月2日正式生效。違規最高可處1500萬歐元或全球營收3%的罰款。

用灌了鉛的骰子取代隨機

Anthropic採用的方法名為SynthID-Text，而它其實出自一個直接競爭對手之手：這套技術由Google DeepMind研發，2024年底發表於《自然》（Nature）期刊，其構想則可追溯至研究者Scott Aaronson早在2022年提出的想法。這項原理觸及文字生成的核心機制。當模型選擇下一個詞時，它會在多個同樣合理的候選詞之間做出選擇——例如用「陰天」或「灰濛濛」來描述天空——而這個選擇本身帶有隨機成分。浮水印做的，就是用一段由密鑰衍生出的序列取代這份隨機性。Anthropic提出了一個比喻：就像一場大富翁遊戲，骰子被換成了圓周率的小數位。對玩家來說，每一步棋依然無法預測；但任何持有密鑰的人，事後都能驗證這局遊戲帶有這個簽章。

浮水印不會影響Claude回答的品質。對讀者而言，帶有浮水印的回答與沒有浮水印的回答無法區分。

Anthropic詳細說明了各種使用情境下的浮水印表現，其中幾點值得留意。翻譯文字會清楚帶有浮水印，因為每個詞都是由模型選定的。若只是對自己撰寫的文章做輕度潤飾，留下的痕跡很少：只要絕大多數詞語仍是使用者自己的，浮水印就幾乎無處附著。程式碼則很難被標記，因為一段必須能正常運作的程式，很少會有多種等效的寫法可供選擇——浮水印因此轉而依附在註解上，對程式碼本身的影響微乎其微。至於消除浮水印，Anthropic承認，若逐字逐句進行完整改寫，確實會抹除簽章；但該公司也補充說，到了那個地步，這段文字是否還能被歸類為「AI生成」本身就已經很有爭議了。

這個標記沒有告訴你的事

有三項限制必須白紙黑字說清楚，因為它們決定了這項工具在實務上究竟有多少價值。第一，偵測結果是集體性的：它只能指出某個模型「經手過」這段文字，無法指向特定帳號或特定個人。第二，沒有偵測到浮水印並不能證明什麼，因為文字太短或經過大幅改寫都會稀釋訊號，直到訊號消失為止。第三，這套系統是全球部署，並非僅限歐洲——Anthropic坦承，公司並沒有可靠的方法，能把這項機制限制在提出此要求的歐盟境內。

這個產業過去的紀錄，也提醒外界應保持謹慎。OpenAI曾在2023年1月推出自家的文字偵測工具，卻在半年後將其下架：該工具只能正確辨識26%的AI生成文字，還有9%的情況會錯誤地把人類寫的文字判定為AI生成。目前業界兩大商用偵測服務GPTZero與Pangram，靠的是追蹤模型特有的行文習慣——Anthropic舉例，像是「這不是X，而是Y」這類句型（連自我修正的用法都包含在內）。這類誤判首當其衝的，往往是以英語作為第二語言的寫作者。浮水印屬於完全不同的範疇：偵測工具是事後猜測，浮水印卻是在文字產生的當下就被植入，之後憑密鑰即可驗證。DeepMind表示，SynthID已在近兩千萬則Gemini回覆上運行，使用者滿意度未見可測得的下滑——不過這項數字出自方法本身的開發者，解讀時仍須保留一定的謹慎。

同一時間，Google卻拿掉了可見浮水印

就在同一週，Google卻做出了相反的動作。這家公司現在允許使用者關閉可見浮水印——也就是Nano Banana和Omni模型產出的圖片、影片與音樂角落那顆小星星標記——方法是在Gemini與其影片生成工具Flow中，開啟名為「Media watermark」的設定選項。Google Labs、Gemini與AI Studio部門副總裁Josh Woodward說明，隱形的SynthID標記與C2PA中繼資料依然會保留在內容中：使用者仍然可以直接詢問Gemini或透過搜尋，確認某項內容是否由AI生成。至於那些法律要求可見浮水印的國家，這項關閉選項將不會開放。

Google給出的理由很簡單：許多使用者早就會手動把這些標記去除，而且主要競爭對手根本沒有採用同樣的做法。OpenAI依靠的是SynthID與C2PA，Meta則推出了自己的Content Seal標準。換句話說，可見浮水印早已不是可靠的辨識訊號，對那些老實遵守規則的人來說，它只剩下美觀上的困擾。

• 會被標記：8月2日之後推出的Claude模型所生成的文字，包括翻譯文字在內。
• 幾乎不會或不會被標記：對自己文章的輕度潤飾，以及註解以外的原始程式碼。
• 會被抹除：對生成文字進行逐字逐句的完整改寫。
• 隱形但仍然存在：在Google的服務中，即使那顆小星星消失了，SynthID與C2PA標記依然保留。

這對企業意味著什麼

對於仰賴AI協助產出內容的台灣企業與專業工作者而言，這件事的影響非常具體。前面已經提到，Anthropic的浮水印機制是全球部署、並非僅限歐盟——這意味著，儘管這項規定源自歐盟AI法案，台灣的使用者同樣無法置身事外：只要使用8月2日後推出的Claude模型，無論是撰寫報告、翻譯文件還是準備教材，產出的文字都會被自動標記，而且這個決定不再取決於使用者本人，供應商在生成的那一刻就已經完成標記。Anthropic表示，其他簽署同一份行為準則的大型實驗室也將陸續推出各自的浮水印。換句話說，很快問題就不再是「這段文字有沒有被標記」，而是「誰握有可以驗證這段文字的密鑰」——以及這把密鑰，未來在雇主面前、在考核委員會前，或是在法庭上，究竟能證明什麼。Anthropic承諾將推出偵測API；屆時真正該被檢驗的，不是官方的宣示，而是這套機制實際運作起來到底有多可靠。