電子透かしの定着 — AIが自らの文章に署名する仕組み

8月14日、Anthropicは自ら数日前に火をつけた騒動を鎮めるためのブログ記事を公開しました。同社はそれ以前に、Claudeモデルが生成するすべてのテキストに今後、不可視の電子透かしを入れると発表していたのです。反発は即座に起きました。Redditではある利用者がこれを利用者に対する陰謀だと主張し、別の利用者はこうした表示に反対する唯一の理由は嘘をつきたいからだと切り返しました。Business Insiderの報道によれば、サブスクリプション解約を宣言する投稿がXで数十件も出回ったといいます。とはいえこの措置は気まぐれではありません。欧州のAI規則(AI法)に付随する行動規範に対応するもので、その透明性義務は8月2日に発効しています。違反した場合の制裁金は1500万ユーロ、または全世界売上高の3%に達する可能性があります。

偶然の代わりに、いかさまのサイコロを

Anthropicが採用した手法は「SynthID-Text」と呼ばれ、実は直接の競合企業に由来します。開発したのはGoogle DeepMindで、2024年末に学術誌ネイチャーに発表されたものであり、さらに遡れば2022年に研究者スコット・アーロンソンが示した着想を受け継いでいます。原理はテキスト生成そのものに関わります。モデルが次の単語を選ぶ際には、同じくらい妥当な複数の候補——例えば空模様を表す「曇り」か「グレー」か——の中から選ぶことになり、その選択には偶然の要素が含まれます。電子透かしは、この偶然を秘密鍵から導き出された数列に置き換えるものです。Anthropicは独自のたとえを挙げています。モノポリーのゲームで、サイコロの目が円周率の小数点以下の数字に置き換わるようなものだ、というのです。プレイヤーにとって手の動きは依然として予測不可能ですが、鍵を持つ者は後からそのゲームにこの署名が入っているかを確認できます。

電子透かしはClaudeの回答の質に影響しません。読者にとって、透かしの入った回答と入っていない回答を見分けることはできません。

同社が詳しく説明した用途別の分布には、知っておく価値のある意外な点がいくつかあります。翻訳文には確実に透かしが入ります。すべての単語がモデルによって選ばれるためです。一方、自分自身の文章を軽く手直ししただけの場合はほとんど痕跡が残りません。ほぼすべての単語が本人のものであれば、透かしが付く手がかりがないからです。コードにはほとんど透かしが入りません。正しく動作しなければならないプログラムには、同等に有効な複数の書き方がめったに存在しないためで、透かしはコメント部分に頼ることになり、コード本体への影響はごくわずかです。消去については、Anthropicも一語一語を全面的に書き直せば署名が消えることを認めています。同社はさらに、その段階になるとそもそも「AI生成テキスト」という分類自体が疑わしくなる、とも付け加えています。

この印が語らないこと

この仕組みが実際にどれだけ有用かを左右する3つの限界を、はっきりさせておく必要があります。第一に、検出はあくまで集合的なものです。あるモデルが使われたことを示すだけで、特定のアカウントや個人を特定することは決してありません。第二に、透かしがないからといって何かが証明されるわけではありません。短い文章や大幅に手が加えられた文章では、信号が薄まって消えてしまうからです。第三に、展開は欧州限定ではなく全世界規模であり、Anthropicはこの義務を課す地域だけに仕組みを限定する信頼できる方法を持ち合わせていないと認めています。

また、この業界のこれまでの実績を踏まえれば、慎重になるべき理由もあります。OpenAIは2023年1月に独自のテキスト検出ツールを公開しましたが、わずか半年後に停止しました。生成テキストを正しく識別できたのはわずか26%で、9%のケースでは人間が書いた文章を誤ってAI生成と判定していたのです。この分野で商用として知られるGPTZeroとPangramの2つは、モデル特有の言い回しの癖を追跡します。Anthropicが例に挙げるのは「XではなくY」という構文で、これは自己批判的な表現にも当てはまるといいます。こうした誤検出は、英語を第二言語として書く人々に真っ先に降りかかります。電子透かしはこれとは別の次元にあります。検出ツールが事後に推測するのに対し、透かしは生成の時点で刻まれ、鍵によって検証されるのです。DeepMindは、Geminiの回答およそ2000万件でSynthIDを稼働させたが満足度に測定可能な低下は見られなかったと主張しています。ただしこの数字は、手法の開発元自身が出したものである点を割り引いて受け止める必要があります。

同じ頃、Googleは可視透かしを外す

同じ週、Googleでは正反対の動きがありました。同社は、Nano BananaやOmniといった自社モデルが生成する画像・動画・音楽の隅に付く小さな星印——可視透かし——を、GeminiおよびビデオジェネレーターFlowの「メディア透かし」設定からオフにできるようにしたのです。Google Labs、Gemini、AI Studio担当バイスプレジデントのジョシュ・ウッドワード氏は、不可視の透かしであるSynthIDとC2PAメタデータは依然として組み込まれたままであり、あるコンテンツが生成されたものかどうかはGeminiや検索に問い合わせれば確認できると説明しています。なお、この設定は可視透かしを義務付けている国では提供されません。

その理由は一つの観察に集約されます。多くの利用者はすでにこうした印を手作業で消していたうえ、主要な競合はそもそも可視透かしを適用していなかったのです。OpenAIはSynthIDとC2PAに依拠し、Metaは独自規格「Content Seal」を打ち出しています。つまり可視透かしは、もはや信頼できる指標ではなく、律儀に従う人だけが見た目の邪魔を我慢させられる存在になっていたわけです。

• 透かしあり:8月2日以降にリリースされたClaudeモデルが生成するテキスト(翻訳文を含む)
• ほぼ、または全く透かしなし:自分の文章を軽く手直ししたもの、およびコメント部分を除いたソースコード
• 消去可能:生成されたテキストを一語一語すべて書き直した場合
• 見えないが存在する:Googleでは星印が消えてもSynthIDとC2PAは残る

企業にとって何が変わるのか

AI支援でコンテンツを制作する組織にとって、この変化がもたらす影響は具体的です。あるモデルを使ったかどうかを申告するかどうかを決めるのは、もはや利用者ではありません。申告は生成の時点で、提供元によって、欧州の規制上の義務に基づいてあらかじめ組み込まれるのです。そしてこの措置は欧州域内に限定されず世界規模で展開されるため、日本企業がClaudeやGeminiを社内文書、翻訳、レポート作成などに使う場合も、同じ透かしの対象になります。日本にはAI法のような拘束力ある透明性義務はまだなく、AI利用の表示は各種ガイドラインに基づく努力目標にとどまっていますが、実際に使うツール側にはすでに透かしが刻まれている、という状況です。Anthropicによれば、同じ行動規範に署名した他の大手研究機関も、それぞれ独自の電子透かしを導入していく見込みです。したがって近い将来、問題は「そのテキストに透かしが入っているか」ではなく、「それを検証できる鍵を誰が握っているか」、そしてその鍵が雇用主や試験の審査員、あるいは裁判所の前で何を証明しうるか、という点に移っていくでしょう。Anthropicは検出用APIの提供を約束しています。この仕組み全体の評価を下すべきは、意図表明の言葉ではなく、そのAPIの信頼性そのものです。