Google DeepMind、AIでSignalプロトコルを形式検証 新たな脆弱性は見つからず

米誌WIREDによると、Google DeepMindの研究者らは、AlphaProof Codeというエージェント型AIの枠組みを使い、Signalプロトコルの主要な暗号上の保証をいくつか数学的に証明しました。4週間で完了した概念実証のこの作業は「形式検証」にあたります。形式検証とは、一部の事例を試すのではなく、数学を使ってソフトウェアが意図どおりに動作することを確かめる手法です。

Signalプロトコルは、Signalアプリの暗号方式であり、WIREDが指摘するようにGoogleメッセージやWhatsAppの通信も保護しています。そのためこの分析は、膨大な量のメッセージを守る暗号に対する、さらなる独立した裏づけと位置づけられています。WIREDは暗号分野とAI自体にとっての画期的な出来事と評する一方、範囲が限られている点を強調しています。

DeepMindは具体的に何を証明したのか

チームが証明したのはプロトコルの主要な保証の「いくつか」であり、すべてではありません。WIREDは、Signalのモバイルアプリ全体を形式検証したわけではないと明記しており、研究者も今回の結果をより大きな過程の一里塚だと説明しています。DeepMindの研究科学者スワラット・チャウドゥリ氏はWIREDに「この結果にはとても興奮しているが、世界のあらゆるソフトウェアに拡大するまでには長い道のりがあり、私たちはそれを実現したい」と語りました。

同じ記事によれば、分析では調べた部分に新たな脆弱性は見つかりませんでした。研究者らは、既知で長く修正済みの脆弱性を含む旧バージョンのSignalにもAlphaProof Codeを適用しました。ツールはそれらを正しく特定し、そのバージョンが形式検証できないことを示しました。このテストは、欠陥がないときに成功するだけでなく、欠陥があるときには失敗しうる手法であることを示す点で重要です。

• ツール:Google DeepMindの新しいエージェント型AI枠組み「AlphaProof Code」。
• 期間:概念実証プロジェクトとして4週間。
• 結果:主要な暗号上の保証を証明。分析した部分に新たな脆弱性はなし。
• 旧バージョン:既知で修正済みの欠陥を検出し、プロトコルは検証不能と判定。
• 公開:ほかの形式検証の取り組みを助けるため、仕様と証明を公開。
• 費用:非公表。研究プロジェクトとして無償で実施。

AIと人間はどう役割を分けたのか

AI以前は、人間が証明したい性質を記述し、それを数式に変換し、そのうえで証明を構築する必要がありました。WIREDは、エージェント型AIが最後の工程の時間を大幅に短縮でき、それがSignalの4週間での評価を可能にしたと説明しています。DeepMindの研究者は、Signal Foundationがすでにコードの小さな部分で形式検証を行っていたため、有利な出発点があったと付け加えています。

SignalのCTOであるエーレン・クレット氏は、WIREDが引用した声明で次のように述べました。「これまでの形式検証はコードの小さな部分に集中していたが、Google DeepMindの手法は大幅な拡張を可能にする」。AIによるセキュリティ上の脅威が高まるなか、実装を厳密に検証することで、コードのプライバシー保証への信頼がさらに高まるとも述べています。

DeepMindは主な進歩として「人間とAIの協働プロセス」を挙げます。エージェントはほぼすべての段階で貢献し自己修正し、人間は要所で確認します。チャウドゥリ氏は「AIが目標も証明も生成するような世界は望まない」と述べました。形式的な証明は書き下された性質しか保証しないため、仕様に対する人間のレビューは引き続き中心的な役割を持ちます。

Signalをめぐる並行した取り組み

DeepMindの作業は、Signalの暗号を証明する唯一の試みではありません。Beneficial AI Foundationは、SignalのRolfe Schmidt氏およびLean FROと組み、証明支援系LeanでプロトコルとそのRust実装を検証する公開プロジェクト「Signal Shot」を始めました。ツールAeneasでSignalのRustコードをLeanに変換する計画で、検証対象にはポスト量子の鍵交換PQXDH、Double Ratchet、SPQR/Triple Ratchetなどが挙げられています。WIREDはこの取り組みをDeepMindのものと結びつけておらず、両者は別の取り組みです。

まだ不確かな点は何か

WIREDによれば、未解決の問いは、AIによる形式検証の自動化が現実的な費用で拡大できるかどうかです。GoogleはSignal分析の費用の開示を拒み、形式検証の商用製品やサービスを計画しているかどうかの回答も避けました。Google Cloudのチーフサイエンティストで、DeepMind研究担当副社長のプシュミート・コーリ氏は、バグを懸念する銀行などの企業が、自社ソフトの特定の性質を証明できると言えるようになる未来を思い描いています。これは構想であり、発表された提供内容ではありません。

企業にとって何が変わるのか

メッセージングツールを選ぶ企業や、Signalプロトコルを基盤に開発する企業にとって、今回の結果はプロトコル設計に関する安心材料ではあっても、それを使うすべてのアプリの証明書ではありません。Signalアプリ全体は検証されておらず、製品の展開方法、サーバー、設定は証明の対象外です。公開された仕様と証明は、セキュリティチームが研究し再利用できる材料になります。費用と商用提供の有無が不明な現時点では、自社コードの形式検証にこの手法をすぐ当てにすることはできませんが、重要なソフトの供給元にどの性質が仕様化され証明されているかを尋ねることは今からできます。