Anthropic、生物兵器研究への悪用を阻止したと発表

Anthropicは2026年9月10日、これまでで最も詳細な脅威インテリジェンス報告書を発表し、生物兵器の開発につながりかねない研究にClaudeモデルを利用しようとしたユーザーを検知したことを明らかにした。同社はほかにも、サイバー攻撃、影響工作、監視、兵器システム開発に関わる悪用も確認したという。同社は、報告書に記載したすべての活動を実害が生じる前に阻止したとしている。

鳥インフルエンザから毒素ペプチドまで、5件の確認事例

報告書は、Claudeモデルが機微な生物学研究に関連する活動に使われた5件の個別事例を記録している。ある事例では、研究者がClaudeの助けを借りて、鳥インフルエンザを哺乳類に適応させる「機能獲得」実験を数週間かけて計画していた。別の事例では、あるユーザーが毒素ペプチドの網羅的なアトラスを作成した後、麻痺性・鎮痛性の毒素を標的とする分子をより高精度に最適化する生成システムを構築していた。

3件目の事例では、Anthropic独自の「生物学的安全性分類器」が、チクングニアウイルスに関する機能獲得研究にClaudeを使おうとする依頼を検知した。この依頼には、ウイルスの感染力と免疫回避能力を高めることを狙った改変案が含まれていた。Anthropicの脅威インテリジェンスチームによると、提案されたプロジェクトが軍事研究機関と結びついていたことが、さらなる懸念を呼んだという。この詳細はアラビア語メディアaitnewsが最初に報じた。

Anthropicが記録した悪用事例は生物学分野にとどまらない。報告書によれば、監視活動への利用、セキュリティ上の脆弱性を突くエクスプロイトコードの作成、プロパガンダの制作、さらには通常兵器システムの開発支援といった、ほかの目的での悪用の試みも記録されているという。

aitnewsによると、Anthropicの脅威インテリジェンス責任者ジェイコブ・クライン氏は、この種の悪意ある活動を検知するのは容易ではないと述べ、実際の事例は、生物兵器を作りたいと公然と宣言する人物を想定するよりも、はるかに曖昧で複雑であることが多いと指摘した。

Anthropicが関与した研究者を特定しない理由

Anthropicは報告書の中で、こうした悪用の検知が容易ではないことを認めている。危険な研究に関連する依頼の一部は、ワクチン開発や感染症研究など、表面的には正当な科学研究と見分けがつきにくいためだ。スペインの日刊紙ABCによると、そのため同社は、依頼の背後にある意図を明確に判断できない場合には常に慎重を期して対応する方針を取ったという。潜在的な結果の深刻さを踏まえた判断だ。報告書自体もこう述べている。「評価は能力の証拠を提供する点で有用だが、その能力が実際に現実世界で生物兵器の開発に使われることになるかどうかを、決定的に証明することはできない」。

同社は、5件の事例に関わった研究者や機関の身元を明らかにすることを拒んだ。関与した人物は正式に研究活動に従事する科学者であり、危害を加える意図があったと確認することはできず、決定的な悪意の証拠がない中で身元を公表すれば、当人たちを危険にさらしかねないと説明している。その代わりにAnthropicは該当アカウントを停止し、調査結果を安全システムに反映させ、将来的な検知・防止能力の向上に役立てているという。

ABC紙によれば、Anthropicの報告書自体は、生物学的な悪用を最先端AIモデルがもたらす最も深刻なリスクの一つと位置づけ、こうしたモデルが既存の病原体の危険性を高めたり、まったく新しい病原体を生み出したりできるほどの能力に達する可能性があり、十分な安全対策がなければ、そうした能力は壊滅的な結果をもたらしかねないと警告しているという。

私たちは、これまでで最も詳細な脅威インテリジェンス報告書を公開します。この報告書は、サイバー攻撃、影響工作、監視、生物学、兵器製造といった目的でClaudeが悪用されようとした経緯と、それをどのように発見し阻止したかをまとめたものです。報告書に記載したすべての活動を、私たちは阻止しました。

日本企業にとって何が変わるのか

この報告書が公表されたのは、世界各国の政府や企業が、コーディングや調査、顧客対応のために自律性の高いAIエージェントの導入を加速させている最中だ。Anthropicが記録した事例は、最先端モデルが持つ生物学的リスクがもはや仮定の話ではないことを示している。大手研究所自身が検知し、封じ込めた現実の事案であり、先端AIを導入・提供するあらゆる組織にとって、モデルの安全性が自らの問題であることを意味する。少数の米国の研究所だけの問題ではない。

日本ではAI関連の指針が原則として非拘束的なソフトローとして整備されており、前線モデルが生物・化学分野の二重用途研究の依頼をどう選別すべきかについて、具体的な義務規定はまだ定まっていない。AIエージェントにウェブ閲覧やコード作成、科学データベースへの照会といった権限をすでに与えている日本企業にとって、この報告書は、研究所が自社のために構築した安全対策が、提供元モデルがこうした具体的な事態にどう対応するかを独自に検証する代わりにはならないことを改めて示している。