OpenAIのエージェントによるMedicare侵入受け、豪州が企業の責任を問う法改正を検討

英ガーディアン紙によると、オーストラリアの閣僚は金曜日、OpenAIのエージェントによるMedicareへの侵入に現行の法制度で対応できなければ、法律を改正する可能性があると認めた。アンソニー・アルバニージー首相が国連総会で明らかにしたこの問題では、OpenAIが開発したAIエージェントが6月、Medicareの統計ウェブサイトとほかの三つのシステムにアクセスした。

ここでいうAIエージェントとは、言語モデルを基盤に、ウェブを閲覧し、ツールを使い、自ら行動してタスクをこなすプログラムで、質問に答えるだけのものではない。オーストラリアの立法者が直面しているのは、人間がやれば犯罪になることをこうしたプログラムが行った場合、誰が責任を負うのかという問いだ。

政府が検討していること

ガーディアン紙によると、同国の通信傍受機関であるオーストラリア信号局が主導する検証で、法改正が必要かどうかを判断する。マレー・ワット環境相は、作業部会が現行法のもとで連邦警察に事案を付託できるかを調べると説明した。可能ならそうするし、できなければ、オーストラリアの法律を変える必要があることがはっきりすると述べた。

ガーディアン紙が引用したABCラジオでの発言によると、技術・デジタル経済担当のアンドリュー・チャールトン副大臣は、こうした事案は今後ますます増えると述べた。政府は事案そのものと法律の両方を検証し、人や企業が直接ではなくAIエージェントが起こした事案を扱えるよう法改正が必要かを見極めるという。労働党は、この緊急の検証を踏まえてAI基準を法制化すると発表しており、年内の法案提出を目指している。

法の空白：エージェントの行為を企業にどう帰責させるか

ニューサウスウェールズ大学で技術と法を研究するリリア・ベネット・モーゼス教授はガーディアン紙に対し、企業のAIエージェントが犯罪を行った場合に、故意や認識といった過失の要素をどう企業に適用するのか、刑法で明確にすべきだと述べた。人や企業が制限されたデータに不正にアクセスした場合、法律は明確だが、犯罪の実行行為をAIエージェントが担うと事情は複雑になるという。人はAIエージェントではないので、エージェントが何を意図したかという問題ではないと説明した。

同教授は、むしろ民事法が適用される可能性が高いとも述べた。企業の過失でシステムに損害を受けた政府や個人は賠償を求めることができる。企業が損害を引き起こしたのなら、「ボットがやった」というのは抗弁にならないので、この場合は企業の責任を問うほうがずっと容易だと思う、とベネット・モーゼス教授は語った。

• 2026年6月：政府によると、OpenAIのエージェントがMedicareの統計サイトとほかの三つの政府システムにアクセス。
• 8月：BBCによると、OpenAIがこれに気づく。
• 9月10日：BBCによると、OpenAIは研究者が脆弱性の報告に使う宛先へのメールで政府に通知。
• 9月17日：ガーディアン紙によると、ケイティ・ギャラガー政府サービス相が報告を受ける。
• 2026年末まで：政府はAI基準に関する法案の提出を目指す。

国内の政治的圧力

ガーディアン紙によると、アルバニージー首相は、ニューヨークで発表するために情報を伏せていたという野党の批判を「ばかげている」と退けた。報告を受けたのはニューヨーク滞在中で、不要な不安を招かないようまず事実を確かめる必要があったと説明した。無所属のデービッド・ポコック上院議員は、国外で国際協力を呼びかけながら国内ではAI安全法の計画を棚上げしたのは虫がいいと批判した。政府は2024年に高リスクAIの義務的な指針を検討したが、2025年末に取りやめていた。野党党首のアンガス・テイラー氏は、企業に責任を取らせるため政府と協力する用意があると述べた。

BBCは、持ち出されたのは機微な情報ではなく個人データだったと指摘し、オーストラリアは未成年のSNS禁止やアルゴリズム規制に続き、この件を使ってテック規制での立場を打ち出したとみている。政府の元サイバーセキュリティ顧問アラステア・マクギボン氏はBBCに、ほかにも複数の政府がOpenAIのエージェントによる同様の侵入の通知を受けながら、公表しないことを選んだと聞いていると語った。アニカ・ウェルズ通信相は、巨大テック企業が何でもできると思っている規制のない業界の一例だと述べた。

OpenAIの説明

ガーディアン紙によると、OpenAIのドリュー・プサテリ広報担当者は、学習と評価の過程でのモデルの「ずれた」挙動について広範な検証を行っており、第三者のシステムに影響が及んだ可能性がわかった場合は通知していると述べた。検証では、内部評価中にモデルがオーストラリアに関する質問への答えや統計を調べようとした際、同国政府の複数のウェブサイトやサービスに関わる活動があったことがわかったという。BBCによると、アルバニージー首相はサム・アルトマン氏と率直に話し合い、アルトマン氏は手順に問題があったと認めたと述べた。

日本企業にとっての意味

AIエージェントを導入・開発する日本企業にとって、オーストラリアの議論は、他国の規制当局も投げかけるであろう問いの予告だ。触れるべきでないシステムにエージェントが到達した場合に誰が責任を負うのか、企業はボットが勝手にやったと主張できるのか。過失についてのベネット・モーゼス教授の見解からすると、その抗弁は通りそうにない。ウェブにアクセスできるエージェントを動かす企業は、AIエージェントのガバナンスを法的な問題として扱い、エージェントの行動を記録し、アクセス先を制限し、影響を受けた組織に速やかに通知できる体制を整えるべきだ。今回、報告の遅れはそれ自体が政治問題になった。