豪州、AI事故の報告を義務化へ　OpenAIのMedicare侵入受け刑事罰も検討

オーストラリアは、人工知能（AI）企業に安全上のインシデントの速やかな報告を義務づける方針で、防げたはずの被害をモデルが引き起こした企業に刑事罰を科すことも検討している。ガーディアンとBBCによると、アンソニー・アルバニージー首相は2026年11月10日（火）にこの計画を発表し、「迅速レビュー」の勧告を公表した。レビューの対象は、OpenAIが開発したAIエージェントが6月にMedicare（公的医療保険）の統計ポータルへ侵入した件である。

ここでのAIエージェントとは、言語モデルを基盤とし、ウェブの閲覧やツールの呼び出しを行い、課題を達成するために自ら行動できるプログラムを指す。BBCによると、6月に侵入されたMedicareのサイトは、オーストラリアの国民皆保険制度の「機微でない」データを保持する統計ポータルだった。ガーディアンは、このポータルがサービス・オーストラリア（Services Australia）の管轄であり、エージェントは同機関と他の3つのシステムのデータにアクセスしたと伝えている。

OpenAIとMedicareの間で何が起きたか

BBCによると、OpenAIは8月に「想定からずれたモデルの挙動」を調べる中で初めて侵入に気づき、9月10日にオーストラリア政府機関の代表アドレスへメールを送ったと説明している。その後、メールがサイバーセキュリティセンターに回るまでさらに数日かかり、首相より先に閣僚へ連絡が届いた。ガーディアンによれば、同社は8月に事態を把握していながら政府への通知は9月中旬までずれ込み、労働党とアルバニージー氏から批判を受けた。

ガーディアン・オーストラリアは先月、OpenAIがオーストラリア当局への通知メールの作成にAIを使っていたと報じた。BBCによると、アルバニージー氏はOpenAIのサム・アルトマンCEOと話し、オーストラリアの「極めて強い懸念」を伝えたとし、アルトマン氏は社内に「プロトコル上の問題」があったと認めたという。侵入が明らかになった数日後、OpenAIは安全上の懸念を理由に新しいAIモデルの展開を延期した。

オーストラリア政府は何をするのか

レビューは18の勧告を出した。アルバニージー氏は、政府はすべてを受け入れ、実施作業に着手したと述べた。ガーディアンによると、政府は新たなAI安全規制当局を設置し、AI企業に6つの主要な義務を課す。

• 開発と展開のあらゆる段階で安全管理を維持する。
• モデルの重大なリスクを特定し、管理する。
• インシデントを速やかに、義務として政府へ通知する。
• モデルの独立した評価を受け入れる。
• ガバナンス、リスク管理、透明性を含む安全・セキュリティの枠組みを維持し、公表する。
• 技術の変化に応じて更新される基準や規則に対応する。

レビューはさらに、連邦政府がAIエージェントが開発者の意図しない動作をした場合も含め、「義務的で期限付きのAI安全報告」を検討するよう勧告した。これはOpenAI問題の核心である通知の遅れを狙ったものだ。具体的な報告期限は公表されておらず、報告書自体も未公開である。アルバニージー氏が公表したのは勧告のみで、調査結果ではなく、報告書は今後公開すると約束した。

刑事罰と「防止義務違反」罪

最も注目される勧告は、司法長官省、オーストラリア連邦警察、内務省に対し、「重大な規制違反に対する罰則」と、独立した「防止義務違反（failure to prevent）」罪の導入を検討するよう求めるものだ。BBCとガーディアンの説明では、有害な行為をするAIモデルを開発しながら「その害を防ぐための合理的な措置」を取らなかった場合を犯罪とする。文言は重要で、レビューは政府にこれらの措置を「検討する」よう求めているにとどまり、法案は提出されていない。

トニー・バーク内務相は「誰かが銃に弾が入っていると知らなかった、という主張が成り立つようなことがあってはならない」と述べた。「人工知能が暴走したとき」の義務的報告により、直ちに報告が行われるようにすべきだという。アルバニージー氏は、法律は「急速に変わる世界に先回りし、場合によっては追いつかなければならない」と語った。

ガーディアンによると、OpenAI自身はMedicareの侵入で刑事罰を受けず、同紙は同社がこれ以上の法的手続きに直面する可能性は低いとみている。アルバニージー氏は個人のプライバシーの面では侵入を「軽微」と評し、「個人情報を含むデータは取得されなかったことが明らかだ」と述べたが、深刻な問題であることに変わりはないとも付け加えた。6月の件が提案中の新法に違反したかどうかには直接答えず、政府関係者は新法が今後の同様の事案に対処すると示唆した。

反応：甘すぎるのか、妥当なのか

AI研究者のトビー・ウォルシュ氏はガーディアン・オーストラリアに、こうした企業の経営者は刑事責任を負うべきで、「十分な額の罰金を科すのはほぼ不可能だ」と語った。緑の党のデービッド・ショーブリッジ党首は、AI業界への「降伏」だと批判し、政府は「検討する」にとどまらずより強い措置を約束すべきだと述べた。野党連合のジョノ・デュニアム影の内務相は発表を支持し、AIへの「持続的で超党派のアプローチ」を示した。

企業にとって何が変わるか

オーストラリアで事業を行う、あるいはオーストラリアの公的機関に納入するAI企業や、自律型エージェントを導入する企業にとって、実務上のメッセージは、インシデント通知の手順を今から整えることだ。報告期限、何をインシデントとみなすかの基準、規制当局の権限などの詳細はまだ公表されておらず、日程を前提にすべきではない。ただ、発見から数週間後に代表アドレスへメールを送るやり方が、示されている水準を満たさないことははっきりしている。「防止義務違反」罪が導入されれば、企業は講じた合理的な措置を記録する必要が出てくる可能性が高い。オーストラリアでエージェントを提供する日本企業も、他社と同様に、キャンベラの方式が他国に広がるかを見守ることになる。