カリフォルニア、AI監督を加速し緊急停止策を検討

2026年9月18日、カリフォルニア州知事のギャビン・ニュースムは、米国で最も先進的なAI規制を目指す行政命令に署名した。この命令は、先端的なAIシステムに対する独立監督体制の整備を急ぎ、60日以内に具体的な提言を行う専門家パネルを指名することを義務付けている。

指名された専門家グループは、州の安全・セキュリティ法規を強化するための具体策を提示する役割を担う。提言には、AI研究所に独立した評価者を組み込む方法や、最先端モデル向けの緊急キルスイッチの設計・テスト・検証手順が必ず含まれる必要がある。

新イニシアチブの範囲

カリフォルニア州はすでに、第三者監査、児童保護、ディープフェイク検出、プライバシー保護、サイバーセキュリティに関する複数の規則を施行している。ニュースム知事の新たな命令は、これら既存の基盤の上にさらに層を加え、州全体の制度を全国的なモデルへと昇華させることを目指す。

この命令が直ちに強制的なキルスイッチ装置の設置を要求するわけではない。代わりに、具体的な技術的・規制的取組は、今後の専門家報告書で定義される予定であり、段階的に実装される方針である。

審査対象の主な項目

• AI研究所に埋め込まれる独立監査員
• 緊急停止を発動できる基準
• 停止権限の濫用防止手続き
• 分散モデルが確実に停止したことを検証する方法
• モデルインベントリと安全テストの文書化要件

ニュースム知事は、最近発生したAIエージェントによる安全事故をこの命令の直接的な触発要因とし、連邦レベルでの危険なAI事故報告義務が欠如していることを指摘した。州単位での迅速な対応が不可欠であると強調した。

政治的背景としては、AI開発への追加規制に慎重な姿勢を示す連邦政権がある一方で、民主党議員の多くが州レベル、さらには国家レベルでの厳格な統制を求めていることが挙げられる。

企業への即時影響

カリフォルニアで事業を展開するAI企業は、直ちに文書化の負担が増大する。重要モデルのインベントリ作成、検証可能なセキュリティ計画の策定、安全テストの証拠保管、監査可能なエスカレーション手順の確立が求められる。

命令は全社的なキルスイッチの導入を義務付けてはいないが、将来的なメカニズムに備えるための準備を企業に課すことで、停止トリガーやフェイルセーフ構造、説明責任の保護策を検討させる効果が期待される。

専門家パネルの所見は2か月以内に公表され、次の規制ラウンドの基礎を形作る。提言が採用されれば、カリフォルニアは定期的な独立監査、緊急停止の明確な基準、コンプライアンスの公開報告を義務付ける可能性が高まる。

日本語で事業を展開する企業にとっての要点は明確である。より厳格な監督体制に備え、リスクの高いAIモデルすべてを徹底的に監査し、安全管理策を文書化し、実証可能な緊急停止プロセスを設計することが求められる。

早期に対応すれば将来の罰則リスクを低減でき、州が全国標準を目指す中で信頼できるパートナーとしての地位を確立できるだろう。

この動きは、カリフォルニアがAIガバナンスの最前線に立ち、他州や国際的な政策形成に影響を与える可能性を示唆している。