シャドーAI:ルールが実務に追いつかない——ラボ自身も足元をすくわれた

生成AIはドイツの職場に浸透したが、社内のガバナンスはそれに追いついていない。知識労働者の約75%がすでにAIを利用しており、その大半は正式な許可を得ていない。ほぼすべての企業——98%——がAI戦略を策定しているが、経営トップが利用を積極的に統制しているのはわずか39%にすぎない。Work Trend Indexによれば、明確な実行計画がないと自認する経営層は60%に上る。戦略文書とデスクの間には、こうしてコンプライアンス上の溝が生まれており、それにはすでに固有の名前がついている——シャドーAIだ。

『自前のAIを持ち込む』は悪意からではない

AI利用者の78%が自分のツールを職場に持ち込んでいる。理由は単純で、より速く仕事を進めたいのに社内に承認済みの選択肢が見当たらないからだ。業界団体Bitkomによれば、従業員に公式のAIサービスを提供している企業は現時点でわずか26%にすぎない。従業員の4分の3が、雇用主の4分の1しか提供していない技術を使って働くという状況は、イノベーション文化ではなく、言語モデルを抱えたシャドーITを生む。

リスクが深刻化するのは、データが存在する場所だ。人事、財務、税務、法務の各部門は、個人情報や法的に機微な内容を日常的に扱っている。応募書類や従業員データが公開ツールに貼り付けられた瞬間、GDPR第5条が定めるデータ最小化と目的制限の原則が発動する——しかも社内の誰も、そのデータがその後どう処理・保管されるかを説明できない。さらに今年8月からは、人や権利、安全に影響を及ぼすユースケースについて、EU AI Actの透明性・文書化義務が上乗せされている。

• データ保護:どの個人情報、あるいは事業上重要なデータを、どのモデルに流してよいのか
• 規制対応:そのユースケースはEU AI Actの透明性・文書化義務の対象になるか
• 専門的責任:出力結果を誰も専門的にチェックしない場合、結果の責任は誰が負うのか

1年間、フィルターなし——Anthropicで

ラボ自身がこの溝をすでに埋めていたはずだと考えていた人は、同じ週にその考えを覆されることになった。Anthropicは自社の安全性レポートで、2025年5月から2026年4月まで、外部委託先由来のデータすべてが、遮断機能を持つ生物リスク分類器が作動しないままシステムを通過していたことを明らかにした。このフィルターは、化学・生物兵器に関する危険な知識がモデルから引き出されるのを防ぐためのものだ。影響を受けたのは約5万人で、合計およそ1億3300万件のチャットをモデルと行っていた。審査は外部プロバイダーのみに委ねられており、Anthropicによれば、そのスクリーニングはしばしば不十分だったという。

同社は独自の調査の結果、実際の悪用を示す証拠は見つからなかったとし、以降は委託先への要求水準を引き上げている。それでも皮肉なのは細部だ。これは、化学・生物兵器のリスクをサイバー攻撃よりも危険だと考えるCEO、ダリオ・アモデイ自身の会社である。欠けていたのはルールではなく、そのルールが実際に機能しているかどうかの確認だった。

誰も有効性を測っていないルールは統制ではない——それは案件番号のついた意思表明にすぎない。

OpenAI、Preparednessチームを解体

OpenAIでは、この動きはより公然と行われた。フィナンシャル・タイムズが複数の内部関係者の話として伝えたところによると、7月末に同社は自社モデルが深刻または壊滅的なリスクをはらんでいないかを評価する役割を担っていたPreparednessチームを解体した。生物・サイバーリスクに関する担当は既存のチームに再配分され、同チームの元責任者だったDylan Scandinaro氏は現在、再帰的に自己改善するシステムのリスクを研究している。共同創業者のグレッグ・ブロックマン氏は、安全性に関する取り組みはモデル開発そのものにより深く組み込まれたと述べた。

社内の声はこれとは異なる。安全部門では最近、複数の従業員が退職しており、倫理責任者のChloe Bakalar氏やJoshua Achiam氏も含まれる。ある関係者は、会社が安全性に十分取り組んでいないのではという責任感と不安がくすぶっていると証言した。特にHugging Faceで発生した自律型ハッキング事件の後には、従業員が公然と批判的な発言をするケースも見られ、ある従業員はOpenAIがこの事件を警鐘として受け止めることを望むと語った。

企業がここから学ぶべきこと

社内のAIガバナンスにとって、両者の事例は同じ、居心地の悪い教訓を突きつける。承認済みツールのリスト、ポリシー、研修の実施は、文書は作るが安全は作らない。重要なのは、AnthropicもOpenAIも時宜にかなった答えを出せなかった問いだ——統制は今日、実際に機能しているのか、そしてそれが機能停止したとき、どうすれば気づけるのか。シャドーAIを本気で抑えたい企業は、従業員の78%がすでに自分のツールで答えを出している問いにも答える必要がある——どの承認済みサービスなら、実際に仕事を速くしてくれるのか、という問いだ。代替案のない禁止は、利用を誰の目にも触れない場所へ追いやるだけである。日本企業にとっても他人事ではない。EU域内の顧客や従業員のデータを扱う、あるいは欧州市場と取引がある企業は、GDPRの最小化・目的制限の原則やEU AI Actの文書化義務を同じように受けることになり、署名済みのAI利用規定も、ブラウザのタブで開くChatGPTに対抗できるだけの速さを持つ公式な代替手段がなければ、ほとんど意味を持たない。