xAIへの新たな告発、Grokの画像防止策をめぐる議論が再燃

テネシー州の10代の若者3人がxAIを相手取って起こしている訴訟に、新たな告発が追加された。xAIはイーロン・マスク氏が設立し、現在はSpaceXと関連する人工知能企業である。訴状によると、Jane Doe 4と特定された女性は、継父が画像生成ツールGrokを使い、彼女が11歳のときに撮影された写真を改変し、7000枚を超える性的に露骨な画像を生成したと主張している。この事件は警察の家宅捜索の際に発覚した。訴状で引用されたワシントン・ポストの報道によれば、容疑者はその2日後に自殺した状態で発見された。

元の報道は、こうしたツールへの容易なアクセスが日常生活にもたらす影響についての被害者の証言を記録している。事件のどの詳細よりも、この証言こそが訴訟の争点を規定している。

これらのツールへの無制限のアクセスは非常に速いスピードで広がっています。それは日常生活を子どもへの性的虐待に変えてしまっているのです。

実際に何が争われているのか

この区別は、生成モデルを運用するあらゆる企業にとって重要である。原告らはプラットフォームが利用者の犯罪行為について責任を負うべきだと主張しているのではない。xAIが、実在の人物、とりわけ未成年者の写真の改変を防ぐ基本的な安全策を実装していなかったと訴えているのである。製品の観点から言えば、これは「ある用途を想定していなかったシステム」と「その用途をより困難にしたであろう検証機能を実装しなかったシステム」の違いである。

原告らはクラスアクション(集団訴訟)としての認定を求めており、これが認められれば争いの範囲は大きく広がる。この告発は、写された本人の同意なしに人工知能生成画像が大量に拡散していることへの一連の批判に加わるものだ——今年初め、プラットフォームXはGrokが生成した性的な画像数百万枚に埋め尽くされた。TechCrunchはコメントを求めxAIに連絡したと報じている。

• 訴訟を起こしているのは:テネシー州の10代の若者3人。現在はJane Doe 4が加わっている。
• 訴えの内容:実在の人物(未成年者を含む)の画像改変を防ぐ安全策の欠如。
• 求めているもの:クラスアクション(集団訴訟)としての認定。
• 背景:今年、Grokが生成した性的な画像がプラットフォームX上で大量に拡散したこと。

事後対応のモデレーションと事前の抑止は同じではない

年初のX上での出来事は、なぜこの区別が法廷で重視されるのかを理解する助けとなる。Grokが生成した性的な画像数百万枚がプラットフォーム上で拡散したとき、取り得た対応はすでに公開された内容を削除することだけだった——つまり、被害がすでに生じ、拡散したあとに対処するということである。この訴訟が問うているのはそれ以前の段階だ。識別可能な実在の人物の写真から露骨な画像を生成する要求は、その要求がなされた時点で阻止されるべきだったのではないか、という点である。これらは異なる二つの責任のあり方であり、事前に検証可能なのは後者だけである。

この違いは、集団訴訟としての認定の要求がこれほど重要である理由も説明している。個別の訴訟は一つの事案を扱うが、集団訴訟は一群の事案を生み出した製品ポリシーそのものを扱う。もしこの認定が認められれば、審理の対象は一人に起きたことではなく、その構図をすべての人にとって可能にしたエンジニアリング上の決定そのものとなる。

日本の製品開発チームにとってなぜ重要か

米国での裁判の結末がどうであれ、製品チームにとって実務上の示唆は二つある。第一に、重要な安全策はプロンプトの文章そのものではなく、画像の入力段階にある。プロンプトのみを解析するフィルターでは、利用者がアップロードした実在の写真の改変を防げない。制御ポイントは画像がシステムに入る場所に置かれ、コンテンツの検証や、該当する場合は識別可能な人物の顔検出を伴う必要がある。

第二に、記録の欠如そのものが法的リスクとなりつつある。企業が自社の防止策が有効に機能していたことを示す必要が生じたとき、意味を持つのは運用上の証拠である——どの分類器が、どのバージョンで、どの期間、どれだけの遮断率で稼働していたか。こうした記録を残していないチームは、たとえ正しく対応していたとしても、注意義務を果たしていたことを証明できない。これは、他の最近のモデル安全性をめぐる事案からも業界が繰り返し学んでいる教訓と同じである。実行状況を誰も計測していないルールは、統制ではなく、文書化された意図にすぎない。

編集部より:つらい状況にある方、あるいは自殺について考えている方は、よりそいホットライン(0570-064-556)にご相談ください。日本国内で無料・24時間対応しています。