xAIがCSAMでGrokを学習させたとする訴訟が提起#
イーロン・マスク氏が率いるAI企業xAIが、児童性的虐待素材（CSAM：Child Sexual Abuse Material）をAIモデル「Grok」の学習データとして使用したとして、被害者女性（訴状上の名称：Jane Doe）が集団訴訟を申し立てた。米テクノロジーメディア「Ars Technica」が報じた。これはxAIがCSAMによる学習を行ったとして訴えられた初めてのケースとなる。
訴訟の背景：被害者が直面した深刻な状況#
訴状によると、Jane Doeは2000年代初頭に幼少期（就学前年齢）において、複数の成人男性による性的虐待を受け、その映像がオンライン上で販売されていたという。その後、彼女の画像は全米失踪・被搾取児童センター（NCMEC）やカナダ子ども保護センター（CCCP）によってハッシュ化（デジタル指紋登録）され、管理されていた。
Doeは米司法省の被害者通知システムに登録しており、自身が新たな刑事捜査の被害者となった可能性がある場合に通知を受け取れる体制を取っていた。そんな中、CCCPからxAI上でDoe本人の画像を元にしたAI生成CSAMが発見されたとの通知が届き、彼女は大きな精神的打撃を受けたとされる。さらにオンラインフォーラムでは、Doeを含む実在のCSAM被害者を元にしたAI生成CSAMの作成を議論する書き込みも確認されたと訴状は主張している。
訴状が指摘する技術的な問題点#
学習データへのCSAM混入疑惑#
訴状が主張する学習データ汚染については、二つの経路が指摘されている。
①オリジナルCSAMによる学習：DoeのオリジナルCSAM画像はNCMECが管理するCSAMハッシュリストに登録されており、「その同一素材がxAIのGrokの画像・動画生成機能構築に使用したデータセットの一部だった」と訴状は主張している。ただし、この主張の詳細な根拠については訴状内での記述は限定的であり、詳細は元記事を参照されたい。
②AI生成CSAMによる再学習：GrokのサービスはX（旧Twitter）の公開投稿およびGrok自身の出力結果を、デフォルトで学習データとして扱う利用規約となっている。訴状はこの仕組みを問題視し、生成されたCSAMが公開投稿されることで、そのままGrokの追加学習データに組み込まれるパイプラインが形成されていると主張した。
除外カテゴリの不明確さ#
xAIの利用規約は暴力的コンテンツをGrokの出力物から学習データの対象外と定めている一方で、CSAM、非合意の性的画像（NCII）、NSFWコンテンツが除外カテゴリとして明示されていないと訴状は指摘している。
一度学習したデータの完全削除は困難#
AIの技術的特性として、訴状は「学習済みモデルから特定の学習データの影響を完全に取り除くことは技術的に困難であり、xAI自身もそれを実施したと公表していない」と述べている。すなわち、問題のある画像が削除されたとしても、それ以前に学習に使われていた影響はモデルに残存し続ける可能性があると主張している。
訴訟が求めるもの#
Doeが提起したのは集団訴訟（クラスアクション）であり、承認されれば実在の画像をもとにGrokがCSAMを生成した被害者全員が対象クラスに含まれる。
訴状はxAIに対して以下を求めている：
- 金銭的賠償：Grokが実際の写真を元にCSAMを生成したと証明できるすべての被害者への損害賠償
- 生成済みCSAMの完全削除：xAIのサーバーに保存され、学習データとして使用されている可能性のある全Grok生成CSAMの破棄
- 将来的な生成の阻止：CSAMのみならず、NCII、NSFWコンテンツを含む性的表現出力全般のブロック
法的根拠としては、連邦児童ポルノグラフィー法および「マーシャ法（Masha’s Law）」の違反が主張されており、Doeの弁護士Margaret E. Mabie氏は「CSAM製造・所持・頒布のいずれもが犯罪であり、xAIはその三つすべてを行った」と述べている。なお、Ars TechnicaのコメントリクエストにxAI（X）は回答していない。
まとめ#
本訴訟は、AI企業が学習データの出所管理においていかに深刻なリスクと責任を負うかを改めて浮き彫りにしている。特に注目すべきは、GrokがAI生成コンテンツを再帰的に学習データとして取り込む仕組みが、被害を雪だるま式に拡大させる構造的問題として指摘されている点だ。
筆者の見解： AIモデルの学習データガバナンスは、今や単なる品質管理の問題を超え、法的・倫理的責任を問われる重大課題となっている。本件の帰趨は、AI業界全体の学習データ管理のあり方に影響を与える可能性があるだろう。今後の訴訟の進展に注目したい。
出典: Elon Musk’s xAI used child porn to train Grok models, lawsuit says - Ars Technica
