AIチャットボット「Grok」が児童性的虐待素材の生成に悪用されたと新たな原告が主張#
Elon MuskのxAI（現在はSpaceXの一部）が開発するAIチャットボット「Grok」をめぐり、深刻な訴訟が拡大している。テネシー州の10代3人が起こした訴訟に、新たに「Jane Doe 4」と呼ばれる女性が加わったことが、The Washington Postの報道によって明らかになった。
何が起きたのか——事件の概要#
Jane Doe 4と呼ばれる女性は、自身の継父がGrokを使い、彼女が11歳のときに撮影された写真を操作し、7,000枚以上の性的画像を生成したと主張している。
さらに深刻なのは、その後の経緯だ。法執行機関による家宅捜索でこれらの画像が発見された2日後、継父は自ら命を絶ったという。
女性は次のようにコメントしている。
「これらのツールへの無制限なアクセスは急速に広がっています。日常の生活を児童性的虐待へと変えてしまっているのです。」
訴訟の背景——もともとの原告が問題提起#
この訴訟はもともと、テネシー州の10代の若者3人がxAIに対して起こしたものだ。彼らは、xAIがGrokを使って実在する人物（未成年を含む）の性的画像が生成されることを防ぐための基本的な対策を怠ったと非難している。
なお、ソース記事によると、今年（2026年）初めにはXのプラットフォーム上でGrokが生成した性的画像が数百万枚規模で氾濫するという事態も発生していた。
原告側は現在、この訴訟を**集団訴訟（クラスアクション）**として認定するよう求めている。TechCrunchはxAIにコメントを求めたが、記事執筆時点での公式回答は得られていない。
なぜこのニュースが重要なのか——注目すべきポイント#
1. 生成AIによるCSAM問題の深刻化#
CSAM（Child Sexual Abuse Material＝児童性的虐待素材）は従来、実際の被害を伴う撮影によって生成されてきた。しかし生成AI技術の普及により、既存の一般的な写真から性的コンテンツを生成・変換することが技術的に可能になっている。今回の事案はその危険性を具体的に示す事例となっている。
2. プラットフォーム側の安全対策への問い#
原告が指摘する核心は、xAIが「基本的な予防措置」を取らなかったという点だ。AIチャットボット・画像生成ツールを提供する企業が、その悪用を防ぐためにどこまでの責任を負うべきか、法的・倫理的な議論が改めて問われている。
3. xAIとSpaceXの関係#
ソース記事によると、xAIは現在SpaceXの一部となっている。この組織上の変化が今後の訴訟対応や責任の所在にどう影響するかも注目点の一つだ（詳細は元記事を参照）。
4. 集団訴訟への発展可能性#
原告側がクラスアクション認定を求めていることは、同様の被害を受けた可能性のある多くの人々を対象とした大規模訴訟へと発展する可能性を示唆している。
まとめ#
Grokを使った児童性的虐待素材の生成疑惑をめぐる訴訟は、新たな原告が加わり、さらに深刻さを増している。xAIへのコメント要請に対する回答は現時点では得られておらず、今後の企業側の対応が注目される。
筆者の見解: 生成AI技術の急速な普及は、その悪用リスクとの競争でもある。AIツール提供企業が「基本的な安全対策」を怠ったと法廷で認定されるかどうかは、業界全体の安全基準設計に影響を与えうる重要な先例となり得る。特に未成年者の保護という観点は、AI規制議論において最も優先度の高いテーマの一つとして今後も浮上し続けるだろう。
⚠️ 危機状況にある方へ: 自殺念慮を抱えている方や、危機的な状況にある方は、988（米国の自殺・危機ホットライン）に電話またはテキストメッセージで連絡してください。
出典: Woman claims her stepfather used Grok to transform childhood photo into explicit imagery
