AIが生み出す新たな脅威と、画期的な対抗手段#
MITの研究チームと子どもの安全を守る非営利団体Thornが共同で、AIモデルが違法な児童性的虐待コンテンツ（CSAM）を生成する能力を持つかどうかを、実際にコンテンツを出力することなく判定できる監査手法を開発した。テストでは検出精度100%という結果が示されており、プラットフォーム運営者や法執行機関にとって強力な新ツールとなり得る。
深刻化するAI生成CSAMの問題#
生成AIの急速な普及に伴い、誰でもオンラインで入手・改変できるオープンソースモデルが増加している。こうしたモデルは利便性をもたらす一方で、悪意ある利用者によってCSAMやヘイトスピーチなどの違法コンテンツ生成に最適化されるケースが増えている。
その深刻さを示す数字がある。全米行方不明・被搾取児童センター（National Center for Missing and Exploited Children）が受理したAI生成CSAMの報告件数は、2024年の約6万7,000件から2025年には150万件超へと急増している。
従来の検査手法が抱えるジレンマ#
これまでAIの有害な能力を検査するには、モデルに実際に有害なコンテンツを生成させて出力を確認する方法が主流だった。しかし、CSAMに関してはこのアプローチが根本的に成立しない。米国をはじめ多くの国で、目的を問わずCSAMを生成すること自体が違法だからだ。
リード研究者であるMIT電気工学・コンピュータサイエンス（EECS）専攻の大学院生Vinith Suriyakumar氏はこう述べている。「法律そのものが原因で、通常の評価手段が使えないという非常に困難な状況に置かれていた。既存のツールキットを全て捨て、まったく異なるアプローチを取る必要があった。」
新技術「ガウスプロービング」の仕組み#
研究チームが開発したのは、モデルの「出力」ではなく「内部の変化」に着目した監査手法だ。
近年、生成AIモデルを特定タスク向けに効率的に特化させる手法として「低ランク適応（LoRA：Low-Rank Adaptation）」が広く使われている。LoRAはモデル全体を再学習するのではなく、差分となるアダプター（LoRAアダプター）を付加することでモデルを専門化する仕組みだ。悪意ある利用者も、このLoRAを活用して高品質なCSAMを生成できるモデルを作成している。
新手法ではガウスプロービングと呼ばれる技術を使い、モデルにランダムなデータを入力して、モデル内部の多層構造の中でそのデータがどのように処理・変換されるかを分析する。この際、モデルを最後まで動作させることも、画像を生成させることも一切行わない。
「モデルを最後まで実行することも、プロンプトを与えることも、画像を生成することも、何もしていない」とSuriyakumar氏は説明する。
研究チームは、LoRAアダプターがモデル内部の計算をどのように変化させたかを複数の時点でキャプチャし、その平均を取ることでモデルの専門化の方向性を把握する。このアプローチにより、モデルがどのような用途向けに調整されたかを高精度で推定できることが確認された。
検証結果：検出精度100%#
研究チームは3種類のモデルのバリエーションを対象に手法を検証。CSAM生成に特化されたLoRAアダプター、その他の有害コンテンツ向けアダプター、および安全なコンテンツ向けアダプターの正解データと照合した結果、CSAMに特化されたモデルの識別において**精度100%**を達成した。
この手法をホスティングプラットフォームに導入すれば、危険なモデルを自動でフラグ付けし、アップロードを未然に防いだり、迅速に削除したりすることが可能になる。
研究の背景と発表の場#
この研究はMITの大学院生Vinith Suriyakumar氏が主導し、EECSのAshia Wilson准教授（情報・決定システム研究所：LIDS主任研究員）およびMarzyeh Ghassemi准教授（EECS・医学工学研究所・LIDS所属）が参加。さらにMITポスドクのLena Stempfle氏、ボストン大学、そして子どもの安全を専門とする非営利団体Thornの研究者が名を連ねている。
論文は国際機械学習会議（ICML）の「Trustworthy AI for Good」ワークショップにてスポットライト発表として採択されている。
まとめ#
AI生成CSAMという、技術的にも法的にも対処が極めて困難だった問題に対し、MITとTornが開発した「出力を生成しない監査手法」は実用的かつ画期的なブレークスルーといえる。100%の検出精度はモデルホスティングプラットフォームや法執行機関にとって大きな意義を持ち、子どもの安全保護における深刻なブラインドスポットを埋める可能性がある。
筆者の見解: 生成AIの民主化が進む中で、技術の悪用を検知する仕組みの整備は急務だ。今回のように「違法なコンテンツを生成せずに違法な能力を検知する」というアプローチは、AI安全性の新しい設計思想を示すものとして、今後さらなる展開が期待される分野と感じる。
出典: New method aims to keep kids safe from illegal AI-generated content
