サンフランシスコ検事局がApple・Googleに「ヌード化アプリ」削除を命令#
サンフランシスコ市の司法長官デイビッド・チウ氏がAppleとGoogleに対して停止命令書（cease-and-desist letter）を送付し、それぞれのアプリストアから計13本のいわゆる「ヌード化アプリ（nudification apps）」を削除するよう求めた。Wiredが報じたこのニュースは、AIを悪用した非合意的な性的画像生成問題が行政レベルで本格的に問われ始めた重要な事例として注目されている。
ヌード化アプリとは何か#
ヌード化アプリとは、AIを用いて普通の写真から衣類を除去したり、人物の顔を他者の裸体に合成したり、性的なポーズに加工したりといった操作を極めて簡単に行えるツールの総称だ。こうしたツールはディープフェイクポルノ（deepfake pornography）の一形態であり、被害者の同意なしに性的な画像を生成することから「非合意的親密画像（NCII: Non-Consensual Intimate Imagery）」問題として広く認識されている。
チウ氏は取材に対し、「こうした技術がいかに広まっているかに、私たちは完全に愕然とした」と述べ、主に女性や子どもが被害を受けていると警告した。「これらの画像は女性や少女を脅し、侮辱し、追い詰めるために使われている。評判への影響、メンタルヘルスの悪化、自律性の喪失――自殺を考えた被害者もいる」と語った。
要求の具体的な内容#
Wiredが確認した書簡によると、チウ氏はGoogleに5本、Appleに8本の削除を求めた。報告では「アプリへのアクセスを助長することを避けるため」として具体的なアプリ名は公開されていない。ただし、Wiredによれば対象アプリの中には100万件以上のダウンロードを誇り、女性画像の性的加工や「無検閲動画」を売り文句にするものも含まれていたという。
チウ氏はカリフォルニア州のディープフェイクポルノを禁止する法律に基づき、アプリストアがこれらのアプリを提供し続けることは違法であると主張。さらに同氏の事務所は、AppleとGoogleがこれらの有害なアプリを放置することで、数百万ドル規模の手数料収益を得てきた可能性があると推計している。
各社の対応：Googleは停止済み、Appleは沈黙#
Googleの広報担当者ダン・ジャクソン氏はArs Technicaに対し、チウ氏が指摘した5本のアプリについて有害コンテンツに関するポリシー違反としてGoogle Playから停止済みであることを明らかにした。またGoogleは、有害コンテンツを含むアプリの検出・削除に継続的に取り組んでおり、「nudify（ヌード化）」などの関連検索ワードもストア上で制限しているとしている。さらに数百本の違反アプリを停止した実績があると説明した。
一方、Appleはコメントの求めに応じなかった。研究者から指摘された一部アプリを削除した事例はあるものの、ヌード化アプリへの取り締まり強化を求める声に対して、同社は全体的に沈黙を保っているとソース記事は指摘している。
見えにくくなる悪質アプリと「Grok問題」#
ソース記事が指摘するもう一つの重要な課題が、悪質アプリによる検出回避の巧妙化だ。5月に公開されたプレプリント論文（査読前研究）によれば、研究者らは「顔交換（face-swapping）」ツールとして宣伝されている420本のアプリを特定し、うち155本を実際にテストしたところ、70%においてヌード化が可能であることが判明した。つまり、表向きは一般的な顔交換ツールを装いながら、ヌード化機能を隠し持つアプリが多数存在しているということだ。
また、記事ではxAIの生成AIチャットbot「Grok」に関する問題も取り上げられている。xAIは今週、Grokが児童性的虐待素材（CSAM）や成人を標的にしたNCIIを生成した事例を確認したとして提訴を行った。GrokはAppleのApp Storeに現在も公開されており、Appleが4月に上院議員に対してGrokを非公開で削除警告したと報じられたにもかかわらず、依然として削除されていない状況だ。チウ氏の今回の命令書にGrokの削除要求は含まれていないが、こうした一連の動きがアプリストア全体の審査強化につながることへの期待が示されている。
まとめ#
サンフランシスコ市の今回の行動は、AIが生み出す非合意的な性的画像問題に対して行政機関が法的手段を用いて踏み込んだ注目すべき事例だ。Googleは迅速に対応した一方、Appleの対応は現時点で不透明なままだ。チウ氏は「両社が正しいことをしてくれると期待している。しかしそうでなければ、あらゆる法的選択肢を検討せざるを得ない」と述べており、今後の動向が引き続き注目される。
筆者の見解: アプリストアが「プラットフォーム」として収益を得る以上、その上で行われる被害に対する責任をどこまで負うべきかという議論は、今後ますます重要になるだろう。技術的な検出の限界も浮き彫りになっており、規制・技術・企業ポリシーの三方向からの連携が求められる局面と感じる。
出典: San Francisco orders Apple, Google to remove nudify apps from app stores
