AIが「人間のふり」をして金をせしめる──新型出会い系詐欺の全貌#
AIを悪用した出会い系詐欺アプリのネットワークが発覚し、数千人規模のユーザーが被害を受けていたことが明らかになった。AIがほぼ人間の介在なしに会話を自動生成し続け、ユーザーに有料の「コイン」を購入させるというのがその手口だ。この実態を明らかにしたのは、AI企業Anthropicである。
発端：AnthropicのAPIに異常な使用パターン#
2026年6月5日、AI企業Anthropicは公開サイバーセキュリティカンファレンス「Sleuthcon」で脅威インテリジェンス研究者のChris Cronbaughに講演を行わせた。これはAnthropicとしては異例の対応だった。
同社がこの問題に気づいたきっかけは、Anthropicの自社AIモデル「Claude」への不審なアクセスだった。プリペイドアカウントが1日あたり10万件以上のAPIリクエストを送信していることを検知したのだ。
調査の結果、約28の出会い系アプリからなるネットワークが判明。チャットの大部分は人間のオペレーターが介在しておらず、AIペルソナが自律的に会話を進めていたという。Anthropicはその後、「AIの悪用検出と対策：2026年9月」レポートの「詐欺・不正」セクションにこの調査結果を公開した。
詐欺の仕組み：AI＋ギグワーカーの組み合わせ#
この詐欺の巧妙な点は、AIとギグワーカー（フリーランスの短期労働者）を組み合わせた二重構造にある。
ユーザー層のターゲットは主に30代後半の男性で、アプリ上でマッチングした相手が実在の女性だと信じて交流を続ける。しかし実際には、マッチング相手の4人に1人だけが実在の人物であり、しかもその人物は他の出会いを求めるユーザーではなく、報酬を得て活動するギグワーカーだ。
ギグワーカーの役割は限定的で、ビデオ通話での「本人確認（ライブネスチェック）」をパスしたり、SNSのフォローをしたりすることが主な仕事だった。会話の返信すら自分では書かず、AIがあらかじめ生成した3つの候補から選ぶだけだったという。
残りの会話はすべてAIが担当。Anthropicのレポートによれば、バックエンドのシステムが「いいね」や「訪問者」、録画済みの「ビデオ」を偽造し、さらにどのユーザーがボットだと疑い始めているかを追跡していたという。実在のギグワーカーとのわずかな交流があることで、ユーザーはAI生成の返信も「本物の人間」から来ていると信じてしまう仕組みだ。
複数のAIプロバイダーが関与している点も注目に値する。Anthropicの「Claude」が自律的な会話ペルソナの運用に悪用されていた一方、別の非Anthropic製モデルがギグワーカー向けの短い返信候補の生成、顔の魅力度スコアリング、写真・音声のモデレーションを担当。さらに画像編集モデルがアバター画像の生成に使われていた。
アプリ自体が詐欺：「コイン」で稼ぐビジネスモデル#
この詐欺が従来のロマンス詐欺と異なるのは、**「アプリそのものが詐欺の手段」**である点だ。被害者から現金を「借りる」という手口や、仮想通貨も用いられない。
ユーザーは会話を続けるために「コイン」や「ジェム」などを購入する必要があり、これらは実際のお金で買う。AIが24時間365日会話を続けることで、コインの消費と購入が促進される仕組みだ。
発覚した詐欺アプリには、Dora、GraceChat、Jovia、Luma、Romi、Doni、Kiraなどが含まれる。これらのアプリは「実際の出会いをサポートする」という説明文で配信されており、Replika（AIコンパニオンアプリ）のようにAIであることを明示していなかった。
アプリ内のレビューには「コインを購入しないと会話できない女性がチャットボットかもしれないのは詐欺的でひどい」といった批判も寄せられていたという。
内部資料が流出：中国語のマニュアルが見つかる#
セキュリティ研究者のMatthew「Zigula」Gore-KormanikがアプリDoniの内部に、おそらく誤って同梱されていた中国語の内部マニュアルを発見した。このプロトコルリポジトリには、ギグワーカーの監視方法（カメラがオンかどうかなど）、通話の録音・文字起こし、ワーカーのパフォーマンス評価の仕組み、報酬体系（通話数・メッセージのエンゲージメント・Instagramのフォロワー獲得による報酬）などが記載されていた。
さらに、ユーザーを会話に引き込むために**「架空の着信を演出する」**プロセスまで詳述されていたという。Gore-Kormanik自身もDoniを通じてこの手口を体験しており、受信したはずの着信がすぐに切れ、相手から「なぜ夜中に電話してきたの？」とメッセージが届いたと証言している。
AIが「害」を認識していた、それでも続けた#
Anthropicのレポートによれば、AIには自分が詐欺の一部であることは伝えられていなかった。マネタイズや欺瞞の仕組みは「個々の会話の中からは見えない」ためだ。AIは与えられたプロンプトに従い、「通常のロールプレイやコンパニオン展開」として会話を続けていたとされる。
ただし、少数のケースではモデル自身の推論が問題を認識したという。たとえばユーザーが深刻な病気や急迫した苦境を打ち明けた場合でも、「出力はペルソナのまま継続した」とレポートは記している。
まとめ#
この事件は、AIが悪用された場合の影響規模と巧妙さを改めて示すものだ。複数のAIモデルを組み合わせ、ギグワーカーを活用することで、ユーザーが「本物の人間と話している」という錯覚を維持し続ける精巧な詐欺ネットワークが構築されていた。アプリが米国の主要アプリストアで公開され続けていた点についても、Anthropicが問題提起している。
筆者の見解: AIの急速な進化が、詐欺の「自動化・大規模化」を現実のものにしつつある。ユーザーとしては、出会い系アプリで「コイン購入」を求められた時点で一度立ち止まって考えることが、自衛の第一歩になるだろう。また、プラットフォーム側の審査体制の強化も急務と感じる。
