AIをAIで訓練する──禁じられた行為の実態#
OpenAIのAIモデル改善を担う数千人規模の請負業者の中に、作業にAIを使用して解雇された者が複数存在することが、404 Mediaの調査報道によって明らかになった。人間の手による判断を提供するはずの役割を担いながら、AIツールに頼っていたという皮肉な構図だ。
何が行われているのか#
OpenAIは、実際のChatGPTユーザーのプロンプト（入力文）や会話データを読んでチャットボットの応答を改善する大規模な請負業者ネットワークを抱えている。一部のプロジェクトでは1万人以上の請負業者が関与しているという内部文書も存在する。
これらの業者に課された重要なルールの一つが「作業にAIを使用してはならない」というものだ。取得された内部文書には次のような記述があるとされる。
- AIそのものの使用禁止（GrammarlyやAI翻訳ツールを含む）
- AI検出ツール（GPTZeroなど）の使用も禁止（信頼性が低いため）
- 他の請負業者のAI使用を監視・検出する専任レビュアーの存在
レビュアーが注目するAI使用の兆候としては、繰り返しの多い単語、AIに特有の句読点の使い方（例：エムダッシュの多用）、そして作業の異常な速さなどが挙げられている。
解雇される側の声#
404 Mediaが取材した請負業者の一人は「AIを使っている人は常に存在し、それが原因で常に解雇者も出ている。最速でプロジェクトを外される、ほぼ唯一の理由だ」と述べている。数千人規模のグループの中で、発覚した事例は非常に多いという。
また、AIを使用して実際に解雇された別の請負業者は、解雇通知書を404 Mediaと共有した。その書面には作業の「真正性（オーセンティシティ）」に問題があったと記載されていたという。当人は「仕事に喜びを感じられず、社会に貢献しているという実感もなかった。AIに頼ったことが最終的に自分の墓穴を掘った」と語っている。
モデル崩壊という深刻なリスク#
この問題が単なる契約違反にとどまらない理由は、「モデル崩壊（Model Collapse）」というAI技術上のリスクに直結しているからだ。モデル崩壊とは、AIがAI生成テキストをもとにさらに訓練を繰り返すことで、モデルの品質が徐々に低下していく現象を指す。人間の判断でそれを防ぐはずの請負業者が逆にAI生成の回答を訓練データとして提供してしまっていることは、まさにこのリスクを加速させかねない。
さらに衝撃的な証言：意図的なサボタージュ#
404 Mediaが取材した別の請負業者（複数のAI企業でのモデル訓練経験者）は、意図的に最も質の低い回答を選ぶことでモデルの訓練を故意に妨害していたと告白した。「最初はこの仕事に罪悪感を覚えた。今はランダムに選ぶか、意図的に悪い出力を選んでいる。他にも数百人が評価に関わっているので実際にどれほど影響があるかわからないが、AIを悪化させるために報酬をもらっている感覚だ」と述べている。
関連する企業の対応#
取材対象の請負業者2名が所属するMercorというAI訓練会社は、404 Mediaへの声明で「LLM（大規模言語モデル）を使用した作業は契約で厳しく禁じており、違反が確認された場合は即座にプロジェクトから除外している」と述べた。一方、OpenAI自体はこの件に関するコメントを拒否している。
まとめ#
OpenAIのAIモデルを人間の手で改善しようとするプロセスの中に、AIそのものが入り込んでいるという逆説的な実態が浮かび上がった。AIの品質維持のために人間が必要とされる一方で、その人間たちが作業効率化のためにAIに頼るという構造は、AI開発の現場が抱える複雑な矛盾を象徴している。
筆者の見解: OpenAIが「職場でAIを活用せよ」と推奨する企業でありながら、自社のAI訓練業務においてはAIの使用を禁じているという点は、技術的な必要性から来る制約とはいえ、外から見ると非常に大きな矛盾として映る。この問題はOpenAIだけでなく、AI訓練の品質管理という業界全体の課題を示唆しているとも言えるだろう。
出典: People Training OpenAI’s AI Fired for Using AI to Train the AI
