TikTok、安全機能を意図的に無効化した実験が波紋#
TikTokが米国ユーザー約1500万人を対象に、有害コンテンツの過剰表示を防ぐアルゴリズム上の安全機能を意図的に無効化する実験を実施していたことが明らかになり、米上院議員2名がTikTok幹部に対して説明を求める書簡を送付した。
何が起きたのか？ 実験の概要#
Bloombergの報道によると、TikTokは米国ユーザーの10%を対象に、アルゴリズム上の安全機能を無効化したコントロールグループ（対照群）を設けた実験を実施した。
この安全機能は、ユーザーが有害なコンテンツに過度にさらされることを防ぐために設計されたものだ。しかしTikTokは、この機能がアプリのエンゲージメント（ユーザーの滞在時間や利用頻度）を低下させているかどうかを検証するために、あえて機能をオフにした状態でテストを行ったとされている。
このコントロールグループに含まれていたのは、16歳のChase Nascaさんだった。彼のアルゴリズムは、悲しみ・自殺・孤独をテーマにした動画を大量に表示し続け、その後、彼は自ら命を絶った。
上院議員が「極めて悪質」と批判 13の質問を送付#
共和党のMarsha Blackburn上院議員（テネシー州）と民主党のRichard Blumenthal上院議員（コネチカット州）は、TikTokのCEOであるShou Chew氏、および米国事業のCEOであるAdam Presser氏宛てに書簡を送付した。書簡の中で両議員は、TikTokがこの実験を実施したという判断を「depraved（極めて悪質・道徳的に堕落した）」と表現し、強く非難している。
両議員が要求している回答は、以下を含む13の質問にわたる。
- 実験を把握していた全社員の氏名
- なぜ未成年者をコントロールグループに含めることを許可したのか
- 米国内で安全機能を無効化・遅延させたすべてのアルゴリズム実験のリスト
TikTokに対して設定された回答期限は2026年9月1日となっている。
なお、TechCrunchのコメント要請に対し、TikTokは本記事の掲載時点で即座の回答をしていない。
なぜこのニュースが重要なのか？#
この問題がとりわけ重大視される理由は複数ある。
1. 未成年者が実験対象に含まれていた点 安全機能を意図的に無効化した実験に、保護が必要な未成年者が含まれていたことは、倫理的・法的に深刻な問題をはらんでいる。議員が明示的に「なぜ未成年者をコントロールグループに入れたか」を問うている点からも、その重大性が伺える。
2. 「エンゲージメント」のために安全を犠牲にした疑惑 TikTokが安全機能を無効にした目的が、アプリのエンゲージメント指標の検証だったとされる点は、プラットフォームの優先事項に疑問を投げかける。利用者の安全よりも利用時間を優先していた可能性を示唆するため、SNSプラットフォームの透明性と責任を問う議論を加速させる可能性がある。
3. 超党派での追及 Blackburn議員（共和党）とBlumenthal議員（民主党）という党派を超えた連名による書簡であることは、この問題に対する政治的重要度を示している。
まとめ#
TikTokが有害コンテンツから守るための安全機能を意図的に無効化して実験を行い、コントロールグループに含まれた未成年者がその後自ら命を絶ったという事実は、極めて深刻な問題として受け止められている。米上院議員2名は超党派でTikTok幹部に説明を求める書簡を送り、9月1日を期限として13項目の回答を要求している。
筆者の見解: プラットフォームがアルゴリズム実験の対象や内容を外部に開示しない現状は、今回のような悲劇が繰り返されるリスクをはらんでいる。今後、議員側がどのような追加的な措置（立法・制裁など）に踏み切るかが注目される。ただし、具体的な展開については詳細は元記事を参照されたい。
出典: Senators demand answers from TikTok over experiment that disabled safeguards
