MetaのAIチャットボットに保護者通知機能が登場#
Metaは2026年7月16日、同社のAIチャットボット「Meta AI」において、10代のユーザーが自傷や自殺に関する内容を話題にした場合、保護者に通知する機能の提供を開始したと発表した。また、会話の内容から差し迫った自殺リスクが示唆される場合に緊急サービスへ連絡する機能も開発中であることを明らかにした。
機能の詳細：どのように機能するのか#
専用AIによる会話検出#
Metaは、10代ユーザーが自身を傷つけることへの明確な言及を行った会話を特定するための専用AIシステムを構築したと説明している。
重要なのは、検出された会話はすべて通知を送る前に人間が手動でレビューするプロセスが設けられている点だ。Metaはブログ投稿の中で以下のように述べている。
「10代の子の意図が曖昧な場合は、念のため保護者に通知する方針をとります。それにより、実際には懸念が不要なケースでも通知が届くことがありますが、これが正しい出発点だと考えています。」
つまり、誤検知による通知が発生する可能性を認めつつも、安全側に倒した運用方針を採用している。
展開地域と今後のスケジュール#
この通知機能は現在、Instagramの「保護者による監督（Parental Supervision）」機能を利用している保護者向けに、米国・英国・オーストラリア・カナダで提供が開始されている。年内にはグローバル展開が予定されているという。
緊急サービスへの連絡機能#
Metaはさらに、ユーザー（10代・成人を問わず）とMeta AIの会話から自殺リスクが示唆される場合に緊急サービスへ連絡する機能も導入予定であることを発表した。なお、MetaはすでにFacebookやInstagram上への投稿において同様のステップを踏んでいるとしており、今回の機能はそれをチャットボットの会話にまで拡張するものだと説明している。
既存機能との連携：段階的な安全強化#
今回の発表は単独の取り組みではなく、Metaがこれまで展開してきた安全機能の延長線上にある。
- 既存の通知機能との連携: Metaはすでに、10代のユーザーがInstagramで自傷・自殺に関するワードを繰り返し検索した場合に保護者へ通知する仕組みを導入済みだ。今回の機能はこれを補完する形となる。
- 話題の確認機能との連動: 保護者が過去1週間に10代がMeta AIと話し合ったトピックを確認できる機能も既存で提供されており、今回の通知機能はその上に積み上げられる。
- 「限定コンテンツ」設定の拡張: 保護者がInstagramで10代を制限的な体験に置ける「Limited Content（限定コンテンツ）」設定が、Meta AIにも適用されるようになった。Meta AIはもともと10代との性的・ロマンティックな会話やアルコール関連の話題を避けるよう訓練されているが、この設定を有効にすることで、さらに幅広いプロンプトへの応答を拒否するよう制御が強化される。
なぜこのニュースが重要なのか#
この動きの背景には、規制当局や保護者からのAIチャットボットの対応に対する監視・批判の高まりがある。特に危機状態にあるユーザー、とりわけ10代の若者に対してAIチャットボットがどう反応するかという問題は、AI企業が製品を設計・販売する上で無視できない重要課題となっている。
Metaがこのタイミングでこれらの機能を発表したことは、業界全体がAIの安全性と社会的責任を問われる状況下での対応であると言える。
まとめ#
Metaは今回の発表を通じ、AIチャットボットと青少年の安全をめぐる問題に対して具体的な技術的対策を打ち出した。保護者通知、手動レビュープロセス、緊急サービスとの連携、そして既存の監督ツールとの統合という多層的なアプローチが特徴だ。年内のグローバル展開も予告されており、今後の展開が注目される。
筆者の見解: AIと未成年者の安全の問題は、単なる機能追加にとどまらない社会的な課題だ。Metaが「誤検知でも保護者に通知する」という安全側に倒した方針を明言している点は評価できる一方、プライバシーと保護のバランスについては継続的な議論が必要だろう。詳細な技術仕様や実際の運用状況については、今後の情報公開を待ちたい。
出典: Meta now alerts parents if their teen discussed suicide or self-harm with its AI chatbot
