AIの「幻覚」が一触即発の軍事衝突を招きかけた#
今春、米軍の航空機がすでに飛行中だった——その作戦の根拠となったのは、AIチャットボットが生成した「存在しない情報」だった。CNNの報道をTechCrunchが伝えたこの事例は、軍事分野におけるAI利用の深刻なリスクを世界に知らしめることとなった。
何が起きたのか：事件の詳細#
今春、米軍は中国船舶を標的とした武装作戦を展開しようとしていた。その作戦の根拠となった情報は、「当該船舶が核兵器プログラム向けの部品を輸送している」というものだった。しかしその情報は、AIチャットボットが作り上げた**ハルシネーション（幻覚）**に過ぎなかった。
事の発端は、特殊作戦司令部（Special Operations Command）のアナリストによる行動だ。このアナリストはAIチャットボットを使い、公開情報と機密扱いの信号情報（シギント）を統合しようとした。しかしチャットボットは船舶の積荷情報を誤認識してしまった。
さらに問題を複雑にしたのは次のステップだ。アナリストは同じAIツールを二度目に使用し、その誤った分析結果を公式文書のような体裁に整形させた。そうして出来上がった「それらしい報告書」は、そのまま指揮系統を通じて広まっていった。
イランとの戦争が進行していた最中のこの出来事は、航空機が既に出動した段階で当局者によって発覚し、作戦は最後の瞬間に中止された。中国との衝突という最悪の事態は、かろうじて回避されたのだ。
なぜAIの誤りが「指揮系統を上り詰めた」のか#
この事件が示すのは、AIが生成した誤情報が人間の確認を経ることなく意思決定の上層部まで到達してしまうという構造的な問題だ。
米軍はAIを積極的に導入することで、意思決定の高速化や中国との技術的優位の維持を目指している。ペンタゴンはAIが「キルチェーン（攻撃の連鎖プロセス）の高速化」に大きな優位をもたらすと説明してきた。しかしまさにその「速さ」こそが、今回のような事態を招くリスクを内包している。AIの高速処理は、ハルシネーションが人間の監視の目をすり抜けやすい環境も作り出してしまうのだ。
専門家の見解：AIを排除すべきか、改善すべきか#
GovAI（ガバナンスAI研究機関）の研究者であり、米陸軍のベテラン将校でもあるJake Steckler氏は、TechCrunchへの書面回答でこの問題について重要な見解を示している。
「LLM（大規模言語モデル）が本質的に不確実性を持つことを、軍の隊員が理解することが重要だ。とりわけ、標的選定・情報分析・作戦立案など、武力行使につながりうる判断においては特に重要だ。そうした決断には、生死に関わる結果が伴う」
一方でSteckler氏は、今回の事件をAI全般の排除理由にすべきではないとも述べている。
「適切な文脈と適切な安全策があれば、これらのツールは有用になりえる。しかし導入速度を他のすべてに優先させることは、隊員がこれらのシステムへの信頼を失うような事案を招き、結果的に導入を遅らせるだけだ」
このニュースが重要な理由#
この事件は、AIの「ハルシネーション」問題が単なる技術的な不具合を超え、国際的な武力衝突のトリガーになりうることを具体的に示した初めての公開事例の一つだ。
注目すべきポイントは以下の通りだ：
- 二段階の使用：アナリストが誤った分析の「生成」と「整形」の両方にAIを使用したことで、誤情報が公式文書の外観を持って流通した
- 確認の欠如：AIが生成した情報が適切な人間による検証を受けないまま指揮系統を伝達された
- 速度とリスクのトレードオフ：AIによる意思決定の高速化という利点が、誤情報の迅速な伝播というリスクと表裏一体であることが明らかになった
まとめ#
米軍のAI導入推進が続く中、今回の事例は「導入の速度」よりも「安全策の整備」を優先することの重要性を痛烈に訴えている。Steckler氏の言葉を借りれば、求められるのはAIを遠ざけることではなく、より多くのセーフガードを加えることだ。
筆者の見解： AIが軍事・安全保障分野で不可逆的に普及していく流れは止められないだろう。しかし今回の事例は、「AIが生成した情報を公式文書として扱う前に人間が必ず確認する」という当たり前のプロセスがいかに重要か、そしてそれがいかに機能しなかったかを示している。技術の導入速度と、その技術を正しく使うための教育・制度整備は、必ず並走させなければならない。
