9月20日、TechSpotが「An AI hallucination nearly started a war between the US and China」と題した記事を公開した。この記事では、AIのハルシネーション（幻覚）が引き起こした誤った情報分析により、米軍が中国船舶を核兵器関連物資の運搬船と誤認し、武力行使寸前まで至った事件について詳しく紹介されている。

AIが「核兵器の材料を運ぶ中国船」と誤認定

今春、中東において米軍が中国の船舶を拿捕しようとしていた。武装した軍人が乗船準備を整え、軍用機はすでに離陸していた。しかし、出動直前に担当官がレポートを精査したところ、それが少なくとも部分的にAIによって生成されたものだと判明。事態は寸前で食い止められた。

この経緯をCNNに語った情報源によれば、「その情報は完全に虚偽だった」という。2つの核保有国の間で一触即発の状態にあったとされる。

ハルシネーションはどのように連鎖したか

事件の発端は、あるアナリストが未公表のチャットボットに対して、船舶のマニフェスト（積荷目録）に関する情報評価を依頼したことだ。情報の出所は米陸軍特殊作戦コマンド太平洋軍（Special Operations Command Pacific）だった。

チャットボットが返したのは「その船は核兵器プログラム向けの資材を輸送している」という誤った回答。さらに問題を深刻にしたのは、アナリストがその誤った回答をもとに再びAIを使って情報レポートを作成したことだ。ハルシネーションが二段階で連鎖し、軍を高度警戒状態に引き込んだ。

使用されたチャットボットが商用製品か政府所有のものかは現時点でも不明だ。ただし、米軍のAI展開に詳しい当局者はCNNに対し、「政府のチャットボットは商用製品をフォーク・クローンしたうえで政府の情報で補強したものである可能性が高い」と述べている。

軍のAI加速路線という背景

この事件が起きた背景には、米軍が急速にAI活用を推進していた事情がある。2025年1月、ピート・ヘグセス国防長官はAIの積極的な採用と官僚的障壁の排除を推進する方針を打ち出した（※元記事に記載の発言内容に基づく）。「AIで遅れをとれば、中国などの敵対勢力に主導権を奪われる」という危機感が、現場レベルでの急速な導入を後押ししている。

アナリストたちはAIを使ったレポートの迅速な展開を求める圧力に直面しており、それが今回のような確認不足につながった可能性がある。

実際、米軍はAIを情報分析・兵站・ターゲティングに広く活用している。元記事によれば、AnthropicのClaudeをはじめとするAIツールが軍事作戦の情報処理に使われている事例が報告されており、AIによるターゲティングの精度や検証プロセスへの懸念が専門家の間で高まっているという。

※編集部の考察：元記事では特定の作戦へのAIの関与について複数の情報が引用されているが、報道ベースの情報であり確認途上の部分を含む。読者は元記事および引用元のCNN報道も合わせて参照されたい。

「今回だけではない」

CNNに対して複数の米当局者が明かしたのは、中国船舶の事件は孤立した出来事ではないということだ。軍がAIハルシネーションに遭遇したのは今回が初めてではなく、同様のインシデントが複数回発生しているという。元記事はその詳細には踏み込んでいないが、軍内部でのAI利用に対する検証・監査体制の不備が背景にあると複数の当局者が示唆している。

AI開発者たちは長年、「ローグAI（制御を逸した自律的なAI）」がもたらす実存的リスクを警告してきた。しかし中東の現場が示しているのは、ハルシネーションを起こしたAIが人間の判断を誤らせるリスクの方が、はるかに差し迫った問題だという現実だ。AIが人間の意思決定プロセスに深く組み込まれるほど、誤情報の「連鎖」を人間が介在して止める機会は失われていく。今回は担当官がレポートを精査したことで辛うじて事態が回避されたが、そのような確認ステップが常に機能するとは限らない。

詳細はAn AI hallucination nearly started a war between the US and Chinaを参照していただきたい。