9月11日、Los Angeles Timesが「Anthropic says Yemeni weapons cell used its AI to try to build missile guidance software」と題した記事を公開した。イエメンを拠点とする武装組織がAnthropicのAI「Claude」をミサイル誘導ソフトウェアの開発に悪用しようとした事例を、Anthropicの公式レポートをもとに報じている。

イエメンの武装組織が「Claude」でミサイル誘導ソフトを開発しようとしていた

Anthropicは、イエメン北部を拠点とする未特定のグループが、自社のAIモデル「Claude」をミサイル・ロケットシステムの開発に利用していたことを、AIの悪用検出と対策に関する公式レポートで明らかにした。元記事の表現（"Yemeni weapons cell"）に倣い、同記事はこのグループを「イエメンの武器開発組織」と呼んでいる。なお記事中では「イランが支援するフーシ派の支配地域」という地理的文脈が補足されているが、Anthropicのレポート自体がこのグループをフーシ派と断定しているわけではない点には注意が必要だ。

このグループが取り組んでいた兵器プロジェクトは3件。具体的には以下のものだ。

• 誘導ロケット
• 射程2,000km超を謳う弾道ミサイル
• 「R2000」と呼ばれるミサイルファミリー

グループはClaudeを使い、**誘導・航法・制御（GNC：Guidance, Navigation and Control）ソフトウェア**の開発を支援させていた。GNCは飛翔体の軌道計算・姿勢制御・目標追尾を担うシステムであり、精密誘導兵器の中核技術に相当する。通常であれば専門のソフトウェアエンジニアが担う作業の一部をAIに代替させようとしていた形だ。

AIを使った「検出回避」の手口

技術的に注目すべきは、このグループの手口の巧妙さだ。

• 複数のAIセッションに作業を分散させ、一つのセッションで全体像が把握されないようにした
• プロジェクトの軍事的性質を意図的に隠蔽して、Claudeの安全フィルターをすり抜けようとした
• オフライン用シミュレーションツールキットを開発し、Claudeやエンジニアリングソフトウェアへのアクセスがなくても開発作業を継続できる仕組みを構築した

このオフラインツールキットの開発は特に重要な点だ。AIへのアクセスが遮断されても兵器開発を続けられる自律的な環境を整備しようとしていたことを意味し、単発の悪用にとどまらない組織的・継続的な活動の意図をうかがわせる。

Anthropicによれば、このグループは実際にロケットの実射試験を実施しており、その後Claudeを使って失敗と見られる発射の原因診断を求めていたという。

ただし、Anthropicは「運用可能な兵器が完成したという証拠は見つかっていない」と明確に述べている。 今回の事案はAIが兵器開発を「完遂させた」事例ではなく、悪用の試みを検出・阻止した事例として理解する必要がある。この留保はレポートの結論として重要であり、事案の深刻さを測るうえで見落としてはならない。

Anthropicの対応：検出・通報・強化の三段階

Anthropicは今回の事案を受け、以下の対応を行ったと報告している。

• 当該活動に紐づくアカウントをすべて停止（BAN）
• パートナー企業・機関へのインテリジェンス共有
• 調査後のセーフガード強化

この対応はAnthropicが単独で処理したものだが、ここに制度的な問いが潜んでいる。悪用の検出・通報・対処を民間AI企業が自己完結的に担う現状の枠組みが、国家安全保障上のリスクに対して十分かどうかは議論の余地がある。Anthropicは同レポートで悪用事例の透明な開示を継続する姿勢を示しているが、政府機関や国際機関との連携体制については現時点で詳細が公開されていない。

なお、Anthropicが公表している利用規約（Usage Policy）では兵器開発への利用を明示的に禁止しており、今回の事案はその違反に該当する。

背景：紅海情勢とAI悪用リスク

今回の事案が報告されたのは、イエメンを拠点とする武装組織が紅海（主要な国際貿易ルート）での船舶攻撃をミサイルやドローンで続けている最中だ。紅海に面したバブ・エル・マンデブ海峡周辺での緊張は原油価格の押し上げ要因にもなっており、こうした地政学的文脈がAI悪用の動機を高める背景として存在している。

非国家武装組織が市販の汎用AIを兵器開発に転用するというこのケースは、AIの安全性・悪用対策をめぐる議論に新たな論点を加える。特に今回のように作業を分散させてフィルタリングを回避する手法は、既存の安全設計の限界を示すものとして業界全体に示唆を与える。Anthropicのような企業が独自に検出・対処するだけでは十分かどうかという問いは、今後より切実になるはずだ。

詳細はAnthropic says Yemeni weapons cell used its AI to try to build missile guidance softwareを参照していただきたい。