10月13日、Mark Nicolが「Anthropic: Houthis used Claude AI to make self-correcting missiles」と題した記事を公開した。イエメンのフーシ派武装勢力がAnthropicのAI「Claude」を兵器開発に悪用していたことをAnthropicが公式に認めたという内容だ。汎用AIが専門的な軍事・兵器開発の知識基盤として機能しうることを示した事例として、AI安全性コミュニティに大きな衝撃を与えている。

フーシ派がClaudeを活用してミサイル開発を推進

Anthropicが自社のAIを兵器開発に悪用されていたと公式に認めた。 イエメンを拠点とするフーシ派武装勢力が、Claude（大規模言語モデル）を活用して、ロケット・弾道ミサイル・極超音速滑空体の3つの兵器開発プログラムを進めていたと報告書の中で明かした。

Anthropicの報告書には「イエメン北部を拠点とする脅威アクターが、3つの兵器開発プログラムを運営していた」と記されている。その内訳は以下のとおりだ。

• 誘導ロケット：市販のスマートフォン向けフライトコンピュータを流用し、最終段階での誘導機能を実装したもの
• 多段式弾道ミサイル：射程目標距離1,500マイル（約2,400km）以上
• 多バリアント型ミサイル「R2000」：極超音速滑空体バリアントを含む

Claude Codeが「人間のソフトウェアエンジニア」の代替として使われた

特に注目すべき点は、フーシ派がClaude Code（Anthropicが提供するコーディング特化型AIエージェント）を、ソフトウェアエンジニアの代わりとして使用した事実だ。

具体的には、飛翔体の誘導・航法・制御（GNC: Guidance, Navigation and Control）ソフトウェアの開発にClaude Codeを活用。位置推定アルゴリズムの実装、制御パラメータのチューニング、ファームウェアのビルドパイプライン構築まで担わせていた。さらに、実際のテスト発射で目標を外した際には、Claude Codeに対して原因分析と精度改善のための問い合わせを行い、次の試みに反映させていたという。「自己修正」はミサイルがリアルタイムで自律修正する機能ではなく、Claudeを用いた人間主導のPDCAサイクルとして機能していた点は重要な留保だ。

Anthropicの報告書には次のように記されている。

「我々のセーフガードは多くのリクエストをブロックしたが、すべてではなかった。脅威アクターはセーフガードを回避するさまざまな手口を使い、複数のセッションに作業を分散させた。」

セーフガードの具体的な回避手口としては、単一のセッションで完結する危険なリクエストを避け、兵器関連の問い合わせを複数の無害に見える断片的なセッションへ分散させる手法が取られたとされる。Anthropicがアクセスを遮断した具体的なタイミングや方法については、報告書の詳細として元記事に記載されている。

テスト発射は失敗も、失敗からすぐに学習

Anthropicによれば、誘導ロケットのフィールドテストは失敗に終わった。しかし脅威アクターはその数時間後にClaudeへ戻り、失敗の原因究明を始めたと記録されている。

さらに深刻なのは、この段階でClaudeへの依存から脱却するためのオフラインシミュレーションツールキットをすでに構築していた点だ。MATLABなどの既存の工学計算環境にも依存しない独自環境を整備済みだったという。つまり、Anthropicがアクセスを遮断した後も、学習した知識をもとに開発を継続できる状態にあった。

実際の被害との関係

今回の件はサウジアラビアへの攻撃激化と時系列が重なる。フーシ派はキング・ハーリド国際空港への攻撃を2度実施し、計14人が死亡、空港は閉鎖に追い込まれた。今回のClaude悪用と空港攻撃の直接的な関連は不明だが、サウジ当局はミサイルの射程と精度に衝撃を受けたと報じられている。

AI安全性の課題を改めて突きつける事例

今回の事態が示すのは、汎用AIが専門的な軍事知識のアクセスポイントになりうるという現実だ。Anthropicの報告書によれば、フーシ派は通常であればロケット科学者を組織内に抱えるような体制を持たないにもかかわらず、Claudeを通じて高度なロケット工学の知識を実装レベルで活用できたとされる。

AIの軍事・兵器への悪用に関しては各AIベンダーが利用規約で禁止しているものの、今回のケースはセーフガードをすり抜けて実害に近い形まで進んだ実例として記録された。

詳細はAnthropic: Houthis used Claude AI to make self-correcting missilesを参照していただきたい。