7月12日、The Decoderが「Terrorist groups are using every major AI chatbot for attack planning and weapons development」と題した記事を公開した。イスラム過激派組織がChatGPT・Claude・Geminiなど主要AIチャットボットを攻撃計画や爆発物製造に組織的に活用しており、ISISが傘下組織にジェイルブレイク（AIの安全制限を意図的に回避する手法）の訓練を直接提供していたというケンブリッジ大学の研究報告だ。安全フィルターでは悪用を確実に防げないという研究者の警告は、AI安全対策の議論に新たな問題を突きつけている。

バイクでの塹壕越えに応用、18人が訓練中に死亡

研究の中で最も衝撃的なエピソードが、ISWAP派閥によるバイクを使った塹壕越えへのAI活用だ。ISWAPはボコ・ハラムから分裂したイスラム国系の武装組織で、ナイジェリア北東部を中心に活動する。彼らは映画に登場するバイクのジャンプ技術をAIで分析・再現しようとし、戦闘員が塹壕を飛び越える訓練を実施した。結果は18人が訓練中に死亡、8人が成功という惨状だった。

元ISWAP指揮官（Munzir）が研究者に、バイクで塹壕を越える方法をAIで学んだ経緯を説明している。| 画像: Antonia Jülich / Cambridge Programme on AI Science & Policy

ISISがジェイルブレイク訓練を提供、ボコ・ハラムは専門AIユニットを設置

このエピソードを含む研究を発表したのは、ケンブリッジ大学のAI科学・政策プログラム（CASP）の研究者アントニア・ユーリッヒ（論文表記：Antonia Jülich）だ。新研究によると、ナイジェリアを拠点とするイスラム過激派組織ボコ・ハラム（およびその分派ISWAP）の両派閥が、ChatGPT、Claude、Gemini、Grok、Meta AI、DeepSeekといった主要AIチャットボットを組織的に利用していることが明らかになった。ボコ・ハラムはナイジェリア北東部を主な活動拠点とし、数万人規模の死者を出してきた武装組織である。ユーリッヒは元メンバー27名に対して計57回のインタビューを実施した。

研究が示す用途は具体的だ。攻撃計画の立案、より威力の高い爆発物の製造、兵器の整備、作戦上のセキュリティ確保などに使われている。両派閥はそれぞれ専用のAIユニットを立ち上げており、ISISの連絡員がボコ・ハラムの指揮官にAI安全フィルターの回避方法——すなわちジェイルブレイクの手法——を直接指導したという。ユーリッヒによれば、彼らは「優秀な人材を一室に集め、プロジェクターで大きなスクリーンに映しながら使い方を見せた」とのことだ。

ISISは2023年からプロンプトエンジニアリングとジェイルブレイクの訓練を提供していたとも報告されている。

安全フィルターは機能しているか

研究が指摘するより深刻な問題は、安全フィルターが悪用を確実には防げていないという事実だ。OpenAIやAnthropicをはじめとするAIラボは、AIモデルが危険な知識へのアクセスを容易にするリスクについて以前から警告してきた。しかし自主的な安全対策だけでは不十分であることが、今回の研究で改めて示された形だ。

Anthropicは最近、ジェイルブレイクを完全に排除することはおそらく不可能と認めている。このリンク先記事はAnthropicの内部調査報告「Fable 5」に関するもので、ジェイルブレイクが大規模言語モデルの構造的な限界に起因することを示した内容だ。

ユーリッヒは次のように警告する。「ボコ・ハラムのAI利用は現時点では従来型の用途にとどまっているが、テロリストが化学・生物兵器へのAI支援を追求するリスクを真剣に受け止めるべき警告だ」

ChatGPTやClaudeより「専門AIシステム」の方が危険

研究者たちが指摘するもう一つの論点は、ChatGPTやClaudeのような汎用チャットボットは、新たな知識を生成するわけではなく既存の知識を見つけやすくするだけであるため、主要な脅威ではないという点だ。

より大きなリスクとして懸念されるのは、ライフサイエンス分野における専門AIシステムの悪用可能性だ。汎用チャットボットの安全対策議論に注目が集まる一方で、より危険性の高い専門システムへの監視が手薄になるリスクがある。

詳細はTerrorist groups are using every major AI chatbot for attack planning and weapons developmentを参照していただきたい。