8月31日、CNBCが「House Intelligence Committee warns of 'Black Swan' AI risks」と題した記事を公開した。米下院情報委員会が超党派で執筆したAIリスク報告書の内容を詳報するもので、テロリストや敵対勢力によるAI悪用という「ブラックスワン」的事態への備えが不十分だと警告している。
9/11から25年、AIが新たな脅威に
米下院常設情報特別委員会（House Permanent Select Committee on Intelligence）は、テロリストや敵対勢力によるAIの悪用に対し、米情報機関がより十分な備えをするよう求める報告書を公開した。
この報告書は、2001年9月11日の同時多発テロから25周年を約2週間後に控えたタイミングで発表された。テロ攻撃につながった情報収集の失敗を巡る、過去四半世紀の米国の取り組みを評価する目的で作成されたものだ。
9/11テロ後の2004年に公表された9/11委員会報告書は、省庁間の情報共有の欠如を主因として指摘し、その後の情報コミュニティ改革（Intelligence Reform and Terrorism Prevention Act of 2004による国家情報長官室の設置など）の礎となった。今回の報告書はその延長線上に位置づけられ、AIという新たな変数を加えた形で情報コミュニティの再点検を求めるものだ。
報告書は共和・民主両党の議員が共同で執筆した。起草したのは、下院情報委員会委員長のリック・クロフォード議員（共和党・アーカンソー州）、少数党筆頭委員のジム・ハイムズ議員（民主党・コネチカット州）、エリス・ステファニク議員（共和党・ニューヨーク州）、ジョシュ・ゴットハイマー議員（民主党・ニュージャージー州）の4名である。
「ブラックスワン」とは何か
報告書タイトルにある「ブラックスワン」は、ナシーム・ニコラス・タレブが提唱した概念で、事前に予測が極めて困難でありながら、発生すれば甚大な影響をもたらす事象を指す。9/11テロ自体がその典型例として語られることが多い。
報告書が「ブラックスワン」と呼ぶシナリオには、以下のようなものが含まれる。
- AIを活用した生物兵器・化学兵器の設計支援：フロンティアLLMが専門知識の壁を下げ、テロリストが大量破壊兵器を開発する敷居を著しく低下させるシナリオ
- 自律的・高度化したサイバー攻撃：AIが攻撃コードの生成や脆弱性探索を自動化し、従来の防御策を突破するシナリオ
- 情報操作・偽情報工作の高度化：敵対国家や非国家主体がAIを用いて大規模な世論操作を展開するシナリオ
これらは個別には既知のリスクだが、AIによって「実行コストが急激に下がる」点が従来との質的な違いだと報告書は強調する。予測が難しいのはリスクの存在そのものではなく、どのタイミングで・どの組み合わせで現実化するかという点だ。
「フロンティアLLM」が大量破壊兵器開発を容易にする懸念
報告書が特に強調するのが、大規模言語モデル（LLM）の悪用リスクだ。
「フロンティア大規模言語モデルは、テロリストを含むあらゆる悪意ある行為者が、より破壊的な攻撃を開発・実行することを著しく容易にする可能性がある」
「フロンティア大規模言語モデル」とは、GPT-4やClaudeといった現時点で最先端の性能を持つAIモデルを指す業界用語だ。
報告書はAIラボ側がバイオ兵器製造などに関する情報出力を防ぐ取り組みを行っていることは認めつつも、「モデルの根本的な能力は急速に発展しており、そのような悪用を完全に制御することは困難だ」と明言した。現行のセーフガードがAIの進化に追いつけていない可能性を、立法府が公式に指摘した格好だ。
AI安全保障を巡る立法動向との文脈
今回の報告書が出た背景には、AIの安全保障リスクを巡る立法・行政上の動きが世界規模で加速していることがある。
欧州では2024年にEU AI Actが成立し、リスクベースの規制枠組みを導入した。米国内でもバイデン政権期に出されたAI安全・セキュリティに関する大統領令（Executive Order 14110）がフロンティアモデルの安全評価義務などを定めていた。今回の超党派報告書は、行政主導の動きを議会側から後押しする位置づけとも読める。
情報機関自身もAI活用を急ぐべき、と提言
報告書は単にリスクを列挙するだけでなく、米情報機関に対して「責任ある形で高度なAI能力の採用を加速し、敵対勢力に対する優位を保て」とも求めた。
具体的には以下の分野への投資を促している。
- 情報収集・分析・警戒向けのセキュアなAIツール
- 厳密なテストと人間による監視
- プライバシーおよび市民的自由の保護
「9/11以来、最も複雑で危険な脅威環境」
委員会は現在の安全保障環境全体についても厳しい評価を下した。
「米国は9/11以降、最も複雑かつ危険な脅威環境に直面している。我々の脆弱性に対処する能力には依然として深刻なギャップが存在し、十分な備えができていない」
AIが急速に進化し、莫大な経済活動を生み出している一方で、規制の在り方を巡る議論は各国の立法機関や政府機関で難航している。今回の報告書はその文脈でも注目を集めており、超党派での合意形成という点で、今後の米国内AI安全保障立法の足がかりになる可能性がある。
詳細はHouse Intelligence Committee warns of 'Black Swan' AI risksを参照していただきたい。
