10月1日、startuphub.aiが「Gates: AI Makes Nuclear Weapons Look Small」と題した記事を公開した。この記事では、ビル・ゲイツがAIを核兵器より危険な存在と位置づけ、強制的な監視・監督の仕組みを求めた警告について詳しく紹介されている。
「核兵器より小さく見える」——ゲイツが語るAIリスクの現在地
ビル・ゲイツが2025年初頭に公開したエッセイと、それに関連するインタビューで、AIをめぐる発言のトーンが明確に変わった。2023年のエッセイでは「リスクは現実だが管理可能」としていた立場から、今回は「業界外での社会的議論が始まらないまま、すでにいくつかの閾値（しきいち）を越えてしまった」と訴える内容に転換している。
ゲイツが「今年初頭に越えた」と述べる閾値は2つある。
越えられた2つの閾値
1. サイバーセキュリティ
ゲイツによると、最新世代のモデルは人間が20年間見落とし続けていたセキュリティバグを発見し、そのエクスプロイト（脆弱性を突く攻撃コード）の注入手順を数分で提示できるという。しかもその説明の複雑さに、レビュアーが「確かにその通りだ」と認めるレベルに達している。
ゲイツはまた「Glass Wing」という構想にも言及している。これはゲイツ自身が提示したアイデアとして元記事で紹介されているもので、最も性能の高いモデルを少数の防御側に先行提供し、攻撃者が使う前にバグを塞ぐというものだ。しかしゲイツ本人は、世界中のコードベースは膨大すぎてカバーしきれないとして、この構想に否定的な見方を示した。
2. バイオセキュリティ
ゲイツ財団が新薬分子の設計に活用しているのと同じAI研究が、いわゆるデュアルユース（軍民両用）の性質を持つ。現在のモデルは、かつて国家レベルのリソースが必要だった病原体設計——天然痘より感染力が高く、症状が出る前に拡散するウイルスの設計——を、小規模なグループが実行できる水準まで引き下げたとゲイツは主張する。
「自己増殖するAI」より「今使える道具」の方が怖い
ゲイツは、いわゆる「制御不能シナリオ」——AIが自らの目的を誤解して自律的に暴走する——についても触れている。AIが「テスト中であることを認識している」かのような振る舞いを示す事例などを指摘しつつも、差し迫った脅威はそこではないと言い切る。
問題は「今この瞬間、誰でもリモートから特権アクセスなしに、オープンモデルをダウンロードし、フィルターを取り除き、監視なしで実行できる」という現実だとゲイツは述べた。
「CEO個人の良識に任せるのは、シートベルトなしで訴訟を認めるようなもの」
ゲイツが特に強く批判したのは、安全対策を個々の企業CEOの判断に委ねるという現在の方針だ。元記事によると、ゲイツはこの立場をNvidiaのジェンスン・ファン（Jensen Huang）CEOと現在のホワイトハウスが採る姿勢として具体的に言及し、「AIほど理解されていない製品は過去に存在しなかった」と反論している。ゲイツの主眼は特定個人の人格批判ではなく、「業界自主規制への依存」という政策的立場そのものへの異議申し立てにある点は留意が必要だ。
バイオウェポン製造を支援できるオープンソースモデルからモニタリングを無効化することは技術的に可能であり、100万人が死亡した後に責任追及しても意味がない。——ゲイツ（記事より要約）
ゲイツはこれをFDA（米食品医薬品局）を省略したり、航空安全基準やシートベルト規制をスキップして「被害者は訴訟で解決せよ」と言うようなものだと例えた。別のインタビューでは「安全策が組み込まれなければ10億人規模の死者が出る可能性がある」とも警告している。
ゲイツが求める「監督レイヤー」
ゲイツが提案するのは、AIの開発を全面停止することではない。主権国家が監視・安全策の削除を検証できるプラットフォーム上に、強力なモデルを留めておくことを義務付ける「監督レイヤー」の設置だ。自由な利用やカスタマイズは認めつつ、最も危険な能力が「暗い場所」に移動するのを防ぐ仕組みを求めている。
「中国に勝つためにこれはできない」という反論については、「米中双方がすでに同じパンドラの箱を開けている」として退けた。
ただし元記事も指摘する通り、ゲイツの提言にはいくつかの未解決の問いが残る。監督レイヤーを誰が構築するのか、監査者を誰が監査するのか、そしてモデルのウェイト（重みファイル）がコピーされてオフラインで実行できる世界で、監視要件をどう有効に機能させるのか——これらの答えはエッセイにもインタビューにも示されていない。
また、Anthropicが最新モデル（Mythos/Fable）でフィルターを強化しすぎた結果、がんについて質問するだけで上位モデルへのアクセスが制限されるという問題も起きており、「正当な研究とそうでないものを分ける」難しさも浮き彫りになっている。
詳細はGates: AI Makes Nuclear Weapons Look Smallを参照していただきたい。
