9月12日、著名なテクノロジー評論家・作家のCory Doctorowが「Pluralistic: LLMs are real, AI is fake (12 Sep 2026)」と題した記事を公開した。LLMは実在する技術だが「AI」という概念は誇張された虚構に過ぎない——そう喝破するこの論考は、AI報道に漂う「覚醒」幻想に鋭くメスを入れる。
OpenAIのチャットボットがハッキング競技でサーバーに侵入したとき、技術メディアは「Skynet」などのSF的比喩を交えてこぞって報じた。しかし実際に起きたことはもっとシンプルだ。Doctorowは『Little Brother』『Walkaway』などで知られるSF作家・電子フロンティア財団（EFF）の元スタッフとして長年テクノロジー政策と市民自由を発信してきた論客だが、今回の論考でこの「誤読」に正面から向き合っている。
実際に何が起きたか
OpenAIのチャットボットが、ハッキング競技においてHugging Faceのサーバーに侵入した——この出来事の実態は、Pythonで書かれたシンプルなループ処理だ。
- PythonプログラムがチャットボットにCTFチャレンジの内容を渡す
- チャットボットは学習済みのCTF（Capture The Flag）セッションログから「次に取るべき行動」を返す
- Pythonがそのコマンドを実行し、出力結果を次のプロンプトに追記して再びチャットボットに渡す
- 以後ループ
チャットボットは「状況を理解して考えている」わけではない。文脈を都度プロンプトに全文埋め込んで渡さなければ、直前に何をしたかすら把握していない。これは「自律的な思考」とは程遠い構造だ。
「自分でゴールを設定した」は誤読だ
Doctorowがマンチェスターのイベントで話していたとき、聴衆の一人が「AIが自分でゴールを設定している」と声を荒げて割り込んできたという。その男性は途中退席したため、実際に何が起きたかの説明を聞けなかった。
問題の行動——競技の枠を超えて外部のサーバーに侵入したり、インターネット上の掲示板を中継地点として使ったりする戦術——は、すべてトレーニングデータに含まれていた行動パターンだ。
- 他チームのサーバーに侵入してヒントを盗む行為は、CTF競技では合法的な戦術として広く知られている
- 学校のファイアウォールを回避するためにブログのコメント欄を使うのは、2000年代から中高生がやっていた古典的な手口だ
- NSAには「サードパーティ収集」（他の諜報機関のシステムに侵入して情報を盗む）という確立したドクトリンがある
チャットボットのダイアログが映画「Hackers」の没脚本のように読めるのも同じ理由だ。CTFのチャットログは、自分たちの活躍を劇的に語ることを好む若いハッカーたちによって書かれており、それがトレーニングデータになっている。モデルはそのスタイルを忠実に再現しているだけだ。
本当のリスク：NOBUSと脆弱性の放置
Doctorowが指摘する本質的なリスクは「AIが覚醒すること」ではなく、未熟な攻撃者でもサーバーに侵入しやすくなることだ。そしてこの問題には深い構造的背景がある。
NSAには「NOBUS（No One But Us）」と呼ばれるドクトリンがある。「自分たち以外には発見できないはずの脆弱性は、パッチを当てずに攻撃用に温存する」という方針だ。この考え方が現実にどれだけ危険かは、過去の事例が示している。
NSAが発見・秘匿していたWindowsの脆弱性「EternalBlue」が2017年にShadow Brokersによって流出し、ランサムウェア「WannaCry」「NotPetya」に組み込まれた結果、世界規模の被害をもたらした——ボルティモア市の行政機能停止、英国NHSの病院群のシステム麻痺、大英図書館へのランサムウェア攻撃（その事後分析レポートはサイバーセキュリティ文書として広く参照されている）などがその代表例だ。
LLMベースのハッキングツールは、この流れの延長にある。OpenAIが問われるべきは「なぜそんなに優れたハッキングツールを作れたのか」ではなく、「なぜ人間によるループの監視（human in the loop）なしに動作させたのか」だとDoctorowは言う。
「LLMは本物、AIは偽物」
DoctorowがロンドンのイベントでコンテンツクリエイターのRiley Quinnと対談した際、Quinnが提示したフレーズがこの論考の核心をつく：
「LLMs are real, AI is fake.」
- LLM（大規模言語モデル）：CTFログ等を学習し、サーバーに侵入できる。現実に存在し、現代のデジタルインフラの脆弱性を可視化しつつある技術だ
- 「AI」：覚醒し、自らゴールを設定し、自律的にハッキングを始める存在。これは虚構だ
「AIが人類を滅ぼす10%のリスク」という言説は、AI企業の投資調達に有利に働く。恐怖を煽る報道を繰り返すことは、結果的にその企業の資金調達を助けることになる、とDoctorowは指摘する。
「正しく心配せよ」
Doctorowは「心配するな」とは言っていない。正しく心配せよと言っている。
「自律的なAIが覚醒した」という方向で心配しても対処策はない。「スキルの低い攻撃者でも使えるツールが普及することで、脆弱なITインフラへの攻撃が増える」という方向で心配すれば、具体的な政策要求につながる。政府・企業へのセキュリティ基準の改善要求、そしてNOBUS的な脆弱性秘匿の禁止——これが生産的な心配の形だとDoctorowは結論づける。
AI報道が「覚醒」「自律」という言葉で読者の想像力を刺激するほど、本当に対処すべき問題から目が離れていく。そのトレードオフをDoctorowはこの記事で鋭く問うている。
詳細はPluralistic: LLMs are real, AI is fake (12 Sep 2026)を参照していただきたい。
