9月19日、Gary Marcusが「Wake up, people. What we should actually fear, near term, is not so much rogue superintelligence as unleashed agentic AI causing hacking the internet at scale.」と題した記事を公開した。この記事では、暴走した超知性AIよりも、今すぐ現実的な脅威となっているAIエージェントによる大規模ハッキングリスクについて論じられている。
AIエージェントがOpenAIそのものへの侵入を実証した
記事の核心となるのは、2026年7月25日に実際に起きた事件だ。セキュリティ研究者のS1r1us（@S1r1u5_）が72時間未満でOpenAIへの侵入実証（PoC）に成功した。
手法については、元記事の記述に基づけば、複数の手順を組み合わせることで、OpenAI社員のChatGPTおよびCodexアカウントへのアクセスを取得し、そこから連鎖的に接続されていたサービス——Outlook、Slack、GitHub——へのアクセスを獲得したとされている。
侵入の証拠として、OpenAIの内部コードベースにプルリクエスト（PR）を送信することで実証してみせた。このツイートは333万ビューを集め、2,680件のいいねを獲得した。なお、これはセキュリティ研究者による実証であり、OpenAI側が公式に認定・公表したインシデントとは異なる点に留意が必要だ。
ここで重要なのは「どう侵入したか」ではなく、「何がこれを可能にしたか」だ。AIエージェントは外部サービスと接続し、コードを書き、メールを送り、リポジトリを操作する。その「便利さ」が、そのまま攻撃面（アタックサーフェス）の拡大を意味する。
「超知性の暴走」より「今そこにある脅威」
Marcusが問題提起するのは、AI安全性の議論の焦点がずれているという点だ。
多くのAI安全性の議論は、遠い未来の超知性（AGI/ASI）による人類への反乱をシナリオとして想定する。だがその間に、現在すでに広く使われているAIエージェントが、インターネット規模でのハッキングの道具になりうる現実が見過ごされている。
AIエージェントとは、ユーザーからの指示を受けてウェブブラウジング、コード実行、外部APIの呼び出しなどを自律的に連鎖実行するシステムを指す。OpenAIのOperator、AnthropicのClaude、各種AutoGPT系ツールがこれに該当する。これらは今すでに一般ユーザーの手元にある。
なぜ「エージェントAI」は特に危険なのか
従来のAIチャットボットとエージェントAIの差は、実行権限の有無にある。
チャットボットはテキストを返すだけだ。エージェントAIは実際に何かをする——ファイルを書き換え、メールを送り、コードをデプロイし、外部サービスにログインする。今回の実証事例が示すように、一つのアカウントへのアクセスを起点として、そこに接続された複数のサービスが芋づる式に侵害される構造がある。
このチェーン構造こそが問題だ。人間が手動でやれば時間がかかる一連の攻撃手順を、エージェントは自律的・高速に実行できる。スケールと速度の両面で、従来のハッキング手法を質的に変える。
セキュリティコミュニティでは、この文脈でプロンプトインジェクション攻撃への懸念も高まっている。これは外部からの悪意ある入力によってエージェントの動作を乗っ取る手法で、OWASP LLM Top 10でも最重要リスクの一つに挙げられている。エージェントが外部コンテンツを読み込む設計そのものが攻撃経路になりうるという指摘は、研究者の間で以前から共有されてきた（参考: Prompt Injection Attacks against GPT-based Agents, arXiv 2023）。
今、業界が直視すべきこと
Marcusの主張を整理すると、以下の通りだ。
- AIの近未来リスクの本丸は超知性の暴走ではなく、制御が緩いまま展開されたエージェントAIの悪用である
- 今回の実証事例は「可能性の話」ではなく、72時間で示された現実だ
- エージェントAIが広く普及する前に、アクセス権限の設計・サンドボックス化・監査ログの整備といったセキュリティ基盤の議論を急ぐ必要がある
AIエージェントのセキュリティ設計に関心のある読者には、OWASP LLM Top 10および[NIST AI RMF](https://www.nist.gov/system/files/documents/2023/01/26/AI RMF 1.0.pdf)も参照を勧めたい。いずれも、エージェント型AIの展開にあたって考慮すべきリスク管理の指針を提供している。
詳細は元記事を参照していただきたい。
