10月24日、The Newsが「Sam Altman says AI is finding 'Insane' hardware-level bugs we never expected」と題した記事を公開した。OpenAI CEOのSam Altmanが「AIは人間のハッカーでは想定し得なかったハードウェアレベルのバグを発見している」と警鐘を鳴らした発言を詳しく紹介している。

AIが「想定外のレイヤー」でバグを掘り当てている

Altmanが発言の中で最も強調したのは、AIが発見するバグの性質が、これまでのセキュリティの常識を超えているという点だ。

「どれほど衝撃的な言葉を使えばいいかわからない…モデルは、我々がハッカーに可能だと考えていた通常の脅威モデルの外にあるバグを発見できる…ハードウェアレベルの、とんでもない話だ…もうすべてのバグをパッチで塞ぎ切れるとは思えない」

「通常の脅威モデル（normal threat model）」とは、セキュリティ設計の前提となる攻撃者の能力や手口の想定範囲を指す。ソフトウェアの脆弱性やネットワーク攻撃が主な想定だが、Altmanが指摘するのはそれがCPUやファームウェアといったハードウェア層にまで及んでいるという話だ。

この発言の背景として、記事ではPHPのセキュリティ脆弱性の事例が取り上げられている。この脆弱性はAIによって発見されたものであり、その後、脆弱性を悪用しようとする大量のアクセスが観測されたという。

なお、AIを活用した脆弱性探索は今に始まった話ではない。ファジング（fuzzing）と呼ばれるランダム入力によるバグ発見手法は長年使われてきたが、近年はGoogleのOSS-FuzzなどにAIが組み込まれ、発見効率が飛躍的に向上している。Altmanが指摘するのは、そうした延長線上にある話にとどまらず、人間が「そこは安全」と前提していたハードウェア層そのものが掘り起こされ始めているという質的な変化だ。

「サンドボックスに閉じ込め続けることは不可能」

Altmanはまた、AIをサンドボックス（隔離環境）に封じ込めるアプローチの限界についても言及した。モデルが能力を拡張し始めると、その過程を追跡することさえ困難になると述べている。継続的な監視によって時間は稼げるが、根本的な解決策にはならないというのが彼の立場だ。

真の安全性にはAIアライメント——モデルに人間の価値観を内面化させること——が必要だとAltmanは主張する。ただし、アライメント研究はまだ初期段階にあり、解決には程遠いとも認めている。

オープンソースモデルはリスク要因

Altmanはローカルで動作するオープンソースAIモデルについても、セキュリティリスクだと位置づけている。グローバルなエージェント監視網を敷いたとしても、有害な行動をすべて防ぐことはできないとの見方だ。

また、従来型の脆弱性パッチによる対処は「もはや不十分」とも述べている。ただし、元記事においてAltmanが「インターネットのセキュリティインフラをAIを活用した防御機構で再構築する」といった具体的な提言を行っているかについては明示されておらず、この点は発言の文脈を慎重に読む必要がある。

批判：「制御不能」という語りはOpenAIに都合がよい

こうした発言に対し、批判的な見方もある。「AIは強力すぎて制御できない」というAltmanのフレーミングは、問題が起きた際に開発者の責任を曖昧にするという指摘だ。OpenAIの商業的利益に沿った語り口であるという批判は、一定の説得力を持っている。

「AIによるバグ発見」そのものは以前から続いていたトレンドであり、Altmanの発言はそれを殊更に大げさに演出しているとの見方もある。一方で、ハードウェアレベルの脆弱性発見という具体的な主張については、詳細が明かされていないため検証のしようがないという問題も残る。なお、この批判的観点は元記事の記述に基づくものであり、特定の人物や団体の見解を代表するものではない。

※編集部の考察：Altmanの発言は、AIがセキュリティの「攻撃側」として機能し始めた現実を示すものとして受け止めるべき内容だ。「もうすべてのバグをパッチで塞ぎ切れるとは思えない」という表現は断言ではなく懸念の表明だが、ハードウェア層という従来の想定外の領域がAIによって掘り起こされ始めているとすれば、セキュリティ運用の前提そのものを問い直す契機になり得る。

詳細はSam Altman says AI is finding 'Insane' hardware-level bugs we never expectedを参照していただきたい。