9月29日、InfoWorldが「Nvidia releases Open Agent Safety Platform to monitor and govern agentic AI」と題した記事を公開した。Nvidiaが発表したOpen Agent Safety Platformは、AIエージェントの監視・制御をソフトウェアだけでなくハードウェアレベルで実現しようとしている点が最大の特徴だ。「エージェントが意図しない動作をしたらどう止めるか」という業界全体の課題に対し、インフラの外側から強制的に介入する設計を取っている。

AIエージェントの「暴走」をハードウェアレベルで止める

LLMベースのAIエージェントが自律的にタスクを実行する場面が急速に増える中、エージェントの逸脱をどう防ぐかは業界共通の未解決問題だ。このプラットフォームの中核となるのが**NVIDIA Sentry**という監視コンポーネントだ。SentryはAIエージェントが動作するホストシステムとは独立した「アウト・オブ・バンド（out-of-band）」のウォッチドッグとして機能する。エージェント自身が動作するOSやソフトウェアスタックとは別経路で監視するため、エージェントが自分の監視機構を無効化できない設計になっている。

Sentryが動作するのは**NVIDIA BlueField-4 DPU**（Data Processing Unit）上だ。DPUはサーバーのネットワーク処理を専門に担うアクセラレータで、CPUやGPUとは独立して動作する。Nvidiaはこれをエージェント監視基盤として転用している。

元記事によると、エージェントがソフトウェアの境界外に出ようとした場合、Sentryはミリ秒単位でそのエージェントを隔離・停止するという。この「シリコン内でのセキュリティ強制（in-silicon security enforcement）」という表現が示すように、ソフトウェアの抽象レイヤーを介さないハードウェア直結の制御が設計の肝だ。

カーネルレベルのサンドボックスと「推論の可視性」

Nvidiaの開発者ブログによると、このプラットフォームはAIエージェントをカーネルレベルの隔離が施されたサンドボックス環境で実行するセキュアランタイムとして機能する。

また、オープンモデルを採用する利点として「推論空間と活性化（activations）がすべて可視化できる」点を挙げている。クローズドモデルではブラックボックスになりがちな内部状態を、オープンモデルなら監視できるという主張だ。エージェントの安全性確保においてオープンソースモデルの採用を推進する根拠として位置づけている。

金融・セキュリティ・ビッグテックが一斉に参画

このプラットフォームのパートナーリストが業界横断的で広範だ。

金融機関からは Citi Group、JPMorganChase、セキュリティ企業からは Cisco、CrowdStrike、Palo Alto Networks、クラウド・ITインフラ企業からは Dell Technologies、HPE、Microsoft、Red Hat、AI企業からは Anthropic、Hugging Face、Perplexity、Scale AI、エンタープライズSaaSからは Salesforce、SAP、ServiceNow、そして Palantir、Figure、SpaceX AI などが名を連ねている。

金融機関（Citi、JPMorgan）とセキュリティベンダー（CrowdStrike）が初期パートナーに含まれていることは、エージェントAIのリスク管理がすでに規制産業でも喫緊の課題であることを示している。

エンジニアが注目すべき点

このプラットフォームが他のAI安全性アプローチと異なる点は、監視をソフトウェアスタックの外側に置く設計思想だ。プロセス監視やログ収集といったソフトウェア的な手法では、エージェント自身がそれを回避・改ざんするリスクを排除しきれない。BlueField DPU上にSentryを置くことで、エージェントが動作する環境そのものから独立した監視レイヤーを実現している。

一方で、この設計にはBlueField-4 DPUというNvidiaのハードウェアが前提になる点に留意が必要だ。「オープン」と銘打っているが、インフラ選定の自由度については元記事では詳細が触れられていない。※この点はTechFeed編集部の考察であり、元記事の記述に基づくものではない。

詳細はNvidia releases Open Agent Safety Platform to monitor and govern agentic AIを参照していただきたい。