10月23日、NVIDIAが「NVIDIA Unveils Minerva to Bring End-to-End Observability for AI Factories」と題した記事を公開した。AIファクトリーと呼ばれる大規模GPU群の運用現場では、ネットワーク・コンピュート・ストレージ・ワークロードの各レイヤーから膨大なアラートが噴出し、担当チームが個別対応に追われる「アラート疲労」が深刻な課題となっている。NVIDIAはこの問題を正面から解決するAIOpsプラットフォームNVIDIA Minervaを発表した。
AIファクトリーとAIOpsの潮流
NVIDIAは近年、大規模なGPUインフラをトレーニングや推論のために集中運用する施設を「AIファクトリー」と呼んでいる。単なるデータセンターではなく、AIモデルという「製品」を製造する工場という位置づけだ。数千〜数万GPU規模のクラスターを24時間稼働させるこの環境では、従来の監視ツールがそのまま通用しない。ネットワーク・コンピュート・SRE・MLの各チームが異なるダッシュボードを参照し、同じ障害を別々の視点から追いかける断絶が生じやすい。
こうした背景から、AI基盤の運用にAI自身を活用する「AIOps(AI for IT Operations)」への注目が業界全体で高まっている。NVIDIAがMinervaで狙うのは、まさにこの領域でのデファクトスタンダードの確立だ。同社はすでにDGX CloudやBase Command PlatformといったAIインフラ管理製品を展開しており、Minervaはその可観測性レイヤーを補完する位置づけとなる。
アラートの洪水を「1件のインシデント」に絞り込む
Minervaの核心は、インフラとAIワークロードの両方からテレメトリを収集し、AIモデルで分析して根本原因の特定まで行うという点にある。対象となるコンポーネントは、GPU・SuperNIC(NVIDIAが高帯域幅AI通信向けに開発したネットワークアダプター。標準的なNICと異なりGPU間のRDMA通信に最適化されている)・スイッチ・ケーブル・ストレージ・スケジューラー・ワークロードと幅広く、これらの信号を横断的に統合する。
収集した情報はダイナミックナレッジグラフとして構造化される。ナレッジグラフとはエンティティ間の関係性をグラフ構造で表現したデータモデルであり、「ダイナミック」とはインフラ構成やジョブの状態変化にリアルタイムで追従する点を指す。これにより、インフラのトポロジーとその上で動くジョブがマッピングされ、数十万GPU規模のファクトリーであっても、遅延している学習ジョブを特定のコンポーネントまで追跡できる。
分析は1時間あたり数十億のデータポイントを処理し、教師あり・教師なし機械学習の両方を組み合わせて異常検知・障害予測・イベント相関を行う。そして最終的に「イベントストーム(大量アラートの嵐)」を、根本原因の見当がついた1件の集約されたインシデントとして提示する。運用チームが個別アラートを一つひとつ追いかける手間を大幅に削減できる。
ナチュラルランゲージで障害調査ができるAIアシスタント
MinervaにはネイティブのAIアシスタントが組み込まれており、外部のエージェント型AIツールとも連携できる。ライブテレメトリを根拠にした自然言語インターフェースを持ち、オペレーターはクラスターの健全性を会話形式で調査し、修復アクションの推奨を受け取ることができる。
修復の実行は「人間が手動で行う」「外部の自動化システムにMinervaをつなぐ」のどちらも選択可能で、インフラAPIや外部システムとの連携もサポートする。
AIファクトリーの「歩留まり」が指標の軸
Minervaが重視する指標はAIファクトリーの歩留まり(AI factory yield)だ。GPUの稼働時間、グッドプット(goodput:ネットワークやシステムが実際に有効なデータ転送・処理に使えたスループットのこと。再送や無効パケットを除いた実効値を指す)、クラスターの稼働率、トークン生成量で計測する。
具体的な改善ポイントとして以下が挙げられている。
- 障害間隔の延長:問題の予兆を早期に検出し、ジョブを中断なく長く走らせる
- 修復時間の短縮:インシデント発生時に問題箇所を即時特定し、解決を早める
- アラートの絞り込み:大量のデータから「実際に対処すべきアラート」だけを残す
採用パートナー
AIファクトリー事業者のIRENはすでにMinervaを活用している。同社CTOのDenis Skrinnikoff氏は「ネットワーク、GPU、ジョブを一画面で把握できるようになり、トラブルシューティングより予防保守に集中できる」と述べている。
今後の導入予定企業としてはAolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI、Teslaが名を連ねる。サーバーベンダー側ではDell Technologies、Lenovo、SupermicroがMinervaをAIファクトリー運用ポートフォリオの一部として提供予定だ。
詳細はNVIDIA Unveils Minerva to Bring End-to-End Observability for AI Factoriesを参照していただきたい。