10月16日、The Decoderが「Nvidia's Nemotron 3.5 Super VL is an open model built to run enterprise AI agents nonstop」と題した記事を公開した。同等サイズのオープンモデルと比べてエージェントタスクのスループットが最大5倍——しかしモデルは1200億パラメータを持ちながら、実際に動くのは12B分だけという逆説的な構造が、その速度を支えている。Nvidiaが公開した「Nemotron 3.5 Super VL」は、エンタープライズ向けAIエージェントを常時稼働させることを主眼に設計されたオープンマルチモーダルモデルだ。
120Bパラメータ、でも実際に動くのは12B分だけ
Nemotron 3.5 Super VLは1200億パラメータのマルチモーダルモデルだが、Mixture-of-Experts（MoE）アーキテクチャを採用しており、1トークンあたりに実際に活性化するのは120億パラメータのみだ。MoEはモデル全体をいくつかの「エキスパート」サブネットワークに分割し、入力ごとに一部のエキスパートだけを選択して動かす設計で、近年のLLM開発で急速に普及しているアプローチである。エージェントAIの実運用では、長時間・大量リクエストの処理が前提となるため、計算コストの削減が直接インフラコストに直結する。MoEがここまで注目される背景には、こうした推論コスト問題がある。
開発はNvidiaが単独で行ったわけではなく、Nemotron Coalitionと呼ばれるグループが参加している。モデル開発・アーキテクチャにMistral AIとThinking Machines Lab、検索拡張生成（RAG）関連の知見でPerplexity、画像生成基盤の技術提供でBlack Forest Labsがそれぞれ役割を担った。
最大のポイントは「速さ」にある。同等サイズのオープンモデルと比べて、エージェントタスクでのスループットが最大5倍と、NvidiaはArtificial Analysisのリーダーボードを根拠に主張している。EXO LabsがDGX Spark上で実施した独立テストでも、精度と速度の両方でこれを上回るモデルは確認されなかったという。
コーディングベンチマーク（SWE-bench）での精度は競合に若干劣るものの、タスク完了速度は約4倍速いとNvidiaは述べている。エージェントが数日から数週間にわたって大量タスクを処理し続けるユースケースでは、この速度差が積み重なる。
速度を支える3つの技術的工夫
1. NVFP4量子化
Super VLは4ビット精度（NVFP4）で圧縮されている。BlackwellアーキテクチャのGPU（B200等）では全演算を4ビットで処理し、旧世代カードではウェイトのみ4ビット保存・演算は16ビットで行う。精度が重要な箇所は高精度を維持しつつ、圧縮後のモデルが非圧縮版の出力に一致するよう再学習している。
2. Speculative Decoding（投機的デコーディング）
ドラフトコンポーネントが複数トークンを先読みし、メインモデルが1回のフォワードパスでまとめて検証する手法だ。DGX Spark向けにはNvidiaが独自に開発したLiLiCorrという手法も提供しており、テキスト生成速度を最大2.3倍改善するとしている。
3. セッションキャッシュ＋ルーティング（Dynamo）
エージェントは毎リクエストで同じシステムプロンプト、ツール定義、会話履歴を送信する。Super VLはこれらの繰り返し部分の計算をキャッシュし、Nvidiaの推論ソフトウェアDynamoが同一セッションのリクエストをキャッシュ保持済みGPUに振り分ける。16台のB200 GPU環境では、同時ユーザー数が8倍に増加し、初回トークン生成時間が85%削減されたという。
ビジョン性能：別モデル不要でPDF・表・動画を解析
マルチモーダル面では、エージェントが日常的に扱う素材——OCR、表、グラフ、複数ページのドキュメント、動画——に特化している。チャートを解釈し、同一ドキュメント内の別ページの表と紐付けて両方を要約する、といった処理を単一モデルで完結できる。
グラフ解釈ベンチマーク**CharXivで80.8%**（Pythonコード実行と組み合わせると84%）を記録。旧世代のNemotron 3 Nano Omniの63%から大幅に向上している。
ローカル動作の現実：24GBの壁
同時に発表されたコンパクト版Nemotron 3.5 Bolt 74B-A9Bは、740億パラメータ中実活性化9BのハイブリッドMoEモデルだ。2ビット量子化で24GBのVRAMに収め、GeForce RTX PCやDGX Sparkで動作する。llama.cpp、Ollama、LM Studio、vLLMにも対応している。
ただし「24GB」という要件は現実的にはハードルが高い。現在の市場価格で24GB以上のVRAMを持つGPUは高価であり、Nvidiaも「現時点では開発者やハイエンドワークステーション所有者向け」と位置付けている。
さらに小型のBolt E4B 4GB（Jetson、GeForce RTX対応）も予告されているが、2026年10月現在はまだ未リリースだ。
実際の導入事例
Nvidiaによれば、すでに数十組織がSuper VLをファインチューニングして利用している。
- Scale AI × Skydance：メディア企業Skydanceのベンダークレジット処理エージェントに適用。コストを40分の1、応答時間を5分の1に削減見込み
- Ramp：レシート写真から構造化データへの変換に使用、応答速度が10倍高速化の見込み
- EY：M&Aデューデリジェンスに活用
- CrowdStrike：エンタープライズネットワーク防御エージェントを構築中
- AI21 × セキュリティ企業Alice：脅威・脆弱性分析の精度が40%向上
オープン化の戦略的意図
Nvidiaはウェイトに加え、学習データセットとレシピ、強化学習環境まで公開している。これは多くのオープンウェイトモデルがウェイトのみを公開するのとは異なる。事前学習と継続事前学習では25兆トークン以上を使用し、ポストトレーニングと強化学習では約100のオープントレーニング環境にわたる400万件超のサンプルを追加した。
インド工科大学マドラス校とAI4Bharat共同で構築した22のインド言語、2.83兆トークンのデータセットも含まれており、これでファインチューニングしたSuper VLはSarvam-105Bといった特化型モデルを上回るベンチマーク結果を出している。
Nvidiaのオープンモデル公開はそれ自体が自社ハードウェアの販売戦略でもある。モデルはNvidiaのGPU向けに最適化されており、Nemotronの性能を最大限に引き出すにはNvidiaのハードウェアが必要になる。一方、MetaやGoogle、Anthropic、OpenAIは自社チップを開発しており、そちらに最適化したモデルを展開しつつある。Nvidiaが最近Hugging Faceに129億ドルを投資したのも、この競争の文脈で理解できる。
ウェイトはNemotron 3.5 Super VL 120B-A12BとNemotron 3.5 Bolt 74B-A9B 24GBとしてHugging Faceで公開されている。
詳細はNvidia's Nemotron 3.5 Super VL is an open model built to run enterprise AI agents nonstopを参照していただきたい。
