8月25日、Asif Razzaqが「Perplexity Ships Portable Computer on NVIDIA DGX Spark: Local Harness, OS-Enforced Sandbox, and Zero Per-Token Cost for Local Steps」と題した記事を公開した。PerplexityがNVIDIA DGX Spark上でエージェントハーネス全体をローカル実行できる製品「Portable Computer」を正式リリースし、ローカルステップにトークン課金が発生しないゼロコスト設計とOSレベルのサンドボックスを実装した詳細が報告されている。データをクラウドに預けられない領域でのAIエージェント活用に、具体的な選択肢が生まれた格好だ。
ローカルでエージェント全体を動かす、という設計
PerplexityがリリースしたのはチャットUIにファイルピッカーをつけただけのローカルアプリではない。「Portable Computer」(Perplexityの製品名称)は、エージェントハーネス・オーケストレーター・プランナー・ツールルーター・後訓練済みモデルをひとつのパッケージとしてNVIDIA DGX Spark上に展開する。DGX SparkはNVIDIAが提供するデスクサイド型AIコンピュータで、GB10スーパーチップと128GBのユニファイドメモリを搭載したシステムだ。推論サーバーを自前で立てたり、ツールを手動で配線したりする作業は不要だ。
使用できるモデルはQwen 3.8 27B(※元記事の表記のまま転記。Qwen3シリーズの命名規則では「Qwen3-30B-A3B」等が一般的であり、型番の読み取り方に注意が必要)またはPPLX 27B(Perplexity自身のハーネス向けに後訓練したバリアント)。NVIDIA Nemotron 3.5 Lightning(オープンな30B MoEモデル)は近日対応予定で、独自モデル・推論サーバーの持ち込みもサポートされる。
コードとツール呼び出しはOS強制のサンドボックス内で実行され、プロセス・ファイルシステムパス・ネットワークアクセスが制限される。サンドボックスが利用できない場合、ツール実行はサイレントにダウングレードされるのではなく完全に無効化される。Gmail・Outlook・Slack・GitHubのコネクタはすべてローカルオーケストレーター経由でルーティングされる。
設計の核心:「エスカレーションゲート」
ローカルファーストはローカルオンリーではない。ライブウェブ検索やフロンティアモデルの推論が必要なステップでは、オーケストレーターが処理を止めてユーザーに確認を求める。承認前にハーネスは関連コンテキストを抽出し、PIIクラシファイアにかけたうえで、デバイス外に送出される内容を明示する。承認されたステップのみが15種類以上のクラウドモデルのいずれかにルーティングされ、リモートのアドバイザーはローカルファイル・ツール・会話履歴への直接アクセスを一切受け取らない。
この設計が効いてくるのが金融・法務・医療・政府機関・防衛・IP集約型エンジニアリングといった、データレジデンシーや守秘義務がクラウド推論を阻む領域だ。
もうひとつの工夫がコンテキスト管理だ。Qwen 3.8 27Bは260Kトークンのウィンドウを謳うが、実質100K程度で品質が劣化する。そのためハーネスはシステムプロンプトとツールセットをコンパクトに保ち、スペシャライズドなスキルをオンデマンドでロード、コネクタをフルMCP定義ではなくコンパクトなCLIツールとして公開し、古いコンテキストをラン途中で圧縮する。
ベンチマーク:ローカル実行とクラウドの差はどれくらいか
Perplexityが独自に設計した53タスクのLocal Knowledge Work Bench(深掘り調査・財務分析・文書作成を含む。オープンソース化予定)において、DGX Spark上のQwen 3.8 27B構成で**82.6%を記録。オープンソースのPiハーネスが同一モデルで77.6%、Hermesが74.0%。PPLX 27Bでは85.4%**に上昇した。
最も実務感覚に近い数字はTerminal Bench 2.1の結果だ:
| 構成 | スコア | コスト |
|---|---|---|
| 完全ローカル実行 | 59.6% | 実質ゼロ(トークン課金なし) |
| ローカル+アドバイザーエスカレーション | 73.0% | 約**$0.415/ロールアウト** |
| Claude Opus 5単独 | 82.4% | 約**$0.65/ロールアウト** |
エスカレーションによってフロンティアモデルとの差は縮まるが、埋まりはしない。長期のリポジトリ規模マイグレーションや大量の検証ループを自社ハードウェア上で走らせる場合、ローカルのゼロコスト実行が経済的に成立するという設計意図が明確に出ている。
BrowseCompではPortable Computer 66.7%(Pi: 50.2%、Hermes: 43.9%)で、Piに対して壁時計時間51%削減・トークン数70%削減を達成。ParseBench-100(視覚的文書理解)では65.1%(Pi: 34.6%、Hermes: 13.9%)。
ハードウェア要件と価格
DGX SparkへのインストールにはGB10スーパーチップ・128GBメモリ・1TB以上のストレージが必要だ。Qwen 3.8 27Bオーケストレーターは3ビット量子化で17.4GBのダウンロード(32GB RAM必要)、Nemotron 3.5 Lightningは4ビット・19GB(36GB RAM必要)。
DGX Spark以外では、ARM/x64 Ubuntu上でVRAM 24GB以上のRTX GPUがあれば動作する。インストールは標準のaptリポジトリ追加で完結する。
現時点でのサポートはLinuxのみ(Pro・Max・Enterprise Pro・Enterprise Maxサブスクリプション向け)。Windowsは9月対応予定、macOSはロードマップ外。起動時点でサポートされるDGX Sparkは1台のみで、クラスタリングはまだロードマップ段階だ。
詳細はPerplexity Ships Portable Computer on NVIDIA DGX Spark: Local Harness, OS-Enforced Sandbox, and Zero Per-Token Cost for Local Stepsを参照していただきたい。