8月26日、How-To Geekが「Perplexity and NVIDIA team up to release a local AI agent」と題した記事を公開した。PerplexityとNVIDIAが共同でローカル動作のAIエージェント「Portable Computer」をリリースしたというニュースで、推論・実行をすべて手元のGPUで処理し、クラウドへのデータ送信を原則不要にする設計が注目を集めている。
クラウドに送らないAIエージェント、という選択
AIエージェントの多くはクラウドのAPIを前提に動作する。処理のたびにデータがクラウドへ送信され、トークンコストが発生し、機密性の高いデータを扱う場面では使いづらい。Perplexityが今回リリースした「Portable Computer」は、その構造を逆転させた設計だ。ローカルファーストを原則とし、AIエージェントの推論と実行をすべて手元のハードウェアで完結させることを目指している。
Perplexityはもともと、今年初めに「Computer」と呼ばれるAIエージェント製品をリリースしている。自然言語で指示を与えると、サブエージェントを必要に応じて起動し、リサーチやツール連携を実行するというものだ。Portable Computerはそのローカル版に相当する。
単なるOllamaラッパーではない
「Qwen 3.8 27Bをそのままollamaで動かすのと何が違うのか？」という疑問は当然だ。
Perplexityによると、Portable Computerは「ステップレベルのルーティング、エージェントハーネス、ローカルモデル、推論エンジン、ツール群、アプリコネクタ、サンドボックス実行環境を一つのメンテ済みシステムにまとめたもの」だという。LLMそのものよりも、その周囲のスタック（ハーネス、コネクタ、実行環境）が実用性を左右する。自前でこれと同等の構成を組もうとすれば、相当な規模のプロジェクトになる。
利用できるモデルは以下のとおり：
- Qwen 3.8 27B
- Qwen PPLX 27B（Perplexityが独自にカスタマイズしたQwenベースのモデル）
- NVIDIA Nemotron 3.5 Lightning（30B）：近日対応予定
ローカルで処理しきれないほど複雑なタスクに直面した場合、Portable Computerは処理を止め、クラウド上の大規模モデルへのオフロードを提案する。強制的にクラウドへ送信するのではなく、ユーザーに判断を委ねる設計になっている点が特徴的だ。
動かすために必要なハードウェア
要件は明確だ。VRAM 32GB以上のNVIDIAハードウェアが公式要件となっている。コンシューマー向けGPUでいえば、RTX 3090が実質的な下限にあたる。
コンテキスト長を制限するか、量子化モデルに切り替えれば、より少ないVRAMでも動作させられる可能性はある。また、今回の初期リリースはNVIDIA DGX Spark（GPU・CPU間で共有される128GBのRAMを搭載）を主なターゲットとしているが、Linuxの適切なハードウェアであれば他の環境にもデプロイ可能だ。Windowsサポートは今年後半に提供予定とされている。
マルチGPU構成での動作可否や対応状況については、元記事の時点では明確な情報が示されていない。なお、ローカルで実行した処理はクレジットやトークンを消費しない。ハードウェアの電力コスト以外にランニングコストは発生しない。
試してみるには
Portable Computerは公式サイトからダウンロード・インストール可能だ。現時点ではLinux環境のNVIDIA GPU（VRAM 32GB以上）が必要で、Windowsへの対応は今年後半を予定している。ローカルスタックの推論サーバーやモデルを独自のものに差し替える設定変更も可能とされており、上級ユーザーにとっては柔軟なカスタマイズの余地がある構成といえる。
詳細はPerplexity and NVIDIA team up to release a local AI agentを参照していただきたい。
