家のゲーミングPCをAI推論クラスターに束ねる — NVIDIAがOSS「PAIR」を公開、OllamaやLM Studioと連携して遊休GPUを活用
DRANK

9月5日、TechSpotが「Nvidia's PAIR software turns idle home computers into a local AI cluster」と題した記事を公開した。NVIDIAが発表したPersonal AI Router(PAIR)は、家庭内の複数PCをネットワーク越しに束ね、合計約165 teraFLOPSの演算能力をローカルAIクラスターとして活用できるオープンソースツールだ。GeForce RTX搭載のゲーミングPCからMacBookまで、異なるOS・異なるハードウェアが混在する環境をそのまま統合できる点が特徴で、OllamaやLM Studioといった既存の推論バックエンドとも連携する。

by @tf_official
Related Topics: AI Machine Learning Distributed Computing