11月10日、Tom's Hardwareが「Going deep on local AI performance benchmarking with Apple's Mac Studio with M5 Ultra taking on Nvidia DGX Spark」と題した記事を公開した。この記事では、M5 Ultra搭載Mac StudioとNvidia DGX SparkのローカルAI推論性能を詳細なベンチマークで比較した結果が紹介されている。

価格帯が近づいてきた2つの「ローカルAIマシン」

テスト対象となったMac Studioの構成は256GBユニファイドメモリ搭載で約$12,300。一方、比較対象のDell Pro Precision GB10（DGX SparkベースのGB10システム）は4TB SSD付きで$10,000に達しており、両者の価格差は以前ほど大きくない。この現実的な価格帯の重なりが、今回のヘッドトゥヘッド比較に説得力を与えている。

M5 Ultraのスペックを改めて確認すると、36コアCPU・80コアGPU・メモリ帯域幅1.2 TB/sという構成だ。対するGB10のBlackwell SMは48基で、メモリ帯域幅は273 GB/s。スペック上の差は明確だが、AI推論においてはソフトウェアスタックの成熟度が実測値を大きく左右する——それがこの記事の核心だ。

小型モデルでの対決：Mac Studioが優勢

Artificial Analysisの**AgentPerf-Localベンチマーク（エージェント型AIワークロードのプロンプト処理・トークン生成速度を計測する指標）を用いた比較では、Qwen3 27B**（Alibabaが開発するオープンウェイトLLMシリーズ「Qwen3」の27Bパラメータモデル）をllama.cppで動かし、両プラットフォームでMulti-Token Prediction（MTP）を有効化して実施した。

結果は明快で、Mac StudioはDGX Spark単体の約半分の時間でタスクを完了した。さらに消費電力面でも、Mac StudioはDGX Sparkよりタスクエネルギーが約16%少ない。

性能と消費エネルギーを掛け合わせたEDP（Energy-Delay Product）では、Mac StudioのEDPはDGX Sparkの半分以下という結果になった。コンパクトな密モデルとllama.cppの組み合わせでは、Mac Studioが効率・速度の両面で優れている。

大型モデルになると話が変わる

問題は256GBのRAMを活かせる大型モデルを動かすケースだ。今回はDeepSeek-V3-0324（Flash 1017量子化版）とGLM-4-Flash（5.3世代）を追加テストした。前者はDeepSeekが開発するDeepSeek-V3系列の派生モデル、後者はZhipu AIが開発するGLM-4系列の軽量版にあたる。

DeepSeek V3系大型モデル：Sparkクラスターが優勢

DeepSeek V3系モデル（2bit量子化）はMac Studioの256GBにギリギリ収まるが、投機的デコード（Speculative Decoding：小型のドラフトモデルが先読みしたトークン候補を大型モデルが検証・採択することで推論を高速化する手法）に必要なDSparkドラフトモデルを同時に載せる余裕はない。llama.cppでの動作は「pokey（のろい）」と評され、最長コンテキスト長のプロンプト処理に10〜25分かかる。

対して、2台のSparkをクラスター化したシステムは、Mia's AI Labが開発したTensorFoldサービングレシピ（特定モデルをNvidiaプラットフォームで効率的に動かすための推論最適化設定集）を活用することで同じ処理を5分未満で完了。デコード速度でも明確な優位がある。現時点でこのモデルをローカル実行するなら、Sparkクラスターが有利だ。

GLM 5.3 Flash：TensorFoldで化けるMac Studio

GLM 5.3 FlashはDeepSeekと異なり、MTPの別途ドラフトモデルが不要なためMac Studio上でもデコードブーストが効く。llama.cppでの比較ではSparkクラスターがプロンプト処理で優位だが、TensorFoldエンジンとMLX最適化4bit量子化モデルを使うとMac Studioの性能が劇的に変わる。

TensorFold使用時のデコードスループットはllama.cpp比で平均3倍に達し、プロンプト処理速度もSparkクラスターに肉薄する。Apple Siliconの性能ポテンシャルは確かに存在するが、それを引き出すためには適切なサービングレシピが必須というのが今回得られた最も重要な知見だ。

「ソフトウェアエコシステムの差」という本質的な問題

記事が強調するのは、ハードウェアの優劣よりもソフトウェアスタックの成熟度の差だ。

NvidiaプラットフォームはHugging Faceに新モデルの重みが公開されると、コミュニティによるサービングレシピがほぼ確実に迅速に整備される。TensorFoldはGLM 5.3 FlashのApple Silicon向けレシピを既に提供している一方、DeepSeek V3系の大型モデルには未対応だ。

MLXスタック（AppleがApple Silicon向けに開発した機械学習フレームワーク）は成熟途上にあり、モデル・推論エンジンの選択肢の幅と開発速度の両面でNvidiaエコシステムに追いついていない——これが現状の正直な評価だ。

まとめ：何を優先するかで答えが変わる

GB10システムの価格上昇は続いており、2台クラスターは$15,000〜$20,000以上になる見通しだ。ローカルAIが用途の一つに過ぎず、CPUやGPUの汎用性能も求めるなら、Mac Studioは現実的な選択肢になりうる。

一方、256GBのRAMに見合う大型モデルを最大限に活用したいなら、使いたいモデルに対応したサービングレシピが存在するかを事前に確認することが不可欠だ。今回の比較が示す最大の教訓は、「どちらのハードウェアが勝つか」という問いに単純な答えはなく、モデルサイズ・推論エンジン・サービングレシピの三つが揃って初めてハードウェアの実力が発揮されるという点にある。ローカルAI環境の構築を検討するなら、スペック表だけでなくソフトウェアエコシステムの現状を見極めることが、今後ますます重要になるだろう。

詳細はGoing deep on local AI performance benchmarking with Apple's Mac Studio with M5 Ultra taking on Nvidia DGX Sparkを参照していただきたい。