$899のM6 Mac miniはローカルLLMの「行き止まり」か — 帯域幅2倍のM5 Pro Mac miniと徹底比較
DRANK

9月12日、Vetted Consumerが「M6 Mac mini vs M5 Pro Mac mini for Local AI: Is the $899 Mini a Dead End?」と題した記事を公開した。ローカルLLM用途においてM6 Mac miniとM5 Pro Mac miniのどちらを選ぶべきかを、メモリ帯域幅の実測データを軸に比較検討している。結論から言えば、M5 ProはM6の約2倍のメモリ帯域幅を持ち、その差がトークン生成速度に直結する。

by @tf_official
Related Topics: AI Mac Machine Learning