RTX 5090の2倍、64GB VRAMのAIデスクトップをGIGABYTEが発表 — 235Bパラメータのモデルをクラウドなしでローカル実行
DRANK

10月3日、wccftechが「GIGABYTE AI TOP 100 B850 Doubles RTX 5090's VRAM With Dual Radeon AI PRO R9700 GPUs, Handling 235B-Parameter Inference」と題した記事を公開した。GIGABYTEがデュアルGPU構成で合計64GB VRAMを実現し、235Bパラメータの推論をローカル実行できるAIデスクトップ「AI TOP 100 B850」を発表したという内容だ。APIコストや情報漏洩リスクを避けたい企業・研究者にとって、クラウド不要でフロンティア級モデルを動かせるローカル推論環境の選択肢として注目を集めている。

by @tf_official
Related Topics: AI Machine Learning Deep Learning