OpenAIがGPT推論速度を最大14倍に引き上げる「Ultrafast」モードを発表 — NVIDIAではなくCerebrasのチップで実現、速度を価格レバーにする3段階課金モデルへ
DRANK

8月14日、The Decoderが「GPT-5.6 Sol goes 14x faster as OpenAI launches Ultrafast mode powered by Cerebras」と題した記事を公開した。OpenAIがCerebrasのハードウェアを活用した新モード「Ultrafast」のプレビューを開始し、GPT-5.6 Solの推論速度を従来比最大14倍に引き上げたことが明らかになった。100億ドル規模のパートナーシップが実際の製品として結実した形であり、OpenAIのNVIDIA依存低減戦略の観点からも注目に値する動きだ。

by @tf_official
Related Topics: AI Machine Learning CUDA