8月13日、CerebrasがOpenAIとの共同取り組みを紹介する「Accelerating GPT-5.6 Sol Ultrafast with OpenAI」と題した記事を公開した。Claude相当モデルが78時間かけて解くベンチマークを、GPT-5.6 Sol Ultrafastはわずか11時間で解き切る。しかも精度の劣化はゼロだという。
「速さと精度はトレードオフ」というLLM推論の常識に真っ向から挑んだこの発表は、CerebrasとOpenAIが2024年初頭から続けてきたパートナーシップの新たな到達点だ。CerebrasはNVIDIA GPU主導の推論インフラが抱えるメモリ帯域幅のボトルネックを、独自設計のウェハースケールチップで解消することを目指してきた企業。今回のUltrafast Modeは、その設計思想を最大限に活かした機能として位置づけられている。
GPUアーキテクチャの根本的な限界を回避する
GPUによるLLM推論が遅い根本的な理由は、トークンを生成するたびにモデルの重みをオンチップメモリとオフチップストレージの間で往復転送し続ける必要があることにある。モデルが大きくなるほどこの転送コストは膨らみ、レイテンシの主因となる。
Cerebrasはこの問題にアーキテクチャレベルで異なるアプローチを取る。同社の**Wafer-Scale Engine(WSE)は、ウェハーサイズのチップ1枚に44GBのSRAM**を搭載する。モデルの重みをオンチップに留め続けることでデータ移動のオーバーヘッドを根本から排除し、トークンがモデルの各層をウェハー間パイプラインを通じて途切れなく流れる構造を実現している。このアーキテクチャはモデルサイズのスケールアップに対しても速度優位性を維持しやすく、将来の大規模フロンティアモデルへの対応も視野に入れた設計だ。
750トークン/秒の実力——数字が語る差
GPT-5.6 Sol Ultrafastは最大750出力トークン/秒を実現する。AI推論のベンチマーク分析を行うArtificial Analysisが報告するスピードとの比較では、Anthropicのモデル「Claude Fable 5」より11倍高速、同じくAnthropicの「Opus 4.8(Fastモード)」より5倍高速だという。
この差が実務でどれほど意味を持つか、Cerebrasは**Humanity's Last Exam(HLE)**で定量評価を行った。HLEは化学・経済学・文学など多分野でPhD取得者レベルの知識を要する2,500問のベンチマークで、LLMの実力を厳しく測る指標として研究者の間で広く参照されている。
| モデル | HLE全問完了時間 |
|---|---|
| GPT-5.6 Sol Ultrafast | 11時間11分 |
| Claude Fable 5 | 78時間27分(約3.3日) |
GPT-5.6 Sol Ultrafastは同等の精度を維持しながら、約7倍速く全問を解き終えた。さらに、経済的価値のある知識労働タスクをAIがどれだけ効率的にこなせるかを評価するGDP-Valベンチマークでは、Ultrafastは標準モードと比べてエンドツーエンドで5.6倍の高速化を達成し、品質劣化はゼロだったとしている。
速さが変える「エージェントとの働き方」
速度向上の恩恵を最も受けるのは、人間がAIと往復しながら作業するエージェント的ユースケースだ。OpenAI ResearcherのJeffrey Wang氏は次のように述べている。
「以前はタスクが完了するまで数分待つ必要があったが、今ではコンテキストスイッチする間もなく終わっている。生産性が格段に上がった。」
CerebrasとOpenAIがUltrafastの用途として挙げるのは、応答速度がそのままビジネス上の損益に直結するシナリオだ。
- 本番環境の障害対応:Webサービスの根本原因分析を迅速に行い、SLA違反や売上損失を防ぐ
- サイバー攻撃への対処:攻撃者の行動を素早く検知・封じ込め、被害拡大を防ぐ
- エージェントのリアルタイム化:複数の並列セッションをまたぐコンテキストスイッチを減らし、AIとの対話をよりシームレスにする
OpenAI Product担当のRohan Varma氏は「GPT-5.6 Sol Ultrafastは、思考・コーディング・コラボレーションのペースに追いつくAIを実現する」とコメントしている。
現在は限定プレビュー、順次拡大へ
現時点でUltrafast ModeはOpenAI APIから利用可能で、一部の選定された顧客向けに限定プレビューとして提供されている。アクセスはキャパシティの拡大に合わせて順次広げられる予定だ。
詳細はAccelerating GPT-5.6 Sol Ultrafast with OpenAIを参照していただきたい。