8月12日、Hugging Faceが「Qwen/Qwen3.8-2.4T-A95B · Hugging Face」と題したモデルカードを公開した。Alibaba Qwenチームが手がける「Qwen3.8-2.4T-A95B」は、総パラメータ数2.4兆（2.4T）という桁違いの規模を持ちながら、研究論文の再現能力を測るPaperBenchでGPT-5.6 SolやClaude Opus 4.8を上回る93.0を記録した。さらに、これまでAPIアクセスのみで提供されてきたQwen-Maxクラスのモデルが初めてウェイト公開されたという点でも、オープンソースLLM界隈に大きなインパクトを与えている。
QwenシリーズはAlibabaが2023年末から継続的に公開しているオープンLLMファミリーだ。Qwen2.5世代では72Bクラスのモデルが登場し、Qwen3世代ではMoE（Mixture of Experts）アーキテクチャを本格採用。Meta Llama 4やGoogle Gemma 3など有力なオープンモデルが乱立する中、今回のQwen3.8はクローズドAPIでのみ使えた「Max」グレードを初めてウェイト公開する形となった。オープンソースコミュニティへの大型投資として注目を集めている。
総パラメータ2.4兆、でも推論時の負荷は「95B相当」
モデルの規模は以下のとおりだ。
- 総パラメータ数: 2.4兆（2.4T）
- 推論時の実際の活性化パラメータ数: 950億（95B）
- レイヤー数: 92
- コンテキスト長: ネイティブ262,144トークン、最大101万トークンまで拡張可能
総パラメータが2.4兆と巨大に見えるが、これはMoE（Mixture of Experts）アーキテクチャのためだ。MoEは全パラメータを常に使うのではなく、入力ごとに一部の「エキスパート」だけを活性化する仕組みで、Qwen3.8では512個のエキスパートのうちルーティング済み10個＋共有1個の計11個のみが各推論で使われる。これにより推論時の実質的な計算コストは95B規模に抑えられている。DeepSeek-V3やMixtralでも採用された手法だ。
アーキテクチャのもう一つの特徴がGated DeltaNetの採用だ。従来のTransformerはシーケンス長の2乗に比例するメモリを消費するが、DeltaNetは線形アテンション系のアーキテクチャであり、長いシーケンスでより効率的なメモリ利用が可能とされる（DeltaNet論文参照）。Qwen3.8ではGated DeltaNetレイヤーと古典的なAttentionレイヤーを交互に積み上げるハイブリッド設計（23 × (3 × (Gated DeltaNet → MoE) → 1 × (Gated Attention → MoE))）を採用している。さらにトレーニング時にはMTP（Multi-Token Prediction）——1ステップで複数トークンを予測する手法——を活用しており、Meta Llama 3やDeepSeek-V3でも採用実績があるスループット改善技術だ。
ベンチマーク：PaperBenchで93.0、IFBenchで82.8 ただし万能ではない
以下は公開されているベンチマーク結果の主要競合モデルとの比較だ。比較対象の「Claude Opus 4.8」「GPT-5.6 Sol」「Fable 5」はいずれも2026年時点の商用最上位モデル群にあたる。
| ベンチマーク | Claude Opus 4.8 | Fable 5 | GPT-5.6 Sol | Qwen3.7-Max | Qwen3.8-Max |
|---|---|---|---|---|---|
| PaperBench | 80.3 | 88.8 | 90.5 | 64.8 | 93.0 |
| IFBench | 62.2 | 63.5 | 72.7 | 79.1 | 82.8 |
| Terminal Bench 2.1 | 84.6 | 84.6 | 88.8 | 74.5 | 86.6 |
| GPQA Diamond | 92.0 | 92.6 | 94.1 | 92.4 | 92.6 |
| HealthBench | 52.4 | -- | 55.3 | 54.5 | 60.2 |
| WideSearch | 72.9 | 81.2 | -- | 75.2 | 81.9 |
| HLE | -- | 53.3 | 47.2 | -- | 43.6 |
PaperBench（OpenAIが公開した研究論文の再現能力を測るベンチマーク）では全モデル中トップの93.0を記録。IFBench（複雑な指示への追従能力）でも82.8とGPT-5.6 Solの72.7を大きく上回っている。HealthBenchやWideSearchでもトップを取っており、特に「長い文脈理解」「指示追従」「研究タスク」という軸で強みを発揮している。
一方、HLE（Humanity's Last Exam：難関学術問題の解答能力を測るベンチマーク）では43.6にとどまり、Fable 5（53.3）やGPT-5.6 Sol（47.2）を下回る。万能ではなく、得意・不得意は存在する。
なお、表中の「Qwen3.8-Max」はAPIアクセス版の評価結果であり、今回公開されたHugging Faceの「Qwen3.8-2.4T-A95B」はそのベースモデルにあたる。API版ではビジョン入力・非思考モード・デフォルト100万コンテキストなど追加機能が提供される。
実際に使うときのポイント
thinking modeは常時オン
このモデルはthinking mode（推論ステップの出力）が常に有効化された状態で動作する。マルチモーダル入力には非対応で、thinkingを無効化することもできない。すべてのレスポンスは <think>\n...\n</think> の推論内容から始まる。
reasoning_effortで推論深度を制御
reasoning_effort パラメータで推論の深さとコストをコントロールできる。
xhigh（デフォルト）：複雑なタスク向けの徹底的な分析medium：精度とスピードのバランスlow：速度・コスト優先
OpenAI互換APIでの呼び出し例
OpenAI互換のAPIエンドポイントを使えば、既存のコードベースからもシームレスに呼び出せる。
from openai import OpenAI
client = OpenAI()
messages = [{"role": "user", "content": "Write a Python function to merge two sorted linked lists."}]
completion = client.chat.completions.create(
model="Qwen/Qwen3.8-2.4T-A95B",
messages=messages,
extra_body={
"chat_template_kwargs": {
"enable_thinking": True,
"preserve_thinking": True,
},
},
reasoning_effort="xhigh",
stream=True,
stream_options={"include_usage": True},
)
推奨サンプリングパラメータは temperature=1.0, top_p=0.95, top_k=20, min_p=0.0 だ。推論フレームワークとしてはSGLangおよびvLLMが対応しており、自前インフラを管理したくない場合はQwen公式のマネージドAPIも選択肢となる。
詳細はQwen/Qwen3.8-2.4T-A95B · Hugging Faceを参照していただきたい。
