8月3日、SiliconAngleが「Alibaba debuts Qwen3.8-Max model with 2.4T parameters」と題した記事を公開した。Alibabaが2.4兆パラメータを持つ同社史上最大のLLM「Qwen3.8-Max」を発表したことについて詳しく紹介されている。
2.4兆パラメータ、Qwen3.5の約7倍
Qwen3.8-Maxは、Alibabaが手がけるQwenシリーズの最新かつ最大のLLMだ。パラメータ数は2.4兆（2.4T）で、今年2月にリリースされたQwen3.5（約340億パラメータ）と比べて約7倍の規模になる。
ただし、クエリへの回答時に実際に活性化されるパラメータは950億（95B）に絞られる。これはMoE（Mixture of Experts）アーキテクチャの典型的な挙動で、全パラメータを常時使うのではなく、入力に応じて必要な「専門家」だけを選択的に使う仕組みだ。
コンテキストウィンドウは最大100万トークンをサポートする。Alibabaによれば、これは1リクエストで200ページ超のテキスト、もしくは約100時間分の映像を解析できる規模に相当する。レスポンス側のトークン上限は131,000トークンだ。
アーキテクチャの核心：Gated DeltaNet
AlibabaはまだQwen3.8-Maxの詳細なアーキテクチャを公開していない。前世代モデルとの関連も含め、アーキテクチャの詳細は現時点では不明だ。
ここで参考として触れておくと、近年のロングコンテキスト対応LLMで注目されているアテンション手法の一つにGated DeltaNetがある。NVIDIAの研究者が2024年末に発表したこの手法は、通常のアテンション機構がプロンプト長に対して二乗オーダーでメモリと計算量が増加する（プロンプトを2倍にすると処理コストは4倍）のに対し、線形スケーリングを実現する。さらに「ゲート付き更新ルール」と「デルタルール」という2つのデータ処理技術を組み合わせることで、長いプロンプトの処理精度を改善するとされている。100万トークンのコンテキストを実用的に扱うには、こうした効率的なアテンション設計が欠かせない。
※編集部の考察：Qwen3.8-Maxの具体的なアーキテクチャは元記事時点では非公開であり、上記のGated DeltaNetに関する記述はあくまで業界動向の参考情報として記載している。
ベンチマーク：Claude Opus 5まであと37点
実用性能の面では、Frontend Code Arena（LLMのフロントエンドコーディング能力を評価するベンチマーク。公式サイトで最新ランキングを参照できる）で1,668点を記録した。首位はAnthropicのClaude Opus 5の最上位構成で、その差は37点だ。MetaのMuse Spark 1.1を含む10以上のフロンティアモデルを上回っている。
また内部評価では、以下の2点が示された：
- 16日間にわたるコーディングプロジェクトを人間の介入なしに完遂
- 500ステップ超のチップ設計最適化タスクを実行
オープンウェイト公開は来週
現時点でQwen3.8-MaxはAlibabaのクラウドプラットフォーム経由でのみ利用可能だが、来週中にオープンウェイトモデルとして公開予定だ。なお、「オープンウェイト」とはモデルの重みを公開することを指し、必ずしもトレーニングコードや学習データを含むソースコードの全公開（オープンソース）を意味するわけではない点には注意が必要だ。あわせて、より軽量でハードウェア要件を抑えた派生モデルQwen3.8-27Bも同時公開される。
中国勢のオープンモデルはDeepSeekの台頭以来、欧米のクローズドモデルに対する現実的な代替として評価が高まっており、Qwen3.8-Maxのウェイト公開はその流れをさらに加速させる可能性がある。
詳細はAlibaba debuts Qwen3.8-Max model with 2.4T parametersを参照していただきたい。
