9月1日、opensourceprojects.devが「Qwen3-2507 ships with a thinking mode that's now SOTA among open weights」と題した記事を公開した。Alibaba傘下のQwenチームが公開したオープンウェイトLLM「Qwen3-2507」がThinkingモードでオープンウェイトモデル中のSOTA(最高水準)を達成したと主張しており、用途別に2バリアント・3サイズを展開する実用的な構成がエンジニアの間で注目を集めている。
Thinkingモードでオープンウェイトの頂点を主張
オープンウェイトLLM(重みが公開されたモデル)の世界では、「クローズドモデルに追いついた」という主張が数ヶ月おきに繰り返されてきた。Qwen3-2507もその一つだが、今回の見どころは推論特化の「Thinkingモデル」がオープンウェイト勢の中でSOTAを達成したという点だ。
Qwenチームは今回、単一モデルではなく用途別に2つのバリアントを3サイズで展開するという構成を選んだ。InstructとThinkingを同一ファミリーで揃えることで、タスクの性質に応じてモデルを使い分けられる設計になっている。この点が後述する「ルーティング設計」の実用性にも直結する。
2つのバリアントと3つのサイズ
Qwen3-Instruct-2507 は従来の非Thinkingモードを強化したもの。命令追従、テキスト理解、ツール利用、汎用チャットが対象で、論理推論・数学・コーディング・多言語対応の幅広い改善が施されている。「答えをすぐ出してほしい場面」向けだ。
Qwen3-Thinking-2507 が今回の目玉。回答前に「考える」ステップを踏むモデルで、論理・数学・科学・コーディングといった推論負荷の高いベンチマークでオープンウェイトThinkingモデル中のSOTAを主張している。元記事によれば、AIME(数学オリンピック予選)やLiveCodeBench(コーディング評価)などの主要ベンチマークでトップスコアを記録しており、これがSOTA主張の根拠となっている。さらにInstruct側の汎用改善も引き継いでいるため、推論のために汎用性を捨てていない点が重要だ。
サイズは以下の3種:
| モデル | 特徴 |
|---|---|
| 235B-A22B | MoE(Mixture-of-Experts)構成、最大性能 |
| 30B-A3B | MoE構成、性能と実用のバランス |
| 4B | コンシューマーハードウェアでも動作可能 |
全サイズで256Kトークンのコンテキストをネイティブサポートし、最大100万トークンまで拡張できる。4Bモデルでも256K対応という点は珍しい。
エコシステムの充実度が差別化要因
モデル単体の性能だけでなく、周辺の整備状況がこのリリースの特徴だ。
- ローカル推論: llama.cpp、Ollama、LM Studio対応
- 大規模デプロイ: SGLang、vLLM、TGI対応
- 量子化: GPTQ、AWQ、GGUF対応
- 後処理学習: LLaMA-Factory対応
チェックポイントはHugging FaceおよびModelScopeから取得できる。Qwen3-で始まるモデル名を検索するか、Qwen3コレクションを直接参照すればよい。
まず試すなら4B
手元のマシンで動かしたい場合は4Bモデルが出発点として適している。本格的な推論が必要なら30B-A3B、フル性能が必要な場合は235B-A22Bという選び方になる。
クイックスタートはHugging Face Spacesでホストされているデモから試せる。Qwen3のGitHubリポジトリにはクイックスタートからデプロイ、量子化まで一通りのドキュメントが揃っている。
「ルーティング設計」が実用的
InstructとThinkingを同一ファミリーで揃えた設計は、プロダクション利用を想定している。タスクの複雑さに応じて2つのモデルにリクエストをルーティングする構成が取れるからだ。シンプルなタスクはInstruct、推論が要るタスクはThinkingと分けることで、速度とコストのバランスを制御できる。
SOTAの主張が実際のユースケースで成立するかは自分で検証する必要があるが、ドキュメントとエコシステムの整備状況は、試すハードルを下げている。
詳細はQwen3-2507 ships with a thinking mode that's now SOTA among open weightsを参照していただきたい。