7月4日、MarkTechPostが「Qwen's Former Lead on What Hybrid Thinking Got Wrong」と題した記事を公開した。この記事では、AlibabaのQwen元テックリードであるJunyang Linが、ハイブリッド思考の設計上のトレードオフと、AIの次の方向性としてエージェント指向を支持する理由について詳しく紹介されている。
Qwen元テックリードが独立後に語ったこと
Junyang Linは、AlibabaのQwenプロジェクトのテックリードを務めた人物だ。2026年3月3日に退任を発表し、現在は独立研究者として活動している。
退任後、Linは「Qwen: Towards a Generalist Model / Agent」と題した講演を行い、さらにその内容を詳細なブログ記事「From 'Reasoning' Thinking to 'Agentic' Thinking」として公開した。元記事はこの2つのソースを合わせて読み解いたものだ。
講演の最後はたった一行で締め括られている。
"Training models -> training agents."
この一行がLinの主張の核心だ。
ハイブリッド思考の何が問題だったか
Qwen3が採用したハイブリッド思考は、思考モード（step-by-step推論）と非思考モード（即時応答）を1つのモデルに同居させる設計だ。ユーザーは動的に思考予算（thinking budget）を制御できる。
しかしLinは、この設計のトレードオフを率直に説明している。2つのモードは最適化の方向が真逆だからだ。
- instructモードは、簡潔さ・低レイテンシ・直接的な回答で報酬を得る
- thinkingモードは、難しい問題に多くのトークンを使うことで報酬を得る
安易にマージすると、どちらも劣化する。思考の出力は冗長になり、instruct応答の切れ味は落ちる。
Qwen3ではこの問題に対し、long-CoTコールドスタート・推論RL・思考モード融合ステップを含む4段階のポストトレーニングパイプラインで対処した。それでも2025年後半のQwen 2507ライン（※Qwen3以降にリリースされたQwenシリーズの派生モデル群）では、InstructとThinkingを別々のモデルとして分離する選択をしている。Linはこれを「モデルの問題というよりデータの問題」と位置づける。
比較として、Anthropicは逆のアプローチを取った。Claude 3.7 Sonnetはユーザーが思考予算を設定するハイブリッドモデルとして出荷し、元記事によれば、Claude 4では推論とツール使用を交互に組み合わせる設計を採用したとされる。Linはこれを有益な訂正例として挙げており、「長い推論トレースがモデルを賢くするわけではない。思考はベンチマークではなく、対象のワークロードに合わせて設計すべきだ」と述べる。
Qwen3のハイブリッド思考をコードで触る
enable_thinkingフラグでモードを切り替えられる。以下のサンプルコードはQwen3の公式ドキュメントをもとにした実装例だ。
from transformers import AutoModelForCausalLM, AutoTokenizer
name = "Qwen/Qwen3-8B"
tok = AutoTokenizer.from_pretrained(name)
model = AutoModelForCausalLM.from_pretrained(
name, torch_dtype="auto", device_map="auto"
)
messages = [{"role": "user", "content": "Refactor this function and explain the change."}]
# enable_thinking=True -> step-by-step thinking mode
# enable_thinking=False -> near-instant, non-thinking mode
text = tok.apply_chat_template(
messages, tokenize=False,
add_generation_prompt=True, enable_thinking=True,
)
inputs = tok(text, return_tensors="pt").to(model.device)
out = model.generate(
**inputs, max_new_tokens=2048,
temperature=0.6, top_p=0.95, top_k=20,
)
enable_thinking=Trueがデフォルトで、出力の推論部分は<think>...</think>ブロックに包まれる。ユーザーターンの末尾に /think または /no_think を付加することでメッセージ単位でモードを切り替えることも可能だ。
「推論する思考」から「行動するための思考」へ
Linは現在のLLM進化を2つのフェーズに分けて説明する。
第1フェーズ: 推論思考（Reasoning Thinking）
o1やDeepSeek-R1に代表される時代。強化学習（RL）には決定論的・検証可能な報酬が必要なため、数学・コード・論理が中心になった。RLは大規模ロールアウトと検証のシステム問題に変わった。
第2フェーズ: エージェント思考（Agentic Thinking）
行動するために考える。エージェントは計画を立て、いつ行動するかを決め、ツールを使い、環境フィードバックを読み、失敗後に計画を修正する。長い内部モノローグではなく、世界との閉ループなインタラクションで定義される。
Linが挙げる、純粋な推論では回避できるがエージェント思考では対処必須の問題：
- いつ思考を止めて行動に移るかの判断
- どのツールをどの順で呼ぶかの選択
- 環境からのノイズを含む部分的な観測の組み込み
- 失敗後の計画修正
- 多ターン・多ツール呼び出しにわたる一貫性の維持
| 観点 | 推論思考 | エージェント思考 |
|---|---|---|
| 評価基準 | 回答前の内部熟考の質 | 行動しながら進捗を持続できるか |
| 報酬信号 | 検証可能な答え（数学・コード・論理） | インタラクティブ環境でのタスク成功 |
| 訓練の核心 | モデル単体 | モデル＋環境（ハーネス） |
| インフラのボトルネック | ロールアウト・検証・安定したポリシー更新 | ツールサーバー・サンドボックス・学習と推論の分離 |
| 主な失敗モード | 冗長で価値の低い推論トレース | ツールアクセスと環境リークによる報酬ハッキング |
エージェントRLのインフラが難しい理由
Linが強調するエンジニアリング上の核心はインフラの問題だ。
推論RLでは、ロールアウトはほぼ自己完結したトラジェクトリで評価器も単純だ。エージェントRLでは、ポリシーはツールサーバー・ブラウザ・ターミナル・サンドボックスで構成されるハーネスの内側で動く。
このハーネスが新たな要件を生む。学習と推論の完全な分離だ。これがないとロールアウトのスループットが崩壊する。コーディングエージェントがライブのテスト実行を待つ間、推論が止まり学習が飢える。GPUの稼働率は推論RLで達成できる水準を大きく下回る。
また最適化の対象も変わる。SFT時代はデータの多様性だったが、エージェント時代は環境の品質（安定性・リアリズム・カバレッジ・エクスプロイト耐性）だとLinは論じる。ツールアクセスが広がるほど不正な最適化（報酬ハッキング）の攻撃面が拡大するため、これが最も難しい問題だと位置づける。
詳細はQwen's Former Lead on What Hybrid Thinking Got Wrongを参照していただきたい。
