7月31日、Quanta Magazineが「Is AI Reasoning Right for the Wrong Reasons?」と題した記事を公開した。この記事では、AIの「推論モデル」が正しい答えを出していても、それが本当に「推論」と呼べるのかという科学的な問いについて詳しく取り上げている。

「推論している」のか、それとも「推論らしく見える」だけなのか

2024年にOpenAIがo1モデルを発表して以降、大規模推論モデル（LRM: Large Reasoning Model）は急速に存在感を増した。一方で、Appleの研究チームは「思考の幻想（Illusion of Thinking）」と題した論文でLRMの推論能力を根本から疑問視し、サンタフェ研究所はベンチマークを「表面的なショートカット」で突破しているだけだという研究を発表した。

Quanta Magazineのサイエンスジャーナリストがこの矛盾に正面から向き合い、複数の研究者に取材した結果をまとめたのが本記事だ。

「推論トレース」は本当に推論の証拠なのか

LRMの仕組みを簡単に説明する。LRMはLLMを土台に、回答の前に「チェーン・オブ・ソート（chain of thought）」と呼ばれる中間テキストを生成するよう訓練されている。この中間テキストが、モデルが段階的に考える「思考の痕跡」として機能するとされてきた。

しかし、この前提を崩す研究が相次いでいる。

アリゾナ州立大学のSubbarao Kambhampati氏の研究グループは2025年、モデルの正しい「推論トレース」を誤ったものや無関係なものに完全に置き換えても、性能がほとんど落ちないことを示した。さらに、正しいトレースデータだけで訓練したモデルでも、正しい答えを出しながら無効な推論記録を生成することがあった。

ニューヨーク大学の研究（2024年）では、文字通り「点（ドット）の連続」といった無意味なトークンが、人間が読めるチェーン・オブ・ソートと同等の機能を果たせることが示された。この論文の著者の一人で現在トヨタ工科大学シカゴ校の教授を務めるWilliam Merrill氏は端的に述べている。

「チェーン・オブ・ソートが何らかの意味で意味を持つ必要があるという保証は、どこにもない」

さらにノースイースタン大学とUCバークレーの2025年の論文は、最先端のオープンソースLRMの「思考ステップ」のうち30〜60%が、最終的な回答にほとんど因果的な影響を与えていないことを明らかにした。半分削っても性能はほぼ変わらないという。

Anthropicの推論モデルチームの創設メンバーを経て現在NYUに所属するPavel Izmailov氏は、強化学習という典型的なLRMの訓練手法が、そもそも「忠実なチェーン・オブ・ソート」を生成するよう促すインセンティブを持っているのかすら疑問だと述べた。

では、なぜ正しい答えが出るのか

Kambhampati氏の仮説は次のとおりだ。LRMはLLMと同様に、膨大な訓練データに対して「近似的な検索（approximate retrieval）」を行っている。パターンマッチングと推論の「中間のどこか」にあるが、どちらかといえばパターンマッチングに近い。

「思考トークン」の役割は、推論を実際に記述することではない（そもそもそういう推論は行われていないため）。むしろ、モデルのコンテキストウィンドウを埋めることで、「推論らしいテキスト」を予測・出力しやすくするための仕掛けだという。

Kambhampati氏はこれを「何かを思い出そうとするときに口の中でつぶやく行為」に例える。何をつぶやくかはほとんど関係なく、記憶を引き出すきっかけになればよい、という考え方だ。

この立場から、同氏は2026年のICML（国際機械学習会議）でポジションペーパーを発表している。タイトルは率直だ：「中間トークンを推論・思考トレースとして擬人化するのをやめろ（Stop Anthropomorphizing Intermediate Tokens as Reasoning/Thinking Traces!）」

業界側の反論

OpenAIの技術スタッフでLRMを数学者・科学者に広める活動でも知られるSébastien Bubeck氏は、昨年のAppleによる批判論文を「間違っている」と断言し、現在は改善されていると主張する。

「GPT-5.5以降のモデルはその問題を抱えていない。あの結果を再検証することが面白いと思う。チェーン・オブ・ソートはすでに公開されている。見ればわかる。人間が推論するように推論しているだけだ。人間はLeanを使って推論しない」

ただし、OpenAIが公開したのは「生の」チェーン・オブ・ソートではなく、人間の専門家2名とCodexを使って書き直した「要約版」だ。2024年以降、OpenAI・Google DeepMind・Anthropicはいずれも生の推論トレースを公開していない。

「偽の理論は、理論がないと認めるよりも悪い」

Kambhampati氏の批判の核心は、LRMが機能しないという主張ではない。「動くときは動く」という事実は認めている。問題は、なぜ動くのかを説明する理論が、都合のいい擬人化に寄りかかっている点だ。同氏はその姿勢をこう断じる。

「いずれ正しくなるかもしれないから、とりあえず能力があると言ってしまおう、という姿勢がある。それは科学ではない。投資だ。偽の理論は、理論がないと認めるよりも悪い」

一方でサンタフェ研究所のMelanie Mitchell氏は現状をシンプルにまとめる。①LRMは機能し、精度を向上させる。②生成されるテキストは内部で起きていることを必ずしも反映していない。③そのテキストの多くはそもそも不要で、取り除いても問題ない。

「機能する」と「推論している」は別の話だ。その区別をどう扱うかが、AI研究の誠実さを問う試金石になっている。

詳細はIs AI Reasoning Right for the Wrong Reasons?を参照していただきたい。