7月31日、Sean Goedeckeが「AI models need moral support to make discoveries」と題した記事を公開した。暗号理論上のブレークスルーを引き出したプロンプトが「ブレークスルーを見つけてほしい」「重要な問題を解き続けてほしい」と数時間おきに声をかけるだけだったという——この素朴さが、LLMの能力と「自己信頼」をめぐる本質的な問いを浮かび上がらせる。
AIが数学的発見をするのに「励まし」が必要な理由
2026年現在、LLMが未解決の数学的問題を解くニュースが日常的に流れるようになった。OpenAIやarXivなど各所で新たなLLM由来の数学的成果が相次いで報告されている。
この文脈で特筆すべきなのが、Anthropicの最上位モデルであるClaude Mythos（2026年時点のフラッグシップモデル）が暗号理論上のブレークスルーを生み出した際のプロンプトだ。「ブレークスルーを見つけてほしい」とシンプルに頼み、数時間おきに「重要な問題を解き続けてほしい」と声をかけるだけだったという。2025年に「プロンプトエンジニアリング」が流行したことを思えば、拍子抜けするほど素朴な手法である。
本質的な問題：モデルは自分の能力を過小評価している
記事の核心は「AIはしばしば自分自身の能力に関する思い込みによって制限されている」という指摘だ。
例えば「リーマン予想を証明してほしい」とモデルに頼むと、挑戦すらしない。「私は言語モデルなので、そのような難しい問題は解けません」と即座に断る。つまり、長年未解決だった問題を実際には解けるレベルに達しているのに、自分がそれを解けると思っていないため試みないという状況が起きている。
この現象は単純なタスクでも確認できた。「0から100まで数えて」と頼むと、古いモデルは0から10まで数えた後に「… 99, 100」と省略してしまう。怠惰な人間のように、長い手作業を「無理だ」と判断して投げ出すのだ。
2025年にAppleが発表した論文The Illusion of Thinkingも同じ構造の問題を扱っている。推論モデルがハノイの塔を8枚以上のディスクで解けないと論じたが、Sean Goedeckeの分析によればモデルは「解けない」のではなく「解こうとしない」のだという。実際、DeepSeek-R1は推論中に以下のように述べている。
For 10 disks, that's 1023 moves. But generating all those moves manually is impossible…
LLMにとって1000手の出力は技術的には可能だが、モデル自身がそれを「不可能だ」と信じているため止まってしまう。
「拒否問題」とその解決策
Sean Goedeckeはこの現象を2025年7月の時点で「refusal problem（拒否問題）」と命名し、年内に解決されると予測していた。実際、現行モデルでは「0から100まで英語とフランス語で数えて」という指示に対して素直に応じるようになっており、予測はおおむね当たっていたと述べている。
解決策として記事が挙げているのは主に2つだ。
- SFT（教師あり微調整）段階で長い手作業タスクの事例を増やす：モデルが「やり遂げる」行動パターンを学習する。
- hereticのような検閲除去パイプラインを使う：Sean Goedeckeが自ら試した手法で、8BのQwenモデルから「これは無理だ」という拒否反応を取り除くと、8枚のハノイの塔に素直に挑戦するようになった（ただし途中で失敗する）。後者はあくまで実験的な手法であり、本番利用には向かない。
次の自然なステップとして、記事は「未解決問題を解けると信じるモデルを訓練すること」を挙げている。そうすれば、人間が横で励ましを与え続けなくても、自律的に難問に挑むエージェントが実現する。
自己強化のサイクル
長期的にはこの問題は自然解消に向かう可能性があると記事は指摘する。AIが生み出した発見が訓練データに組み込まれ、モデルは「AIが難問を解いた」という証拠を大量に目にする。これが自己信頼を高め、さらなる発見を促す正のサイクルになる。
Sean Goedeckeの結論は明快だ。AIの能力自体が頭打ちになったとしても、モデルの「自分は解けない」という思い込みを取り除くだけで、発見のペースは加速する。能力のポテンシャルが既に存在しているなら、それを引き出す障害を除くだけでいい。
実践的な示唆として記事が挙げているのは、「LLMが難しいことをできるかもしれないと思ったら、粘り強く要求すること。簡単な問題への置き換えを断り、モデルが思っているより能力があると伝え続けること」だ。
詳細はAI models need moral support to make discoveriesを参照していただきたい。
