10月13日、Matthias Bastianが「Clearing chat history helps AI agents find better solutions」と題した記事を公開した。この記事では、AIエージェントが長時間稼働時にコンテキストの蓄積によって解探索が行き詰まる問題と、Microsoftが提案する「Fork-and-Flush」という解決策について詳しく紹介されている。
AIエージェントが「アイデアの沼」にはまる
Microsoft Researchの研究では、AIエージェントに同一タスクを繰り返させた場合、最終スコアが68.3から100.0まで大きく分散するという事実が明らかになった。計算リソースをいくら追加投入してもこの差は縮まらない。AIエージェントを長時間・反復型タスクに活用する動きが広がる昨今(LLMエージェントの動向まとめ)、この「性能のばらつき」問題は設計上の盲点として見落とされがちだ。
研究対象は「Autoresearchエージェント」と呼ばれるAIシステム。「解を提案 → 評価 → フィードバックに基づいて改善」を繰り返すループ型エージェントで、同一エージェントを8回独立して実行した際に上記のスコア分散が確認された。
なぜこうなるのか。研究チームは各実行の解をマップ上にプロットし、1回の実行で生成される解はほぼ常にマップ上の小さな領域に留まり続けることを発見した。この領域を「アイデアベイシン(idea basin)」と呼ぶ。残りの計算予算の大半を、生産性の低い領域での微調整に費やしてしまうわけだ。
会話履歴を定期的に圧縮(要約)する手法を使っても、このパターンは解消されなかった。問題は要約の精度ではなく、過去の推論文脈そのものが次のステップを誘導することにある。
解決策:「Fork-and-Flush」
提案手法「Fork-and-Flush」は、フォーキングとフラッシングの2つの機構を組み合わせる。
- Fork(フォーク): エージェントをK本の並列ブランチに分岐させる。各ブランチは直前のワークスペース(コード、ファイル、保存済みの結果)をそのまま引き継ぐ。
- Flush(フラッシュ): 各ブランチのチャット履歴(会話コンテキスト)を全削除する。ワークスペースは保持したまま、新鮮な会話として再スタートする。
コンテキストを引き継いだブランチは親プロセスの推論に引きずられて同じアイデアベイシンに戻りがちだが、コンテキストをクリアしたブランチは別の領域へ探索を広げられる。これが性能のばらつきを逆手に取る仕組みだ。
なお、「Flush(フラッシュ)単独」、すなわち分岐なしでチャット履歴だけをリセットした場合でも、単独実行比で22%の改善が確認されている。Fork-and-Flushの66%改善は、このリセット効果に加えて並列分岐による多様な探索を組み合わせた結果だ。「全削除だけで66%向上」という誤解が生じやすいが、正確には「リセット単体で22%、分岐との併用で66%」である点は押さえておきたい。
実験結果:同一計算予算で66%の改善
研究チームは13の長時間タスクでFork-and-Flushを検証した。タスクには以下が含まれ、個々の実行時間は数時間から100時間以上に及んだ。
- ポリオミノパッキング:多角形ピースを効率よく配置する組み合わせ最適化問題
- ジョブショップスケジューリング:複数の機械に複数のジョブを割り当てるスケジューリング問題(参考:Wikipedia)
- 暗号解析
- CIFARクラシファイアの圧縮
- VLIWカーネル最適化:超長命令語(VLIW)アーキテクチャ向けに命令レベルの並列性を最大化する最適化(参考:Wikipedia)
使用モデルは元記事記載のGPT-5.6-terraおよびGPT-5.5(GitHub Copilot CLI経由)。※これらのモデル名は元記事に記載されている表記をそのまま使用している。2026年10月時点でのOpenAIの公式モデル一覧についてはOpenAI公式ドキュメントを参照されたい。
| 手法 | 正規化平均スコア | 正規化標準偏差 | 単独実行比 |
|---|---|---|---|
| Single run(単独実行) | 0.47 | 0.26 | ベースライン |
| Best-of-4(最良選択) | 0.54 | 0.21 | 約+14.9% |
| Fork-and-Flush | 0.78 | 0.16 | +66.0% |
13タスク中12タスクで最高スコアを達成した。分岐なしのフラッシュ単体でも22%改善が見られる点は、実装コストとのトレードオフを考えるうえで重要な数字だ。
モデルが強力になっても効果は続く
「より高性能なモデルを使えばこの問題は消える」という期待への答えも論文に含まれている。
研究チームはQwen3系列(元記事記載の表記に準じる)の4B・9B・27Bの3サイズでMAX-3-SAT問題を解かせ、モデルサイズとスコアのばらつきの関係を調べた。MAX-3-SATは充足可能性問題の一種で、各節に最大3つの変数を持つ論理式を満たす変数割り当てを探す問題だ(参考:Wikipedia)。結果、ばらつきはモデルの能力の端(ランダム推測性能と参照ソルバー性能のほぼ中間点)で最大になる逆U字カーブを示した。
研究チームの解釈は明快だ。「未解決の研究問題は定義上、現在のモデルの能力限界に位置する。モデルが進化すれば境界が難しい問題側にシフトするだけで、ばらつきは消えない」。フロンティアモデルを使う研究エージェントにおいても、定期的なコンテキストリセットは有効であり続けると論じている。
AIエージェントを長時間・反復型タスクに使う設計を検討している場合、「会話履歴の蓄積が探索の多様性を損なう」という観点は設計段階から考慮に値する。まずFlush単体の22%改善から試し、余力があればForkを加えて66%改善を狙うという段階的なアプローチが現実的な出発点となるだろう。
詳細はClearing chat history helps AI agents find better solutionsを参照していただきたい。