8月18日、StartupHub.aiが「Context Engineering: The Key to Better AI Agents」と題した記事を公開した。同記事はTowards AIの共同創業者兼CTOであるLouis-François Bouchard氏、Omar Solano氏、Samridhi Vaid氏の知見をもとにまとめられており、AIエージェントのコンテキストウィンドウを適切に管理する「コンテキストエンジニアリング」の実践的な戦略を詳しく紹介している。
「コンテキストロット」——AIエージェントが劣化する根本原因
AIエージェントを動かし続けると、やがてコンテキストウィンドウ（LLMが一度に処理できるテキストの範囲）が情報で埋まっていく。記事ではこの状態を「コンテキストロット（context rot）」と呼んでいる。コンテキストが膨張するほど応答品質は落ち、同時にトークン消費量が増えてコストも跳ね上がる。
なお「コンテキストロット」という呼称は本記事の紹介表現であり、元記事においてBouchard氏の造語として明示されているわけではない点に留意されたい。
プロンプトエンジニアリング（モデルへの指示の書き方を工夫する手法）が広く知られるようになった一方で、「コンテキストに何を入れるか、どう管理するか」という視点はまだ体系化されていない。コンテキストエンジニアリングは、その空白を埋めようとする取り組みだ。「コンテキストエンジニアリング」という用語自体は2025年ごろから業界で使われ始めており、Tobi Lutke（ShopifyのCEO）がXで言及したことで広く知られるようになった経緯がある。LLMの能力そのものではなく、「モデルに渡す情報をどう設計するか」がエージェントの実用性を左右するという認識が、現場エンジニアの間で急速に広まっている。
3つの主要戦略
記事で紹介された対策は大きく3つに整理できる。
1. コンテキスト圧縮（Compression）
コンテキストウィンドウの肥大化を防ぐ最も直接的なアプローチだ。不要になった情報を削除・要約することで、ウィンドウを軽量に保つ。会話履歴をそのまま積み上げるのではなく、「この会話でわかったこと」を凝縮して引き継ぐ設計が求められる。
実装上の典型的なアプローチとしては、一定ターン数ごとに過去の会話履歴をLLM自身に要約させ、生の履歴を破棄して要約テキストのみをコンテキストに残す方法がある。LangChainやLlamaIndexといったフレームワークでは、こうした「サマリーメモリ」パターンがすでにサポートされており、実装の出発点として参考になる。
2. メモリ管理（Memory）
エージェントが必要な情報を、必要なタイミングで取り出せるようにする仕組みだ。すべての情報をコンテキストに常駐させるのではなく、外部ストレージに保存しておき、関連する場面でのみ読み込む。「何を覚えさせるか」だけでなく、「何を忘れさせるか」の設計も重要になる。
メモリの分類としては、短期記憶（会話内の一時情報）・長期記憶（ユーザー属性や過去の意思決定など永続情報）・エピソード記憶（特定タスクの実行履歴）といった区分が研究・実装の両面で使われている。外部ストレージにはベクトルDBを用いた意味検索型の実装が一般的で、Mem0のようなエージェント向けメモリ専用ライブラリも登場している。
3. キャッシュ戦略（Caching）
同じ内容のトークンを繰り返し処理しないよう、計算結果を再利用する手法だ。特にシステムプロンプトのような固定部分は、キャッシュの効果が大きい。コスト削減と応答速度の改善を同時に狙える実用的な手段である。
キャッシュの具体的な仕組みはプロバイダーによって異なる。たとえばAnthropicはPrompt Caching機能を提供しており、プレフィックスが一致するトークン列を最大5分間キャッシュして再利用できる。公式によればキャッシュヒット時の入力トークンコストを最大90%削減でき、レイテンシも大幅に改善するとされている。OpenAIも同様のPrompt Caching機能を提供しており、長いシステムプロンプトを使うエージェントほど恩恵が大きい。
エンジニアにとっての実践的な意味
コンテキストロットは、デモでは問題が出にくいが本番環境で長時間稼働させると顕在化する類の問題だ。エージェントの会話ターン数が増えるほど、無策なら品質は必ず落ちる。
今回紹介された3戦略は独立したものではなく、組み合わせて運用するものだ。たとえば「圧縮で古い履歴を要約しつつ、重要な事実はメモリに保存、固定プロンプトはキャッシュで処理コストを下げる」というアーキテクチャが現実解として浮かび上がる。
AIエージェントを実運用に乗せようとしているエンジニアにとって、モデルの選定やプロンプト設計と同列で、コンテキスト管理の設計を最初から組み込む必要がある。
詳細はContext Engineering: The Key to Better AI Agentsを参照していただきたい。
