8月30日、StartupHub.aiが「AI Agents Are Where Microservices Were in 2015」と題した記事を公開した。AIエージェントの現状を2015年当時のマイクロサービスになぞらえ、「理念は浸透したがツールチェーンが追いついていない」という診断を軸に、メモリ・オブザーバビリティ・コストという三つの未解決問題を整理した内容だ。マイクロサービスがKubernetesやIstioの登場で初めて「退屈で信頼できるもの」になったように、AIエージェントにも同様のインフラ整備の波が来るという主張は、現場エンジニアにとってリアリティのある指摘である。
「AIエージェントは2015年のマイクロサービス」という診断
元記事が取り上げているのは、AI Engineerというカンファレンス(AIエンジニア向けの技術トーク配信チャンネル)が公開したトークだ。登壇したのは、法人向け出張・経費管理サービスを手がけるNavanのチーフアーキテクトRoberto MilevとアーキテクトUday Kanagalaであり、元記事はこのトークを一次情報源として引用・解説している。
Milevらの主張の骨格はシンプルだ。マイクロサービスは2015年頃、理念は浸透したがツールチェーンが追いついていなかった時期がある。 当時、アプリケーションを小さなサービス単位に分割するアーキテクチャ思想自体はNetflixやAmazonの成功例として広まっていたが、サービスディスカバリ・分散トレーシング・デプロイパイプラインといった運用基盤が未整備のまま現場に持ち込まれ、多くのチームが複雑性の爆発に直面した。KubernetesがCNCF(Cloud Native Computing Foundation)に寄贈されたのが2016年、本格的な商用利用が定着するのはさらに数年後のことだ。Milevらの主張は、AIエージェントが今まさにその段階にある、というものだ。
メッセージは直截だ。単一のエージェントループをまともに動かせないなら、マルチエージェントシステムに手を出すな。
スタックの現状:メモリ・オブザーバビリティ・コスト
メモリ設計
RAG(Retrieval-Augmented Generation)はコンテキストウィンドウの制約への最初の回答だったが、新しいパターンは自動化されたパイプラインだ。具体的には「取り込み → 抽出 → 統合 → 検索」という流れになる。
各プロバイダーはこれを以下の3層のメモリとして実装し始めている:
- 長期メモリ:セマンティック検索付き
- 短期メモリ:会話コンテキスト
- エピソードメモリ:何が成功し、何が失敗したかを記録する層。エージェントが過去の行動結果から学習・参照するために使われる
NavanはAWSが提供するAgentCore Memory(Amazon Bedrockのエージェント向けメモリ管理機能)を使いつつ、統合処理を自社のユースケース向けにカスタマイズしている。旅程の過去データは、汎用的な会話スニペットより有用だからだ。
オブザーバビリティ
Milevのアプローチは、意思決定ポイントへのインターセプトだ。AnthropicのClaudeのフック機構に近い仕組みで、Navanはツール呼び出しの前後・意思決定の前後にトレースを出力する。各スパンが捕捉するのは以下だ:
- 現在のゴール
- 推論内容
- ビリーフ(信念)の状態
- ツール呼び出し
- 信頼スコア(confidence score)
この信頼スコアが肝だ。「推論で導いた答え」と「根拠のある選択」を区別し、スコアが低い箇所こそがHuman-in-the-Loop(人間が処理の途中で判断・承認を行う介入の仕組み)を入れるべき場所になる。テキストではなく、シグナルとして機能する。
コスト:最も未解決な問題
Milevが「最もオープンな問題」と明言したのがコストだ。ベンダーにはトークンを多く消費させるインセンティブがあり、タスク単位で安いモデルにフォールバックする信頼できる手段がない。
オブザーバビリティ、テスト、コスト予測、リプレイデバッグ——これらはまだ解決されていない。デモはマネージドランタイム上で1週間で動くが、それをデバッグ可能かつビジネスとして成立する状態にするのに数四半期かかる、というのが実態だ。
エンジニアと起業家・創業者への示唆
Navanのチームはこのギャップをエンジニアや起業家・創業者にとっての機会として言語化している。次のランタイムを作ることではなく、欠けているクロスカッティングレイヤーを作ることだ。具体的には:
- 判断を捕捉するトレース
- 軌跡を評価するEval(評価)フレームワーク
- 実行あたりのコストを予測・上限設定するコントロール
Navanはこれらを解決したとは主張していない。彼らのポイントは、AIエージェントが2015年のマイクロサービスと同様に、ようやくリファレンスアーキテクチャを持ち始めたということだ。「退屈で信頼できるもの」にする本当の作業はこれからだ。
詳細はAI Agents Are Where Microservices Were in 2015を参照していただきたい。