8月1日、Techstrong.AIが「How to Evaluate an AI Agent You Can't Fully Predict」と題した記事を公開した。この記事では、完全には予測できないAIエージェントを実務でどう評価・信頼するかという、エンジニアリングチームが直面する核心的な問題について詳しく紹介されている。
「正しい答えが返ってきた」は、信頼の根拠にならない
AIエージェント（特定の目標に向けて自律的に計画・実行を繰り返すAIシステム）を本番環境に投入しているチームが増えている。LangChainの2026年 State of Agent Engineering レポートによれば、調査対象企業の半数以上がAIエージェントをすでに本番運用している。しかし同レポートで「デプロイの最大の障壁は何か」と尋ねると、コストよりも品質が上位に来た。
この順序は示唆的だ。チームはエージェントを速く作れるようになったが、そのエージェントを信頼してよいかを判断する方法論はまだ追いついていない。
本記事の筆者は、エンタープライズ向けデータガバナンス（分類・リネージ〔データの出所や変換経緯を追跡する仕組み〕・アクセス制御）の構築に長く携わってきた経歴を持つ。その視点から言えば、エージェントの評価問題は「新しい問題」ではなく、企業がペタバイト規模のデータウェアハウスを信頼するために解いてきた問題と本質的に同じだという。コンプライアンス担当者が全行を読まなくても信頼できるのは、誰がどのポリシーのもとでデータに触れたかを検証できるからだ。エージェントも同じ発想が必要になる。
エージェントは同じタスクを毎回違う経路で解く
従来のソフトウェアテストは「同じ入力→同じ出力」という前提に立つ。エージェントはこのモデルを壊す。
Sierraが開発したτ-bench（タウベンチ）ベンチマークがこれを定量化している。結果は厳しい：
- 最先端エージェントが完了できたのは、カスタマーサービスタスクの半数以下
- 同一タスクを8回試行した場合、小売ドメインでの一貫性は25%を下回った
筆者自身がアセスメントしたエージェントも同様の挙動を示した。データ分析パイプラインを実行させると正しい答えが返ってきた。しかし実行軌跡を比較すると、3回の実行それぞれが異なるアプローチを取っており、そのほとんどが人間の思考プロセスとはかけ離れていた。各実行はトークンコストもレイテンシー（応答遅延）も異なった。
この経験が評価に対する考え方を変えた。「正しい出力が返ってきた」という事実が伝える情報量は、思っていたよりはるかに少ない。
評価フレームワーク：スクリプトではなく「終端状態」で判断する
この教訓から導き出された実用的な評価フレームワークの骨格は3層構造だ。
1. 終端状態で成功を定義する
τ-benchが採用しているアプローチで、エージェントが終了した後のシステム状態を、アノテーション（正解ラベル）されたゴールと比較する。「どの経路を通ったか」ではなく「どこに着いたか」で評価するため、正当な複数経路を公平に扱える。例えばデータ取得タスクであれば、SQLを使ったか、APIを叩いたかは問わず、取得されたデータが正しい状態であるかだけを評価基準とする。これにより、エージェントの創意工夫を不当に弾かず、かつ恣意的なプロセスへの依存も排除できる。
2. ポリシー境界を明示する
即興で動作するエージェントが守らなければならないルールを定義する。正しい結果をポリシー違反で達成したエージェントは、失敗とみなす。たとえば「顧客データを外部APIに送信してはならない」というポリシー境界を設けておけば、たとえ返答が正確でも、その過程で境界を踏み越えた実行は不合格とする。ポリシー境界は、組織のセキュリティ・コンプライアンス要件を評価プロセスに直接織り込む手段でもある。
3. 繰り返し試行で信頼性を測る
10回中9回成功するエージェントと、10回中10回成功するエージェントでは、デプロイ戦略が変わる。一度の試行で合格・不合格を決めるのではなく、複数回の実行にわたる一貫性を評価することで、エージェントの「運による成功」と「再現可能な成功」を区別できる。
評価軸の実践例として筆者チームが計測していた指標を列挙すると：タスク成功率、エージェント・スキル・ツール・モデルバージョンをまたいだ効率性、一貫性、精度、バイアス、ポリシー・セキュリティ準拠、レイテンシー、トークン消費量。単一指標で本番可否は決めない。
学術面ではマルチ次元評価に関する研究がこの考えを体系化しつつあり、NISTのAIリスク管理フレームワークは「信頼性を測定可能なプロパティの集合として扱う」という語彙を提供している。
現場の実態：観測はできても、判断ができていない
LangChainの同調査では、89%の組織がエージェントのオブザーバビリティ（可観測性：システム内部の状態をログやトレースから把握できる度合い）を持っていると回答した一方、オフライン評価を実施しているのは半数強にとどまる。エージェントの動作を「見る」ことはできても、その動作を「判断する」構造が整っていないチームが大半だということだ。
この差が、デプロイが止まる場所だ。Gartnerは2027年末までにアジェンティックAI（人間の介入なしに複数ステップの目標達成を自律的に行うAIシステム）プロジェクトの40%超がキャンセルされると予測しており、リスク管理の不備をその主因の一つに挙げている。
エージェントに「自律性を稼がせる」という考え方
筆者が提案するのは、エージェントの不確実性をゼロにしようとするのではなく、検証可能な境界の内側で、エビデンスに応じて自律性を拡張していくアプローチだ。
具体的には：
- まずQA環境の読み取り専用タスクなど低リスクな作業から開始する
- エージェントが自律的に実行できる行動、承認が必要な行動、絶対に実行してはならない行動を明示的なガードレールで定義する
- 一貫性・ポリシー準拠・レイテンシー・コストを継続的に観測し、エビデンスが積み上がった分だけ自律性を広げる
完全な予測可能性を待っていては競合に先を越される。エージェントには自律性を「与える」のではなく「稼がせる」という発想の転換が、実務上の信頼につながる。
詳細はHow to Evaluate an AI Agent You Can't Fully Predictを参照していただきたい。
