10月16日、Craig Risiが「Grafana Applies SLOs and Error Budgets to AI Agent Behaviour」と題した記事を公開した。この記事では、GrafanaがSLO（サービスレベル目標）とエラーバジェットをAIエージェントの振る舞い評価に適用するアプローチについて詳しく紹介されている。以下に、その内容を紹介する。

AIエージェントが「動いている」ことと「正しく動いている」ことは別問題だ。レスポンスタイムやエラーレートといった従来の監視指標は、エージェントが返した答えの正確さ・有用性・安全性を一切教えてくれない。この問題に対し、Grafana LabsがSREの現場で長年使われてきたSLO・エラーバジェットの枠組みを転用することを提案している。

「品質スコア」より「多次元の測定」

Grafanaのアプローチの起点は評価（Evaluation）だ。エージェントとの一回のやり取りを検査し、特定の行動基準を満たしているかどうかを判定する。Grafanaが挙げる評価の例は以下のとおりだ。

• 回答が提供されたコンテキストに根拠を持つか（Groundedness）
• ユーザーの要求を達成したか（Task Fulfilment）
• 有害なコンテンツを含むか（Toxicity）
• 個人情報を漏洩していないか
• プロンプトインジェクションに屈していないか

評価手法は、別のLLMを「審査員（LLM-as-a-judge）」として使う方法だけでなく、正規表現のような決定論的チェックも組み合わせられる。LLMを使わずに判定できる振る舞いは、できるだけ決定論的に扱うべきという姿勢だ。

重要なのは、「単一の品質スコア」を作ろうとしないことだ。Grafanaは「品質は多次元」と主張する。根拠は十分だがコストが高い、役立つが時々有害、正確だが遅い、といった組み合わせは当然ありえる。これらを別々の指標として扱うことで、アプリケーションごとに重要な振る舞いに対して異なる目標を設定できる。集約スコアの中に重大な問題を隠してしまうリスクも避けられる。

SLO・エラーバジェットをそのまま適用する

振る舞いが定量化できれば、あとは通常のSREの概念がそのまま使える。

Grafanaの例では、「30日間で95%の会話がTask Fulfilledと判定されること」をSLOとして設定する。残りの5%がエラーバジェットだ。チームが明示的に「この期間、この程度の失敗は許容する」と決めた量になる。

このモデルが面白いのは、パーセンテージ自体より意思決定の構造にある。エラーバジェットに余裕がある間はプロンプト、モデル、エージェントの振る舞いを積極的に変えて実験できる。バジェットが消費されていくにつれ、優先度が変更の投入から品質改善にシフトする。SREチームが可用性と開発速度のバランスを取るために長年使ってきたトレードオフの構造と同じだ。

「突然の障害」より「緩やかな劣化」を検出する

このアプローチが特に有効なのは、エージェントの品質が劇的にではなく徐々に低下するケースだ。

モデルの変更、プロンプトの修正、RAGの検索ロジックの変更、あるいはユーザーの行動パターンの変化によって、エージェントの回答品質が毎日わずかずつ悪化していくことがある。従来のアラートは「リクエストが急増して失敗した」ことは検知できても、「答えが少しずつ役立たなくなっている」ことは見えない。

エラーバジェットの消費率を監視することで、このドリフトを可視化できる。一回の失敗は30日間の目標に対してほとんど影響しないが、継続的な低下はバジェットを着実に削っていく。「一つの実行が失敗したか」ではなく「システムの集計的な振る舞いが合意した許容範囲から外れているか」というシグナルだ。

Grafana自身、自社のGrafana Assistantを監視する中でプロンプト・モデル・ツールの変更によって従来の監視が不十分になったことをきっかけに、このAgent Observabilityの取り組みを発展させている。

目標値の設定が一番難しい

SLOを作ること自体より、何を「許容可能な振る舞い」とするかを決めることの方が難しい。

可用性目標であれば、業界に数十年分の運用実績がある。しかしエージェントのTask FulfilmentやGroundednessについて、85%・95%・99%のどれが適切かという合意はまだほとんど存在しない。

Grafanaのアプローチは、まず評価をベースラインとして走らせ、その履歴データから適切な目標値を推薦するというものだ。エージェントが成熟するにつれて目標を段階的に引き上げていく。

限界：SLOはその下の測定の質に依存する

記事はリスクも率直に述べている。LLMの審査員が回答を一貫して誤分類するなら、エラーバジェットは精度があるように見えて根拠のない数字になる。評価の設計が悪ければ、ある基準を技術的には満たしながらユーザーの実際の意図には応えていない出力を「合格」にしてしまう。

代表的な評価データセット、明確な行動定義、可能な箇所での決定論的チェック、曖昧なケースへの人間レビュー、そして評価器自体の継続的な検証が必要になる。SLOはガバナンスの仕組みを提供するが、その下の品質測定を正しいものにするわけではない。

業界全体での広がり

Grafanaの提案は単独の動きではない。Anthropicはエージェント評価をより形式的に整備しており、定義されたタスクと複数の審査員を用いてエージェントが意図した成果を一貫して達成できるかを測定している。特に、複数試行のうち一度でも成功すれば合格とするpass@kと、全試行で成功することを求めるpass^kの区別は、本番環境での信頼性を重視する文脈で重要な概念だ。

OpenTelemetryはより低いレイヤー、エージェントテレメトリの標準セマンティック規約の整備を進めており、トレース・メトリクス・ログをフレームワークやベンダーを横断して一貫した評価の基盤にしようとしている。

評価がエージェントの振る舞いの正否を判断し、可観測性がその証拠を提供し、SLOがその振る舞いが許容できるかを判断するための運用上の閾値を与える、という構造が業界全体で形作られつつある。

詳細はGrafana Applies SLOs and Error Budgets to AI Agent Behaviourを参照していただきたい。