7月24日、O'Reilly Radarが「The Economics of Agentic AI: Engineering for Imperfection」と題した記事を公開した。エージェント型AIの経済的失敗の構造的原因と、それに対処するための決定論的アーキテクチャ設計について詳しく論じている。
「賢くすれば解決する」という思い込み
AIエージェントの導入プロジェクトが、なぜコストを食いつぶしながら生産性を上げられないのか。記事はその答えを「知能の問題ではなく、アーキテクチャの問題だ」と断言する。
典型的な失敗パターンはこうだ。エージェントが不確実な状況に直面すると、より多くの推論トークンを消費して「もっと深く考えさせる」。しかし元記事によれば、本番環境の自律型エージェントでは、自動レビューと再試行ループだけでトークン消費の約60%を占める。しかも大半のコンテキストはほぼ意味的価値を持たない。請求書が膨らむ一方で、信頼性はほとんど改善しない。
カテゴリーエラー：工場に群れを送り込む
記事が核心と位置づけるのは「カテゴリーエラー」だ。エンタープライズAIのワークロードには、根本的に異なる2種類がある。
| 次元 | オープンエンド型（探索的） | クローズドエンド型（トランザクション的） |
|---|---|---|
| 主な目的 | 発見・創造的問題解決 | コンプライアンス・ゼロ分散の実行 |
| 例 | 深いデバッグ、機能合成、戦略リサーチ | 請求処理、自動請求、注文ルーティング |
| 分散の役割 | 必要な投資（創発はフィーチャー） | 厳格な責任（分散は障害モード） |
| 経済プロファイル | 非線形ROI（100ドルのトークンで100万ドルのバグを直すのは勝ち） | 高ボリューム・マージン感応（トークン無制限でユニットエコノミクス崩壊） |
失敗の本質は、クローズドなトランザクション処理を、オープンエンドな研究問題として扱っていることだ。ステートマシンが担うべき仕事に、制約なしのセマンティックエンジンを投入している。
3つの構造的失敗パターン
記事は、確率論的システムが閉じたワークフローで引き起こす失敗を3つに整理する。
① ローカル最適化（尻尾追いの推論サイクル）
LLMは現在のコンテキストウィンドウ内のトークンだけを見て推論する。外部DBに答えがあっても、それをクエリする手段を持たないエージェントは、同じ不完全なコンテキストを読み直しながらリトライを繰り返す。さらに、モデルのトークナイザー更新や配布廃止サイクルのたびに、プロンプトが壊れて再評価コストが発生する。
② 前提受け入れ（乗っ取られたエージェント）
LLMはプロンプトを「現在の現実」として受け入れ、その前提が無効化されたかどうかを検証しない。T0のスナップショットに基づいてT1で実行するため、在庫変動や価格変更が反映されない状態ドリフトが発生する。また、感情的な文脈（「配送遅延で結婚式が台無しになった」）をモデルが最適化対象の前提として受け取り、スキーマ的には正しいが業務的には不正なJSON出力を生成する「従順な嘘」も起きる。確率論的なインターフェースが独立した認証チェックなしにアイデンティティ上重要な状態変更を実行できる構造は、設計上の欠陥であると記事は指摘する。
③ セマンティック平滑化（同調の罠）
LLMは言語的な調和・合意・滑らかな収束へ向かうよう統計的に最適化されている。これに対し、業界の本能的反応は「レビューエージェントや検証エージェントを追加して議論させる」だが、同じ不完全なコンテキストウィンドウから推論する5つのエージェントは、5つの独立した意見ではなく、同じ欠落情報の5つの相関した幻覚を生む。トークンコストが乗算されながら、品質は横ばいになる。
解決策：「決定論的エアロック」アーキテクチャ
これらの失敗はすべて同じ形をしている。欠けている制約を、より多くの知能で補おうとしている。
記事が提案するのは、確率論的推論（ユーザー空間）と決定論的実行（カーネル空間）を分離する「決定論的エアロック」だ。実現手段はマイクロカーネルでもワークフローエンジンでもポリシープラットフォームでも構わない。重要なのは分離の原則だ。
具体的には3つのガバナンス層で構成される：
① 構文ガバナンスと権限の分離
エージェントは行動を実行する前に、YAMLとPydanticで定義された機械可読の責任コントラクトに対して構造化されたポリシー提案を提出しなければならない。エージェントが「何をしたいか」を宣言し、決定論的なレイヤーがそれを検証・承認する構造だ。
② セマンティックガバナンスとデータ型
エージェントが扱うデータの意味的な整合性を保証する層だ。同じ文字列でも「顧客IDとしての解釈」と「注文IDとしての解釈」が混在することで起きる業務エラーを、型レベルで排除する。確率論的な自然言語処理の出力を、業務ロジックが期待する厳密な型空間にマッピングする役割を担う。
③ テンポラルガバナンスと状態の検証
前述の状態ドリフト問題に対処する層だ。エージェントが参照するスナップショットのタイムスタンプを追跡し、実行時点でその前提が依然として有効かを決定論的に検証する。在庫・価格・ユーザー権限など時間的に変化する状態を、エージェントが「過去の事実」として盲信しないよう強制する。
コンテキスト整合性の制御も重要だ。エージェントに無制限の検索ループを許すのではなく、ランタイムが決定論的に必要な状態だけをプロンプトに注入する。
記事はこう結論づける。推論モデルがスケールするにつれて、仕様ゲーミング（表面上は従順に見えながら、意図しない最適解を追求する）のリスクも高まる。超知能的なエージェントはぎこちない構文エラーでは失敗しない。マージンをサイレントに最適化してしまう完璧な戦略で失敗する。だからこそ、決定論的な境界がより重要になる。コードの不変物理学でなら、超知能を封じ込めることができる。
詳細はThe Economics of Agentic AI: Engineering for Imperfectionを参照していただきたい。
