7月6日、Mozilla.aiが「Introducing Otari: The Open-Source LLM Control Plane」と題した記事を公開した。新しいLLMアプリケーションを作るたびに、ルーティングロジック・APIキー管理・コスト追跡・ガバナンスを一から組み直す——Mozilla.aiはこの「毎回作り直す問題」を断ち切るため、オープンソースのLLMコントロールプレーン「**Otari**」をローンチした。複数プロバイダーへのアクセスを単一エンドポイントに束ね、予算管理からエージェント対応まで一元化する基盤として設計されている。

「毎回作り直す」文化への問題提起

Mozilla.aiは開発の背景として、開発者や組織と協働する中で「同じインフラ課題が何度も繰り返し現れた」と述べている。ルーティングロジック、プロバイダーキー管理、使用量追跡、予算執行、ガバナンス——これらはアプリケーションを新たに作るたびに独立して実装されていた。

こうした機能は、アプリケーションレイヤーではなく専用のコントロールプレーンに属すべきだ、というのがOtari設計の根拠である。LLMを活用したアプリケーション開発において、今や「モデルへのアクセス」そのものはボトルネックではなくなった。問題はインフラの運用コストだ。複数プロバイダーのAPIキー管理、ルーティングロジックの自前実装、コスト追跡、ガバナンス——これらをアプリケーションごとに組み直している開発チームは少なくない。

Otariはアプリケーションとモデルプロバイダーの間に置く「コントロールプレーン」（制御レイヤー）として機能し、これらの共通課題をまとめて引き受ける。オープンソースとして公開されており、ホスト版とセルフホスト版の両方に対応する。

Otariが提供する主な機能

Otariが一元管理する機能は以下の通りだ。

• 単一エンドポイントによるマルチプロバイダールーティング：複数のLLMプロバイダーへのリクエストを1つのエンドポイント経由でさばく
• 予算管理と自動執行：LLMの利用コストを可視化し、予算上限の自動適用まで行う
• ガバナンス管理：APIキー、ワークスペース、アクセス制御を集中管理する
• インテリジェントルーティングと自動フェイルオーバー：プロバイダー障害時の自動切り替えで可用性を高める
• エージェント対応（Agent Harnesses）：ツール呼び出しとオーケストレーションを組み込んだエージェント向けアプリケーションを構築できる

Agent Harnessesとは何か

Otariの機能の中でも、「Agent Harnesses」は特筆に値する。

LLMエージェントは単純なテキスト生成とは異なり、外部ツールの呼び出し（ファイル操作・検索・APIアクセスなど）や、複数ステップにわたるオーケストレーション（タスクの分解・実行・フィードバック）を必要とする。こうした処理をアプリケーションコード内にベタ書きすると、プロバイダーを切り替えるたびにロジックの大半を書き直すことになる。

Agent Harnessesはこのオーケストレーション層をコントロールプレーン側に引き上げることで、アプリケーション開発者がモデルやプロバイダーの違いを意識せずにエージェント機能を利用できる構造を提供する。複数チームが同一のエージェントインフラを共有するシナリオや、プロバイダーをまたいだフェイルオーバーをエージェントワークフロー内でも機能させたい用途で有効だ。

具体的なユースケースとして、元記事ではコーディングアシスタント・カスタマーサポートエージェント・データパイプラインの自動化といった場面が想定されている。これらの場面では「特定プロバイダーへの依存を避けながらエージェントを安定運用する」という要件が共通しており、Agent Harnessesはその要件を共通基盤として満たすことを狙っている。

入手方法

Otariはotari.aiでプラットフォームを確認でき、ドキュメントおよびGitHubのオープンソースリポジトリも公開されている。セルフホストで自社インフラに組み込む構成と、ホスト版をすぐに利用する構成の両方を選べる。

詳細はIntroducing Otari: The Open-Source LLM Control Planeを参照していただきたい。