8月4日、Microsoft Researchが「Orchard: An open framework for scalable agentic AI」と題した記事を公開した。小型モデルでも複雑なエージェントタスクを高い精度で実行できることを示したオープンソースフレームワーク「Orchard」について詳しく紹介されている。
「プロプライエタリな環境がなければ研究できない」問題を解消
AIエージェント研究の最大の障壁の一つは、再現性の低さだった。最先端のエージェントシステムは独自サンドボックスや非公開の訓練パイプライン、プロプライエタリなデータセットに依存しており、多くの研究者がアクセスできない状況が続いていた。
Orchardはこの課題に正面から向き合う設計だ。中核となるのはOrchard Envと呼ばれる軽量なKubernetes(コンテナオーケストレーション基盤)ベースの環境サービスで、訓練データ収集・強化学習のロールアウト・評価を一貫して担う再利用可能なコンポーネントとして機能する。特徴的なのは、コーディング・Webブラウジング・パーソナルアシスタントといった異なるタスクドメインで、同一のインフラを修正なしに使い回せる点だ。
さらに、Claude CodeやCodexといった実際のデプロイハーネス(モデルを包む実行フレームワーク)内で直接エージェントを訓練できる点も重要だ。従来のオープンな訓練ツールは複雑なステートフルな実行環境を扱えず、簡略化された環境で訓練してから本番環境に持ち込む「訓練・デプロイ間のミスマッチ」が生じていた。Orchardは軽量プロキシを用いてハーネスのモデル呼び出しを記録し、各ロールアウトを独立したコンテナで実行することでこの問題を解消している。
コードとデータセットはGitHubおよびHugging Faceで公開されている。
Orchard-SWE:約30億パラメータでフロンティアモデルに肉薄
エンジニアが最も注目すべき成果がOrchard-SWEだ。ソフトウェアエンジニアリング向けの訓練レシピで、SWE-bench Verified(実際のGitHub Issueを修正できるか測るベンチマーク)で**69.7%、さらに後述の価値モデルによる再ランク付けを加えると73.0%**を達成している。
使用モデルのアクティブパラメータは約30億にすぎない。元記事では具体的なモデル構成として「35B-A3B」という表記が用いられており、混合エキスパート(MoE)アーキテクチャにおいて総パラメータ35Bのうちアクティブパラメータが約3Bであることを示している。10倍以上の規模を持つフロンティアシステムに近い性能を、大幅に小さいモデルで実現している。
訓練の工夫が積み重なっている点が技術的に面白い:
- 107,000件のエージェント軌跡を蒸留:MiniMax-M2.5とQwen3.5-397Bという2つの大規模モデルからGitHub Issueへの対応記録を収集
- クレジット割り当てSFT(教師あり微調整):完全に失敗した試みも捨てず、部分的に有効だった工程から学習することで訓練データを効率活用
- バランス適応ロールアウト:強化学習の成功シグナルがまばらな状況でも有効に機能する手法
- オンポリシー蒸留・プロセス報酬モデル:より強力な教師モデルがステップごとにエージェントの判断を採点し、密な報酬を与える「dense reward」技術
- 4Bパラメータの価値モデルによる再ランク付け:過去20回の実験で生成された軌跡を価値モデルの訓練に再利用し、複数の候補解から最良のものを選択
ベースラインの61.4%から、手法を積み重ねるごとに着実に精度が向上していく過程は、個々の技術が独立して有効であることを示している。
Orchard-GUI:400件のデモで強力なWebエージェントを実現
Orchard-GUIは4Bパラメータの視覚言語モデルをブラウザエージェントとして訓練したもの。訓練データが蒸留デモ400件+オープンエンドタスク2,200件という少量であるにもかかわらず、複数のWebナビゲーションベンチマークで以下の結果を出している:
- WebVoyager:74.1%
- Online-Mind2Web:67.0%
- DeepShop:64.0%
- 平均:68.4%
これはオープンソースのGUIエージェントとして最高水準に位置づけられ、OpenAIやGoogleのプロプライエタリなシステムと同等の水準だとしている。少量のデータでも適切な訓練環境があれば高性能なWebエージェントを構築できることを示唆している。
Orchard-Claw:200件の合成タスクでパーソナルアシスタントを訓練
メール・カレンダー・情報検索といった日常的な生産性タスクを対象としたOrchard-Claw。わずか200件の合成タスクで訓練され、Claw-Evalベンチマークで最大3回の試行を許す条件で**59.6%のタスクを完了。Clawエージェントシステムと組み合わせると73.9%**に達する。
実ハーネス内での訓練の効果も数字に出ている。Codexハーネス下では、未訓練モデルの18.6%から訓練後51.5%へと成功率が大幅に向上した。
蓄積型エージェント学習への展望
研究チームが「将来の方向性」として挙げているのが、訓練で生成された軌跡を使い捨てにしない「累積型エージェント学習(Cumulative Agentic Learning)」だ。現状のエージェント訓練では、各世代のモデルがロールアウトした軌跡は訓練後に破棄されることが多く、次世代モデルはゼロから学習を繰り返す構造になっている。
Orchardではこの問題に対し、過去の訓練ロールアウトを再利用可能な価値モデルへと蒸留するアプローチを提示している。新世代のエージェントが前世代の知識を引き継ぐことで、繰り返し発生する学習コストを削減し、研究・開発サイクル全体の効率を高めることが狙いだ。元記事では、Orchard-SWEにおける価値モデルの再利用(過去20回の実験軌跡を活用した再ランク付け)がその初期的な実装例として位置づけられており、これを汎用化・体系化することが次のステップとして示されている。
詳細はOrchard: An open framework for scalable agentic AIを参照していただきたい。