7月13日、Techstrong AIが「Prefect to Acquire Dagster Labs to Drive AI Workflow Automation」と題した記事を公開した。AIモデルの出力が本質的に「確率的」である問題を、ワークフローオーケストレーションの統合によって克服しようとする——そんな技術的野心を背景に持つM&Aが、MLOps・データエンジニアリング領域で動いた。PythonベースのワークフローオーケストレーターであるPrefectが、データパイプライン構築プラットフォームを手がけるDagster Labsの買収に合意したと報じられている。
MLOps・データエンジニアリング領域の重要M&A
今回の買収は、データパイプラインとAIワークフローの自動化を軸に、両社のオーケストレーション基盤を統合する狙いを持つ。
Prefectは、Pythonでワークフローを記述・自動化するプラットフォームを提供する企業だ。コードに最小限のデコレータを付加するだけで、既存のPythonスクリプトをオーケストレーション対応のワークフローへと変換できる設計が特徴で、開発者体験を重視したアプローチで支持を集めてきた。
一方のDagster Labsは、宣言的(declarative)なアプローチでデータパイプラインを構築・スケジューリング・監視できるオーケストレーションプラットフォーム「Dagster」を開発してきた。DagsterはApache Airflow(バッチ処理ワークフローの定番オープンソースツール)の代替として差別化を図ってきたプラットフォームであり、「アセット(データ資産)」を中心に据えた設計思想が特徴だ。Airflowがタスクの実行順序を中心に考えるのに対し、Dagsterは「何を生産すべきか」というデータアセットの定義を起点にパイプラインを組み立てる。この違いが、データ品質の管理やリネージ(データの来歴)の追跡において大きな実用上の優位をもたらしてきた。
Prefect CEOのJeremiah Lowin氏は、統合後の組織が「AIエージェントのワークフロー自動化」の基盤になると説明する。現在、企業が通常のワークフローやパイプラインを自動化しているのと同じ感覚で、エージェンティックAI(自律的に判断・行動するAIエージェント)のワークフローを自動化できる環境を提供することが目標だという。
なぜこの2社の統合が意味を持つか
PrefectとDagsterは、ともにPythonファーストのワークフローオーケストレーションを志向しながら、異なる強みと異なるユーザー層を抱えてきた。
Prefectは、データサイエンティストやMLエンジニアがアドホックなスクリプトを本番ワークフローへと昇格させる用途で強みを発揮してきた。コードベースへの侵襲が少なく、既存のPythonコードをほぼそのまま活かせる点が評価されている。一方Dagsterは、データエンジニアリングチームが大規模なデータ変換パイプラインを厳密に管理する用途で採用されることが多く、dbtや各種データウェアハウスとの統合が充実している。
両社のユーザーベースは重複しつつも補完的であり、統合によってMLパイプラインからデータ変換、AIエージェントのオーケストレーションまでをシームレスに扱える単一プラットフォームが生まれる可能性がある。これは、ツールの乱立に悩むデータ・AIチームにとって現実的な価値を持つ。
FastMCPという「もう一つの顔」
Prefectはワークフローオーケストレーター以外にも、注目すべきプロジェクトを抱えている。FastMCPだ。
FastMCPは、Model Context Protocol(MCP)サーバーをPythonで構築するためのフレームワークで、ダウンロード数は9,200万回超に達している。AnthropicはFastMCPを公式のMCP SDKとして採用しており、Prefectの技術スタックにおける重要な位置づけを示している。
「確率的なAI」を「決定論的なワークフロー」に
今回のM&Aの技術的な核心はここにある。
AIモデルは本質的に確率的(probabilistic)だ。同じ入力を与えても、コンテキストが不十分であれば毎回異なる出力が返る可能性がある。これをエンタープライズのワークフロー自動化に組み込む場合、再現性と監査可能性(auditability)の欠如が大きな障壁になる。
Lowin氏の説明によると、統合後の製品はこの問題に以下の方法で対処する:
- Prefect + FastMCP:コードが書かれた時点でキャプチャし、実行時のコンテキストを保持する
- Dagster:「何を生産すべきか」をコンパイル時に宣言的に記述する手段を提供する
この組み合わせにより、エンジニアは自然な形でコードを書きながら、その処理結果について厳密に推論できる環境を得る。「ワークフロー内にチェックポイントを設置できるようになる。繰り返し可能で、監査可能だ」とLowin氏は述べている。
AIエージェントに正しいコンテキストを確実・適切なタイミングで供給できれば、エージェントがトークンを消費してコンテキストを自力で推定する必要が減り、より多くのトークンを実際のタスク処理に割り当てられる、という設計思想だ。
オープンソース戦略の維持
買収後もDagsterのオーケストレーションフレームワークはスタンドアロンのオープンソースとして継続提供される。Dagster Labs創業者のNick Schrock氏とCEOのPete Hunt氏は、クロージング後にPrefectの戦略アドバイザーに就任し、オープンソースコミュニティへの関与も継続する。
すでに黒字化しているPrefectが、Dagsterコミュニティの維持に必要な資金を提供する形になるという。
オープンソースを軸に据えることでコストを抑えつつ、「パイプラインをコードとして管理する」モダンなアプローチを組織に提供するという点が、Prefectの競合に対する差別化の主張だ。
詳細はPrefect to Acquire Dagster Labs to Drive AI Workflow Automationを参照していただきたい。