10月22日、The Decoderが「Recursive shows first result of its AI-driven research process with Flint」と題した記事を公開した。AIスタートアップRecursiveが独自の自動研究システムを使って開発した40BパラメータのMoEモデル「Flint」について詳しく紹介されている。
AIがAIを作った——Eureka Machineという研究自動化システム
この記事で最も注目すべき点は、モデルそのものではなく、モデルを作ったプロセスだ。
RecursiveはFlintの開発に「Eureka Machine」と呼ぶ社内システムを使用した。このシステムは研究サイクル全体を自動化するもので、アーキテクチャの提案、実験の実行、結果の評価、次の実験計画の立案までをほぼ自律的に行う。人間が「こういう方向で試してみよう」と指示するのではなく、AIシステム自身がアイデアを出し、複数のアプローチを並行して走らせる。
Flintの開発において、Eureka Machineが実際に行った判断の具体例が3つ挙げられている。
アーキテクチャの決定:当初は総パラメータ数35B・アクティブパラメータ3Bの構成から出発したが、Eureka Machineがさまざまなエキスパート構成をテストした結果、最終的に総パラメータ40B・アクティブパラメータ2.5Bという構成を選択した。これがコーディング性能と推論速度のトレードオフとして最善だったとのことだ。
量子化の方針:一般的な慣行に反して、出力層を4ビット(NVFP4)に削減する判断を下した。精度の損失を補うために蒸留ステップを追加したところ、従来手法の約半分のトレーニングステップで同等の性能を実現。完成したNVFP4モデルは16ビット版と比べてベンチマークスコアの差が0.7ポイント以内に収まった。
カスタム推論カーネルの構築:Apple SiliconとNvidia RTX Spark向けに専用のコンピュートカーネルを自動生成した。Apple M4/M5チップ向けには、トークン生成時のフォワードパス全体を単一オペレーションにまとめる「Metal megakernel」を構築している。
モデル自体のスペック
Flintはローカル実行を前提としたコーディング特化のMoEモデルだ。開発期間はわずか4ヶ月。
- パラメータ数:総40B、アクティブ2.5B(トークンあたり)
- コンテキスト長:最大512,000トークン(推奨上限は256,000)
- 推論速度:M4 Proで短いコンテキスト時に125トークン/秒以上、Nvidia RTX Spark(64GB)では150トークン/秒以上。同規模の競合MoEモデルと比べて最大2倍の速度とされる
ベンチマークはSWE-Bench Pro v2、Terminal-Bench 2.1、SWE-Bench Verifiedなどコーディング系に特化している。SWE-Bench VerifiedはSWE-Benchの厳選サブセットとして広く参照されている標準的な評価指標だが、SWE-Bench Pro v2やTerminal-Bench 2.1は比較的新しいバージョンであり、ベースラインとなるコミュニティの蓄積がまだ少ない点は留意したい。Recursiveは50B未満のMoEモデルの中ではトップを主張しているものの、第三者による独立した検証はまだ行われていない。
モデルウェイトはHugging FaceでApache 2.0ライセンスのもと公開されている。対応ランタイムはllama.cpp、Ollama、LM Studio、vLLM、SGLangで、Recursive自身もApple Silicon向けの独自推論エンジン「rec」をOSSとして公開した。
ローカル完結で動作するため、コードが外部サーバーに送信されない点を売りにしている。ただしRecursive自身も認めているように、複雑なタスクでは大規模なプロプライエタリモデルより多くの手順への分割が必要になる。
「AIが自分をより良くしていく」という長期目標
Recursiveは2026年5月にステルスを解除し、評価額46.5億ドルで6億5000万ドルを調達したスタートアップだ。共同創業者には、NLP研究者として著名でStanford大学教授・元Salesforce Chief ScientistのRichard Socher、そして元DeepMindのTim Rocktäschel(強化学習・AIエージェント研究で知られる)らが名を連ねる。ステルス解除時点では具体的な技術的成果物がなく、Flintが初の公開モデルとなる。
同社の長期ビジョンは「新しいモデルがEureka Machineをより優れた研究者にし、次世代モデルをより速く・効率的に作れるようにする」という再帰的な自己改善ループだ。将来的にはAI研究以外の科学分野にも同じアプローチを適用することを目指している。
ただし、このビジョンが実現するかは別の話だ。AnthropicはClaudeが開発作業の相当部分を担っていると述べており、OpenAIもAIエージェントを研究パイプライン全体に展開している。しかし700件以上のタスクログを分析した研究によれば、AIエージェントが作業の大部分を担う一方、重要な判断の多くは人間が下しているという現実がある。Flintは「Eureka MachineがEureka Machine自体をより優れた研究者にした」ことをまだ証明していない。それが示せて初めて、真の再帰的自己改善の証拠になる。
詳細はRecursive shows first result of its AI-driven research process with Flintを参照していただきたい。
