8月6日、RuntimeWireが「Castform and Neon say a 4B model matched GPT-5.6 Sol at 100x lower cost」と題した記事を公開した。タスク特化型の後処理学習(post-training)を施した40億パラメータのオープンモデルが、検索精度でGPT-5.6 Solに匹敵しつつ推論コストを約100分の1に抑えたとするCastformとNeonの主張を詳しく紹介している。
「4Bモデルがフロンティアモデルに並んだ」という主張
AI企業Castformの共同創業者Ying Hang SeahとデータベーススタートアップのNeonは、2026年8月5日付のケーススタディで、タスク特化型の後処理学習を施した4Bパラメータのオープンウェイトモデルが、検索(retrieval)タスクにおいてOpenAIのGPT-5.6 Solと同等の精度を達成し、推論コストは約100分の1だったと報告した。
ベースモデルとして用いられたのはQwen3.5 4Bだ。Qwen3.5はAlibaba Cloudが開発・公開しているQwenシリーズの一世代であり、4Bはそのパラメータ数4億(4 billion)を指す。GPT-5.6 SolはOpenAIが提供するAPIモデルの一つで、GPT-4系のフロンティアモデル群に位置づけられる。今回の評価では、この小型オープンウェイトモデルとOpenAIの大型商用モデルを検索精度で比較している。
コスト面の参考値として、Neonは「GPT-5.6 Solを使ったマルチターン検索リクエスト1件あたりのコストは約**$0.03、処理時間は10秒超」と述べている。一方、Castformの料金ページによれば、学習コストはQwen3.5 4Bで$0.10/100万トークン**とされている(ただし、このレートがNeonベンチマーク全体のコストを指すわけではない)。
ただし、このベンチマークはベンダー自身が作成したものだ。評価に使ったモデルの名称・チェックポイント、テストクエリ数、スコアリング手法、試行間の分散、信頼区間などはいずれも非公開であり、第三者による再現は現時点では不可能だ。100分の1のコスト比較にデータ準備、合成データ生成、強化学習の学習コスト、インフラ費用が含まれるかも明示されていない。冒頭の「GPT-5.6 Solと同等」という主張は読み応えがあるが、その留保事項が本文後半にまとまっている点は、記事を読み進めながら意識しておくべきだろう。
従来のRAGとの違い:モデルが「何を・いつ・どう検索するか」を学習する
Castformのアプローチが面白いのは、単純なRAG(Retrieval-Augmented Generation)パイプラインとは設計思想が異なる点だ。
一般的なRAGでは、開発者がベクトル検索で関連チャンクを取得してプロンプトに詰め込む。Castformはモデル自身に検索判断を学習させる。具体的には、強化学習のロールアウト中にモデルが検索クエリを発行し、「正しいソースを取得できたか」「正しいパッセージを引用できたか」「正答を出せたか」をもとに報酬を与える。この試行錯誤を通じてモデルの挙動を調整する。
Neonとの統合では、学習時に数千の並列ロールアウトが繰り返しデータベースを呼び出す。Neonはストレージとコンピュートの分離アーキテクチャにより、このバースト負荷に対応する。CastformはPostgresをドキュメントストア、キーワードインデックス(BM25)、ベクトルインデックス、学習時の検索サービスとして一元的に再利用でき、用途別に別システムを維持する必要がない。
学習データの調達方法も特徴的だ。本番環境のエージェントトレース(実際の動作ログ)から学習データを生成し、デプロイ後に発生した失敗やエッジケースを新たな学習例として取り込める。CastformとNeonは学習ワークフローのサンプルをGitHubで公開しているとされるが、リポジトリの正確なURLは元記事に記載がなく、Neonベンチマークを再現するには情報が不足していると元記事は指摘している。
Castformのビジネスポジション
SeahはStanford大学でCS・経営科学を学び、リアルタイムコード共同編集スタートアップのTymを創業。RobloxによるTymの買収後はRobloxでソフトウェアエンジニアとして勤務し、その後Castformを立ち上げた。
Castformは2026年6月11日にオープンベータを開始したばかりで、Neonのケーススタディ公開まで約2ヶ月しか経っていない。
Castformが参入するpost-trainingサービス市場には、OpenPipe、Predibase、Prime Intellectといった競合がいる。OpenPipeはファインチューニングのマネージドサービス、PredibaseはLoRAベースの効率的なファインチューニングとサービング、Prime Intellectは分散学習インフラにそれぞれ強みを持つとされている。これらに共通する前提は「多くの本番エージェントは、幅広い汎用能力よりも、特定ワークフローでの安定した高精度を必要としている」という点だ。
Castformの差別化は、学習済みのモデルウェイトをエクスポートして他環境にデプロイできる点だ。Seahが売ろうとしているのは「特定の挙動に対するコントロール」であり、フロンティアモデルは幅広い推論が必要な場面に温存し、繰り返し発生する高頻度・大量のエージェント処理は自社管理のモデルに移すという使い分けが想定されている。
評価のまとめ
今回の結果が示す範囲は限定的だ。「特定の検索タスクにおいて、タスク特化後処理学習が小型オープンモデルと大型APIモデルの性能差を縮められる」という具体的な事例ではあるが、方法論が非公開である以上、他の検索ワークフローに適用可能かどうかは不明だ。ベンダー主導のベンチマークに対して懐疑的な目を向けることは当然だが、タスク特化型の小型モデルが経済的に実用的な選択肢になりうるという方向性は、産業としての関心が高まっているトレンドと一致している。
詳細はCastform and Neon say a 4B model matched GPT-5.6 Sol at 100x lower costを参照していただきたい。