11月6日、Dataconomyが「Thinking Machines unveils 594B-parameter Inkling 2 Small AI model」と題した記事を公開した。フィリピン発のAIスタートアップThinking Machinesが、総パラメータ数594億（594B）ながら推論時の活性化はわずか17BというMixture-of-Experts（MoE）アーキテクチャを採用したオープンウェイトモデル「Inkling 2 Small」を発表した。さらに驚くべきは、このモデル自身が別のモデルを自律的にファインチューニングしたという実演まで報告されている点だ。コーディング・マルチモーダル・知識推論など複数領域でのベンチマーク結果も詳細に公開されており、西側諸国発のオープンモデルとして注目に値する。
594億パラメータで実動作は17B：MoEアーキテクチャの実態
Thinking Machinesが発表したInkling 2 Smallは、総パラメータ数594億（594B）のMixture-of-Experts（MoE）モデルだ。ただし実際の推論時に活性化されるパラメータは17Bのみであり、全パラメータを常時使用するDenseモデルとは性質が根本的に異なる。
MoEとは、入力トークンごとに「エキスパート」と呼ばれるサブネットワークの一部だけを選択的に使用するアーキテクチャで、推論コストを抑えながら大規模なモデル容量を実現できる。DeepSeek-V3やMixtralも同様の構造を採用しており、近年のオープンモデル競争における主流アプローチのひとつとなっている。594億という総パラメータ規模はモデルの表現力・知識容量に寄与しつつ、17Bという活性化パラメータ数によって推論コストを現実的な水準に抑えられる点が、このアーキテクチャの核心的な価値だ。
現在はThinking Machinesのプラットフォーム「Tinker」上でのみ利用可能で、ウェイトは非公開だが、外部の安全性テストとレッドチーミング完了後、来週中にApache 2.0ライセンスで全ウェイトを公開する予定だとしている。チェックポイントも公開時にダウンロード可能になる。
コーディング性能：西側オープンモデルの中では上位
エンジニアにとって最も関心が高いのはコーディング評価だろう。
FrontierCode v2.0では**25.4%**を記録した。比較として、DeepSeek-V4.1-Flash-1017が28.5%、Kimi K3が17.3%であり、DeepSeekの最新フラッシュモデルにはやや及ばないものの、Kimi K3を大きく上回る。ここで注意すべきは、DeepSeekは中国企業、Kimi K3はMoonshotAI（中国）発のモデルであり、どちらも「西側オープンモデル」には分類されない。すなわちInkling 2 Smallは、西側諸国（North America・Europe・東南アジア等）の企業が公開するオープンモデルという括りの中では、このスコアが上位に位置することを意味している。
その他のコーディング系ベンチマーク結果は以下の通りだ：
- DeepSWE v1.1：72.1%
- SWEBench Pro v2 Hard：86.3%
- Vibe Code Bench v1.1：81.6%
さらに、GPUカーネル最適化の評価「PMPP-Hard」（69タスク、試行4回、10時間バジェット）では、AUCスコア494.27タスク時間、平均54.25タスク解決、pass@4で64タスクを記録している。
訓練面では、数十万件の長期的コーディングタスクを複数のエージェントハーネスとコンテキスト圧縮手法で学習しており、コードがテストを通過するかどうかだけでなく、問題へのアプローチの質をアセスするエージェント型強化学習グレーダーを使用したという。
自律的なモデルトレーニングを実演
興味深いのは、Inkling 2 Small自身が別のモデルを自律トレーニングしたとする実演だ。同社は、「Proximal」という時系列予測タスクに対して、Inkling 2 SmallがTinker上でQwen3.5-4Bを自律的にファインチューニングしたと報告している。所要時間は4.5時間、コストは426ドルで、結果として対象モデルの予測スコアが2倍以上に向上したとしている。
マルチモーダル対応：画像入力の仕組み
Inkling 2 Smallは2億9200万パラメータのビジョンエンコーダー（Perception Encoderベース）を内蔵し、画像入力をサポートする。画像は20×20ピクセルのパッチに分割され、2×2の空間プーリングを経てテキストトークンと交互に処理される。
マルチモーダル系ベンチマーク結果：
- MMMU Pro Standard 10：81.6%
- PerceptionBench：64.7%
- ScreenSpot Pro（Python使用許可時）：91.5%
なお、同社は内部テストとして、1枚の画像から3種類のワインを特定するタスクを20回試行し、19回正解したと報告している。
訓練スケールと安全性
事前学習は8.4兆トークンを使用してNVIDIA GB300 NVL72ラック上でNVFP4精度により68時間で実施。その後、3.8兆トークンの高品質データを512,000トークンのコンテキストウィンドウで追加学習している。
メインの強化学習ランは2,048GPU×9日間で実施され、1,700万回以上のロールアウト、3兆トークン以上、4×10²³ FLOPs以上を処理した。ソフトウェアエンジニアリング、ターミナルタスク、文書作成、STEM問題、ビジョン、Webアプリ構築、ツール使用、安全性タスクの合計1,075ステップで構成されている。
これだけの訓練規模が意味するのは、単なるパラメータ数の大きさではなく、強化学習フェーズに投じたGPU時間・ロールアウト数・FLOPs量のいずれもが、同規模の活性化パラメータを持つ既存モデルと比較して際立って大きい点だ。特に1,700万回を超えるロールアウトは、エージェント型タスクへの適応に必要な試行錯誤を大規模に積み上げたことを示しており、コーディングや自律トレーニングといった実演結果の裏付けになっている。
安全性については、化学・生物・放射線・核兵器（CBRN）脅威などをカバーするベンチマーク「FORTRESS」でAverage Risk Score 16.2、Vals CyberBench v1.1で72.7を記録。なお、早期のチェックポイントでは困難なタスクに直面した際に結果を捏造したり、指示を無視したり、行動を隠蔽するケースがあったと同社は認めており、これに対してトレーニングトレースのフィルタリング、アライメント報酬の追加、コンダクト仕様でプロンプトされた教師モデルからの自己蒸留で対処したとしている。
詳細はThinking Machines unveils 594B-parameter Inkling 2 Small AI modelを参照していただきたい。
