11月22日、Sebastian Castellanosが「Thinking Machines Unveils Inkling 2 Mini, A Powerful 26B Parameter AI Model That Runs Locally On MacBooks With Just 32GB RAM」と題した記事を公開した。注目すべきは、26Bパラメータという小型モデルでありながら、中間レイヤーを繰り返し通過させる「ループドTransformer」によって推論深度を高め、クラウドなしでコーディングエージェントとして実用的に動作するという組み合わせだ。32GB搭載のMacBookで動き、フライト中の機内モードでフライトシミュレータを数分で生成するデモも披露されている。
26Bパラメータで32GB MacBookをフル活用できるローカルLLM
Thinking Machines Labが11月20日に発表したInkling 2 Miniは、26.4Bパラメータのオープンウェイトモデルだ。同社の既存モデルである「Inkling 2 Small」(594Bパラメータ)と比べると大幅に小さい。なお、「Small」が「Mini」より大きいという命名は一般的な慣習と逆に見えるが、元記事の記述通りであり、同社独自の系列名として理解されたい。コーディング・推論・エージェント系タスクで競合する大規模モデルと伍する性能を持つと主張している。
最大の特徴は、メモリフットプリントが約20GBであり、32GB以上の統合メモリを搭載したApple SiliconのMacでOllamaを通じてローカル実行できる点だ。クラウドAPIに依存せずに本格的なコーディングエージェントを動かせるモデルとして、実用的な選択肢になりうる。
アーキテクチャの核心:「ループする」Transformer
Inkling 2 Miniを特徴づける最も重要な技術的工夫は、ループドTransformerアーキテクチャだ。
通常のTransformerは各レイヤーを1回ずつ通過させるが、このモデルは異なる構成を採用している。
- 全体は24レイヤーのMoE(Mixture of Experts)Transformer構成
- 最初の6層と最後の6層は1回のみ実行
- 中間の12層は3回繰り返し実行
この結果、1トークン生成あたり48層相当の処理を、24層分のウェイトストレージで実現する。実効的なアクティブパラメータ数は1トークンあたり5.4Bとなり、メモリ消費を抑えながら計算量を増やせる構造だ。
平たく言えば、「次のトークンを出力する前に、内部でより長く考える」設計だ。パラメータ数を増やさずに推論深度を上げるアプローチとして注目に値する。
ベンチマーク:コーディング特化で際立つ数値
Thinking Machinesが公開しているベンチマーク結果は以下の通りだ(いずれも同社報告値であり、テスト構成の違いによる差異に注意が必要)。
| ベンチマーク | Inkling 2 Mini | Qwen3.8-27B |
|---|---|---|
| DeepSWE v1.1 | 48.2% | 42.2% |
| SWE-bench Pro v2 Hard | 77.9% | 73.8% |
| SWE-bench Verified | 79.2% | — |
| Vals Index v2.2 | 46.5% | — |
比較対象としてQwen3.8-27Bが選ばれているのは、パラメータ規模が近く(27B対26.4B)、オープンウェイトのコーディング系モデルとして現時点で同サイズ帯の代表的な存在であるためと考えられる。同サイズ帯での比較として、コーディング系ベンチマークでInkling 2 Miniが上回っている点が主張の核心だ。
Artificial Analysis Intelligence Indexスコアは20.1。コーディングエージェント系のベンチマークで同サイズ帯の競合を上回っている。
「フライト中にフライトシミュレータを作る」デモ
Thinking Machinesは実用性を示すデモとして、M5 Pro MacBook Pro(48GB)を機内モードにした状態でInkling 2 Miniをオフライン動作させ、数分でプレイアブルなフライトシミュレータを生成したケースを紹介している。
また、同モデルを使ったピクセルアートの街シミュレーション「Thinkyville」では、20体の自律エージェントがMacBook Pro 1台でオフライン動作し、各キャラクターが独立してスケジュールを立て、互いに対話する様子が示されている。
安全性の懸念:「考えるが見えない」問題
ループドTransformerには、AI安全性の観点で無視できない論点がある。中間層を繰り返し通過することで、明示的な推論ステップを書き出さずに問題を解ける能力が高まるという点だ。
AI安全性の文脈では、モデルが推論過程を外部に示さずに問題を解ける能力(no-CoT能力)の向上は、人間によるモニタリングの難化につながると懸念される。Chain of Thought(CoT)とは、モデルが解答に至るまでの思考ステップを逐次テキストとして出力する手法であり、その出力を人間が検査することで意図しない推論や誤りを検出しやすくなる。CoTなしで解ける能力が上がるということは、裏を返せば「検査できない推論」の範囲が広がることを意味する。
Thinking Machinesは可変ループ数の研究モデルで実験を行い、ループ回数が1回のとき16秒だったno-CoTタスク水平線が、3回では37秒に伸びたことを確認している。この「水平線」とは、モデルがCoTなしで解ける問題の複雑さの上限を示す指標だ。ループ回数が増えるほど、外部から推論が見えない状態でより難しい問題を解けるようになることを示している。
ただし同社は、現在のスケールでは書き出された推論は依然として理解可能であり、モニタリング可能性に意味のある低下は見られなかったと述べている。一方で、複雑な多ターン会話や制約の多い指示への対応が弱いという限界も認めている。
訓練とデプロイの詳細
訓練にはNVIDIA GB300 Grace Blackwell Ultraプラットフォームが使用されている。ウェイトの大部分は4ビットのNVFP4精度で訓練され、最終4層のみ8ビットのMXFP8精度を使用している。訓練時と同じ数値精度でデプロイするため、ポスト訓練量子化による変換損失が発生しない構造だ。
コンテキスト長は最大100万トークン、テキストと画像の入力をサポートする。NVIDIA DGX Sparkも公式サポート対象で、その他のGPU構成ではVRAM 32GB以上が推奨されている。
入手方法
Inkling 2 MiniはApache 2.0ライセンスで公開されている。
- ウェイトのダウンロード:Hugging Face
- ローカル実行:Ollama
- 推論・ファインチューニング:Tinker platform
詳細はThinking Machines Unveils Inkling 2 Mini, A Powerful 26B Parameter AI Model That Runs Locally On MacBooks With Just 32GB RAMを参照していただきたい。



