9月12日、latent.spaceが「[AINews] DeepSeek v4.1-Flash: 763B-P8B-D16B novel causal Encoder–Decoder architecture with vision marks the Return of the Whale」と題した記事を公開した。この記事では、DeepSeekが新たなアーキテクチャを採用した大規模モデル「DeepSeek V4.1-Flash」を発表し、その技術的詳細と評価結果について詳しく紹介されている。

「v4.1」という控えめな名前に騙されるな

バージョン番号だけを見ると地味なアップデートに見えるが、実態はまるで別物だ。Sebastian Raschkaは「DeepSeek V5と呼ぶべきだった」と明言しており、アーキテクチャの変更は過去世代からの断絶に近い。

最大の変更点はCausal Encoder–Decoder（因果的エンコーダ・デコーダ）アーキテクチャの採用だ。従来のTransformerベースのLLMはデコーダ専用（Decoder-only）が主流だったが、V4.1-Flashはプレフィル（入力トークン処理）とデコード（出力トークン生成）で異なるアクティブパラメータ数を割り当てる設計になっている。

• 総パラメータ数: 763B（7,630億）
• プレフィル時のアクティブパラメータ: 8B
• デコード時のアクティブパラメータ: 16B

これを記事では DeepSeek v4.1-Flash: 763B-P8B-D16B と表記している。総パラメータ763Bに対してアクティブに使われるのは最大16B、比率にすると**約2%**という極端な設計だ。ただし、これはMoE（Mixture of Experts）モデルにおけるエキスパート選択のスパース性とは異なる概念であることに注意が必要だ。MoEのスパース性が「どのエキスパートを活性化するか」の選択であるのに対し、本モデルのCausal Enc-Dec設計は「プレフィルとデコードのフェーズごとに異なるパラメータ群を割り当てる」という構造上の分離であり、推論フェーズの役割分担が設計の核心にある。MoEモデルでも通常は数%〜十数%のアクティブパラメータを使うことが多く、この設計がいかに推論効率を重視しているかがわかる。

KVキャッシュの削減が鍵

この設計が実際に効くのは、KVキャッシュ（Key-Valueキャッシュ）のフットプリント削減だ。Transformerの推論において、長いコンテキストを処理する際のメモリ消費の大部分を占めるのがKVキャッシュであり、ここを圧縮できれば長文対応・エージェント用途での運用コストが大きく下がる。

V4.1-Flashでは、Sliding-Window Attention Bounded Replay（スライディングウィンドウ注意機構に境界付きリプレイを組み合わせた手法）などの工夫により、KVキャッシュのフットプリントをV4 Flash比で最大1/8に削減したと報告されている。実測値として約890バイト/トークンというKVサイズも示されており、長時間稼働するエージェントや長文処理に有利な設計だ。

「KVキャッシュ圧縮への執着が、超効率的なフロンティアモデルを生み出した事例研究だ」
— @nrehiew_

また、Stochastic ChasamはFP4 KVキャッシュ（4ビット浮動小数点によるキャッシュ量子化）環境下でも他モデルより良好なスコアを示す点を取り上げ、QAT（量子化認識学習）がKVキャッシュに適用されている可能性を指摘している。

価格とベンチマーク

コスト面でも目を引く数字が並ぶ。

ベンチマーク上の評価については、Artificial AnalysisのAIインテリジェンス指数で40点という数値が示されている。この指数はArtificial Analysisが複数のベンチマークを統合して算出するもので、満点は100点。記事執筆時点でGPT-4oが約60点台、上位オープンウェイトモデルが50点台前後に位置しており、40点はGLM-5.3-Flashを下回り、V4 Proを上回る水準だ。トップクラスには届かないが、コスト調整後の性能比では別の評価軸がある。

コスト効率の指標として、Vals Index（実用タスクへの対応能力をAPIコストで割り、コストパフォーマンスを定量化した評価指標）での評価ではオープンウェイトモデル1位という結果も出ている。なお「1テストあたり$0.30」という数値はVals Indexにおける評価コストの実測値であり、同指標でどれだけ安価に実用性能を引き出せるかを示す文脈で引用されている。

「一部ベンチマークで他モデルに劣る」という批評もあるが、記事はその点に正面から言及している。現行ベンチマークはV4.1が目指す「コンテキストの創造的・効率的活用」を測定できていないという立場だ。

ビジョン対応を標準搭載

従来のDeepSeekは視覚対応を別モデルとして提供してきたが、V4.1-Flashはテキストと画像の入力をネイティブにサポートする。マルチモーダル対応に際し、ビジョンエンコーダ側は保守的な設計で、バックボーンに視覚トークンを渡す構成。ピクセルアンシャッフルに一般的な2×2ではなく3×3を採用している点が特徴的だと指摘されている。

ポストトレーニングに関する興味深い示唆

アーキテクチャ以外で注目されているのが、ポストトレーニング（SFT・RLHFなど事前学習後の調整工程）に関するDeepSeekの見解だ。テックレポートでは「現時点では、新しいポストトレーニングアルゴリズムを研究するよりも、データ品質を向上させる方がROIが高い」という主旨の記述があり、これを受けてJasper Luは「新アルゴリズム探索の時代の終わりを示唆している」と分析している。

「DeepSeekほど新アルゴリズムを先導してきたラボが、今はデータ品質の方がROIが高いと言っている。これはしばらく前から真実だったと思う」
— @lu__jasper

普及状況

リリース初日からBasetenがデイゼロサポートを表明。OllamaはMaxおよびTeamアカウント向けに展開を開始し、後にProプランにも拡大している。現時点ではAPIアクセスは米国向けで、ZDR（Zero Data Retention：入力・出力データをサーバー側に保持しないプライバシー保護オプション）に対応している。

詳細は[AINews] DeepSeek v4.1-Flash: 763B-P8B-D16B novel causal Encoder–Decoder architecture with vision marks the Return of the Whaleを参照していただきたい。