9月11日、Rohail Saleemが「DeepSeek V4.1 Flash Beats OpenAI's GPT-5.6 Sol And Anthropic's Opus 5 On Coding And Cybersecurity At An ~86x Lower Cost, While Reducing HBM Requirements By 3.8x And SSD Ones By 8x」と題した記事を公開した。DeepSeekの新モデル「V4.1 Flash」がコーディング・サイバーセキュリティ分野でOpenAIやAnthropicの最上位モデルを上回る性能を、約86分の1のコストで実現したという内容だ。
コスト差が桁違い:86分の1で上位モデルを超える
DeepSeekが新たに公開したV4.1 Flashは、コーディングとサイバーセキュリティの複数のベンチマーク(LiveCodeBench・CyberSecEvalを含む)で、OpenAIのGPT-5.6 SolとAnthropicのClaude Opus 5を上回る結果を出した。
衝撃的なのは性能そのものではなく、コスト差だ。V4.1 FlashはGPT-5.6 SolやClaude Opus 5の約86分の1のコストで同等以上の性能を発揮する。同じ中国勢の競合と比べても、GLM-5.3の約4分の1、Kimi K3の約10分の1という水準だ。
さらに驚くべき数字がある。OpenDesignの日常設計タスク向けベンチマーク(UIデザインや図面作成といった実務的なマルチモーダルタスクを対象とした評価指標)では、V4.1 FlashはOpenAI(ChatGPTやGPT-4シリーズを擁するAI企業)の研究用最先端モデルGPT-6 Astraの性能の**98%を達成しながら、そのコストはわずか1.4%**に過ぎない。
なぜここまでコストを削れるのか:アーキテクチャの要点
V4.1 Flashのパラメータ数は合計7,180億(バックボーン5,520億+後述のEngram記憶1,960億)だが、推論時に実際に起動するパラメータは一部に過ぎない。これを実現する主要な設計要素を順に見ていく。
MoE(Mixture of Experts)による選択的な計算
V4.1 FlashはマルチモーダルMoE(Mixture of Experts)モデルだ。MoEとは、複数の「専門家」サブネットワークを用意し、入力に応じて一部のみを選択的に起動するアーキテクチャを指す。V4.1 Flashでは384の専門家ルーターと1つの共有専門家で構成され、タスクに応じて必要な専門家だけを起動する。調理の例で言えば、スフレを作るときにデザート担当のシェフだけを呼び出す仕組みだ。
Causal Encoder-Decoder(CED)構造でプリフィルを分離
通常のLLMは、プロンプトの読み込み(プリフィル)と応答生成(デコード)に同一のレイヤー群を使う。V4.1 Flashは40レイヤーをエンコーダー20層+デコーダー20層に分割する。
- エンコーダー:プロンプトを効率よく読み込み、80億パラメータを使用
- デコーダー:応答を生成し、160億パラメータを使用
- KVキャッシュ(注意機構の計算結果を保存するメモリ)はエンコーダーの末尾で1本のマスターシートとして渡される
この構造により、入力量が多いエージェント系ワークロードでのコスト効率が大きく改善される。
CSA2・FP4・SWA Bounded ReplayによるKVキャッシュ圧縮
長文コンテキストを処理する際に問題になるのがKVキャッシュの肥大化だ。V4.1 Flashはこれに対し3つの手法を組み合わせる。
- Compressed Sparse Attention 2(CSA2):全トークンを均等に記録するのではなく、重要度の高い部分だけを圧縮保存し、レイヤー間で共有する
- FP4精度:数値表現を4ビット浮動小数点に圧縮し、メモリ使用量を削減する
- SWA Bounded Replay:ユーザーセッションが中断した場合、100万トークン全体を再計算するのではなく、直近128トークンだけを「リプレイ」して状態を復元する
これらの組み合わせにより、V4.1 FlashのKVキャッシュは1トークンあたりわずか890バイトまで圧縮されている。前世代のV4 Flashと比べ、**HBM(High Bandwidth Memory、GPU内の高速メモリ)要件を3.8分の1、SSD要件を8分の1**に削減した。
Engram条件付きメモリ:1,960億パラメータをDRAMに退避
V4.1 Flashは「Engram記憶」と呼ばれる大規模な静的ルックアップテーブルを持つ。国名・首都・一般的なフレーズなどの知識を1,960億パラメータ規模で保持する。
これをGPUの高価なHBMに置くのはコスト的に現実的でない。そこでDeepSeekは、このテーブルを通常の安価な**DRAM**にオフロードした。さらに「コンテキストゲート」が現在のタスクとの関連性を判断し、不要な知識の参照を省略する。
DSpark投機的デコーディングで最大120トークン/秒
投機的デコーディングは、小型の「ドラフトモデル」が次の数トークンを予測し、大型モデルがまとめて検証することで高速化する手法だ。ただし、トークン列の後半になるほどドラフトの精度が落ちる「Suffix Decay」が課題だった。
DeepSeekが導入したDSparkは、各予測の信頼度を直前の予測結果に基づいてリアルタイムにスコアリングし、精度が下がりそうな場合は予測範囲を動的に縮小する。これにより最適ハードウェア上で最大120トークン/秒の推論速度を実現する。
まとめ
V4.1 Flashが示すのは、パラメータ数の大きさと実用性能・コストは必ずしも比例しないという事実だ。CED構造によるプリフィル分離、CSA2によるKVキャッシュ圧縮、DRAMへのEngram退避、DSpark投機的デコーディングというそれぞれの工夫が組み合わさり、HBM消費を抑えながら上位モデルに競合する性能を実現している。コーディングやセキュリティタスクに高性能LLMを活用したいエンジニアにとって、推論コストの観点から無視できない選択肢となった。