7月14日、IEEE Spectrumが「The Memory in Your Thumb Drive Could Fix AI's Big Problem」と題した記事を公開した。HBM（High Bandwidth Memory）の1スタックあたり最大3.6TB/sに対し、NANDフラッシュは1ダイあたり最大4.8GB/s——約750倍の差がある。そのNANDフラッシュを積層・高帯域化することで、AI推論のメモリボトルネックを解消しようとする「High Bandwidth Flash（HBF）」の開発・標準化が始動している。

AIのメモリ問題とは何か

LLM（大規模言語モデル）はパラメータ数が増えるにつれ、膨大なメモリを必要とする。現状、高性能なAI推論にはHBM（High Bandwidth Memory）が使われており、NVIDIAのGPUなどに搭載されている。しかし需要の急増に供給が追いついておらず、メモリメーカー各社は新工場の建設を急いでいるが、最初の本格稼働は2027年とされている。

こうした状況の中で浮上してきたのが、HBFという選択肢だ。

HBFとは何か

HBF（High Bandwidth Flash）は、NANDフラッシュメモリを複数枚垂直に積層することで帯域幅を大幅に引き上げる技術だ。HBM（DRAMを積層して高帯域化したメモリ）と同じアプローチをNANDに適用したものと考えるとわかりやすい。

NANDフラッシュは通常、SDカードやSSD、スマートフォンの内部ストレージに使われる。電源を切ってもデータが消えない不揮発性であり、同じ面積に大量のデータを格納できる。一方でデータの書き込みが遅いという欠点がある。絶縁ゲートへの電荷の出し入れが、キャパシタへの充電より時間がかかるためだ。

最新のフラッシュインターフェース規格（ONFI 6.0）でも、帯域幅は1ダイあたり最大4.8GB/sにとどまる。対してDDR5は1DIMMあたり最大70.4GB/s、HBM4Eは元記事に記載されているスペックによれば1スタックあたり最大3.6TB/sと、NANDの約750倍の帯域幅を持つ。

半導体市場調査会社Objective AnalysisのゼネラルディレクターであるJim Handyはこの点について率直に語る。

「"どう考えてもおかしくないか？フラッシュは激遅だろ"と言われる。でも書き込みは確かにひどく遅い。読み出しなら、工夫次第でかなり速くできる。High Bandwidth Flashはその工夫をやろうとしている」

SanDiskが公開しているファクトシートによれば、第1世代HBFは最大16枚のNANDダイを積層し、1スタックあたり最大512GBの容量と最大1.6TB/sの読み出し帯域幅を実現する見込みだ。ロードマップでは第2世代が2TB/s、第3世代が3.2TB/sを目標としている。

なぜ「推論」に向いているのか

HBFがAIに有望とされる理由は、AIの学習（Training）と推論（Inference）の非対称性にある。

学習フェーズでは、モデルの重みを繰り返し読み書きしながらバックプロパゲーションを行うため、書き込み速度が重要になる。フラッシュの遅い書き込みは致命的だ。

一方、推論フェーズではモデルの重みは固定されて事実上読み出し専用になる。SK HynixのメモリシステムリサーチSVPであるHoshik Kimはこう説明する。

「推論環境では、数十億パラメータの静的なモデルウェイトや事前計算済みKVキャッシュといった大規模かつ読み出し中心のデータを、HBFの階層に安全に格納できる。これによりHBMを高速スクラッチパッドとして機能させることが可能になる」

KVキャッシュとは、Transformerモデルが自己注意機構（Self-Attention）で過去のトークンを参照する際に計算結果を再利用するためのメモリ領域であり、モデルのコンテキスト長が伸びるほど膨大な容量を占める。これをHBFに退避させることで、高価で容量の限られたHBMを演算の直接処理に集中させられる。

Jim Handyはこう総括する。「うまく設計すれば、これで十分なパフォーマンスが出せる。基本的なキャッシング手法だ。広く普及すると見ている」。

標準化の動きと商用化の見通し

2026年2月25日、SanDiskとSK HynixはOpen Compute Project（OCP）のもとでHBFの標準化を進めるワークグループの発足イベントを開催した。OCPはデータセンター向けハードウェア仕様を定める業界団体であり、MetaやMicrosoftなども参加している。ただし、標準仕様の公開スケジュールはまだ設定されていない。

OCPでの標準化は業界横断的な採用を促す上で重要なステップではあるが、仕様策定から製品化・普及まではさらに時間を要するのが通例だ。標準化プロセスが商品化に直結するわけではなく、実際の製品ロードマップはメーカー各社の開発進捗に依存する。発足イベントから約5カ月が経過した現時点でも仕様公開の目処が立っていない点は、標準化の進捗として慎重に見る必要がある。

SK HynixはHBMで過去最高の収益を記録している中、なぜ安価な代替品となりうるHBFを推進するのか、という疑問は自然に浮かぶ。Kimはその点を「競合ではなく補完的なツール」と位置づけ、HBFによってHBMの容量ボトルネックを緩和することで、大規模モデルの実行に必要なアクセラレータの台数を削減し、エネルギー効率とコストの改善につながると述べている。

商用出荷の時期について元記事（2026年7月14日公開）は「少なくとも1年以上先」と記載しており、広範な普及にはさらに数年を要するとみられる。

詳細はThe Memory in Your Thumb Drive Could Fix AI's Big Problemを参照していただきたい。