8月4日、Omar Sohailが「SK hynix, In Collaboration With SanDisk, Unveils The New High Bandwidth Flash (HBF) Standard, Helping To Resolve AI Inference Bottlenecks, Targeting Up To 3TB/s Bandwidth」と題した記事を公開した。SK hynixとSanDiskが共同でAI推論のボトルネック解消を目的とした新メモリ標準「High Bandwidth Flash(HBF)」を発表したもので、HBMの高速性とSSDの大容量性を両立しようとする意欲的な規格だ。
HBMとSSDの間を埋める新標準、HBFとは
AIアクセラレータの性能を語るとき、常についてまわるのが「メモリ帯域幅」の問題だ。HBM(High Bandwidth Memory)は高速だが容量が限られ、エンタープライズSSDは大容量だが帯域幅でHBMに遠く及ばない。この両者の性能差が、AI推論のボトルネックになっている。
HBFはこのギャップを埋めるポジションを狙う。HBMと同様に複数のメモリダイを積層する構造を採用するが、DRAMの代わりにNANDフラッシュを使用することで大容量化を実現する。HBMの代替ではなく、あくまでも「補完」が役割だ。
- 最大容量: 512GB
- 帯域幅: 0.4TB/s〜3TB/s
- 接続規格: UCIe(Universal Chiplet Interconnect Express)対応
帯域幅のレンジ「0.4TB/s〜3TB/s」は幅が大きいが、これは実装グレードや積層構成によって変わるためだと記事では説明されており、エントリー構成から最大構成まで段階的な製品展開が想定されている。UCIeへの対応により、HBFはCPUやGPUに柔軟に接続できる。
500億パラメータのLLMを格納する、という使い方
記事中では具体的なユースケースが示されている。500億パラメータのAIモデルを例に取ると、500GBの容量が必要になる計算だ。なお、この数値は元記事が「1GBあたり10億パラメータを格納できる」という前提で示している試算であり、実際の必要容量は量子化精度(fp16では約2倍、int4では約半分など)によって大きく変わる点には注意が必要だ。
これをすべてHBMに載せるのはコスト面で現実的ではない。そこでHBFが登場する。即時の演算に必要なデータはHBMで処理しつつ、モデル全体をHBFに格納しておく構成が想定されている。LLMのサイズが膨らみ続ける昨今、モデルウェイトの「置き場所」の問題は各社が頭を抱えている課題であり、HBFはその解の一つとなりえる。
SK hynixのソリューション開発責任者であるKim Chun-sung氏は「メモリとストレージの境界を広げ、システム全体の効率を高める新しいアーキテクチャの構築に貢献する」とコメントしている。
競合はすでに動いている――SamsungのCMXアプローチ
SK hynixとSanDiskがHBFの普及に向けて動く一方、Samsungはすでに別のアプローチでNVIDIAとの関係を構築している。Samsungが開発・量産を進めるCMX(Computational Memory eXpansion)ソリューションは、最大500層積層を実現するV10/V11 NANDフラッシュを採用し、AIサーバーのGPUオフローディング性能向上を目指している。CMXはNVIDIAとの協業を軸に展開している点がHBFと大きく異なる戦略的特徴であり、容量・帯域幅・接続規格の詳細は現時点では公開されていない。
HBFとCMX、どちらのアプローチが業界に浸透するかはこれからの動向次第だ。両社ともにエコシステムの形成を目指しており、複数企業が互換製品を開発できる標準化を推進しているか、特定パートナーとの深い協業を選ぶかという戦略の違いが今後の分岐点になる。
まとめ
| HBF(SK hynix × SanDisk) | CMX(Samsung) | |
|---|---|---|
| ベース技術 | NANDフラッシュ積層 | V10/V11 NAND(最大500層) |
| 最大容量 | 512GB | 非公開 |
| 最大帯域幅 | 3TB/s(0.4TB/s〜、構成依存) | 非公開 |
| 主要パートナー | エコシステム全体への開放を目標 | NVIDIA(協業を軸に展開) |
| 接続規格 | UCIe対応 | 非公開 |
| 標準化戦略 | オープン標準として複数ベンダーへ展開 | クローズドな協業モデル |
HBFは標準化による広いエコシステム形成を戦略の核心に置く。SK hynixとSanDiskという異なるベンダーが共同で規格を策定した点は、特定ベンダーに依存しない普及戦略として読み取れる。CMXが詳細スペックを非公開としている以上、直接の性能比較はまだできないが、「オープンな標準化」対「特定パートナーとの深い協業」という構図は、HBMをめぐる覇権争いとも重なる興味深い対立軸だ。