8月2日、TechRadarが「Meta slashes AI loading times from hours to minutes after rebuilding storage」と題した記事を公開した。この記事では、Metaがストレージアーキテクチャを刷新し、AIトレーニング前のデータ読み込み時間を数時間から数分に短縮した取り組みについて詳しく紹介されている。
GPUが何時間も待たされていた
AIインフラの世界では「GPUをいかに遊ばせないか」が最大のコスト問題だ。MetaのエンジニアはこのGPUのアイドル時間の主因がストレージのボトルネックにあると断定し、ストレージ層を根本から作り直した。
Metaは現在、Facebook、Instagram、Reality Labs、Meta AI、広告システム、データウェアハウスなど広範なサービスを支えるために、数百クラスターにわたるエクサバイトスケールのストレージを運用している。その基盤となるのが**Tectonic**と呼ばれる独自のストレージ層で、オブジェクトストレージ、ファイルシステム、ブロックデバイス、HDDとSSDへのデータ配置を一括管理する。
問題は、GPUサーバーがストレージにデータを要求する際、複数の層にまたがるメタデータの検索が繰り返し発生し、AIトレーニングパイプラインに遅延が生じていたことだ。
刷新した設計：メタデータの統合とダイレクトストリーミング
Metaはまずメタデータサブシステムを再構築した。従来の複雑なルックアップを廃止し、**ZippyDB（Meta製の分散KVストア）をバックエンドに持つ統合スキーマへ移行。メタデータへのアクセスレイテンシを1〜2ms**以内に抑えた。
データ転送の経路も変えた。従来はすべての転送をアプリケーションサーバー経由でルーティングしていたが、新設計ではTectonicストレージ層から直接ストリーミングできる組み込みクライアントを採用した。
さらに分散AI環境への対応として、GPUクラスターの近傍にリージョナルBLOBストレージを配置し、遠距離インフラ間のデータ転送による遅延を削減。GPUホストの未使用メモリを活用した分散キャッシュも導入し、**平均キャッシュヒット率80%**を達成した。
SSDキャッシュ導入で「150分→10分」「89時間→3時間」
最も具体的な成果が出たのが、AIトレーニング開始前のデータ取り込みフェーズだ。研究者がBLOBストレージからGPU施設へ巨大なデータセットのスナップショットを転送する工程は、従来から大きなボトルネックだった。
Metaはここに多層キャッシュを導入した：
- L1：GPUメモリ
- L2：GPUホスト内のSSD
- L3：リージョナルのフラッシュバックBLOBストレージ
- 権威ソース：従来のHDDストレージ
頻繁にアクセスされるデータをより上位のキャッシュ層で処理することで、低速なHDDへのアクセスが必要になるケースを大幅に減らした。
結果として得られた数字は明確だ。
- 以前は150分かかっていたデータ読み込みが10分に短縮
- 別のジョブでは89時間かかっていた処理が3時間強で完了
「安いHDDがGPUを遊ばせるより高くつく」という逆転の発想
この取り組みに対して、アナリストのJukan氏（記事中ではCitrini所属と紹介されているが、TechRadar記事上の記載に基づく）は示唆に富む視点を提示している。従来、大容量ストレージの評価基準は「テラバイト単価」が主流だったが、データの到着が遅すぎてGPUがアイドル状態になるコストは、安価なストレージで節約できるコストを上回りうる、という論点だ。
裏を返せば、フラッシュストレージの時間あたりコストがGPUのアイドルコストを下回る局面では、SSDへの投資は経済合理性があるということになる。高性能GPUの単価が上がり続ける今、ストレージの選定基準そのものを見直す必要があるという議論だ。
まとめ
Metaの取り組みは、大規模AIインフラにおけるコンピュート最適化の重心がストレージ層に移りつつあることを示す事例だ。アーキテクチャの変更点を整理すると、①メタデータの統合・高速化、②アプリケーションサーバーを介さないダイレクトストリーミング、③GPU近傍へのリージョナルBLOBストレージ配置、④L1〜L3の多層SSDキャッシュ、という4本柱になる。
今回の施策が示す本質は、「ストレージは安く大きく」という従来の調達原則が、GPU主体の大規模AIワークロードには必ずしも通用しなくなっているという点だ。コスト最適化の議論がGPU単体の稼働率を軸に展開される時代において、ストレージ設計の巧拙がインフラ全体の経済性を左右するという視点は、Metaほどの規模でなくとも参考になりうる。
詳細はMeta slashes AI loading times from hours to minutes after rebuilding storageを参照していただきたい。
