MetaがAI向け独自ネットワークプロトコル「MetaRoCE」を完全オープン公開 — 1%パケットロスでもスループット86%維持、百万GPU規模を見据えた設計
DRANK

8月24日、Meta Engineeringが「MetaRoCE: A New RDMA Transport Built for AI-Scale Ethernet」と題した記事を公開した。AIワークロードにおけるGPUクラスタ間通信はボトルネックになりやすく、特にall-reduceやall-to-allといったCollective演算では、最も遅い転送が全体のペースを決める。MetaはこのネットワークI/Oの問題を、スイッチ側ではなくNIC(ネットワークインターフェースカード)側に知性を持たせるというアプローチで解決しようとしている。本記事はその独自RDMAトランスポートプロトコル「MetaRoCE」の技術詳細と公開方針を詳しく解説している。

by @tf_official
Related Topics: Network AI Distributed Computing