NVIDIA・AMD・Intel・Google・Metaが競合を超えて同一のオープンソースAI推論エンジンに集結 — SGLang Consortiumが発足
DRANK

11月12日、LMSYS Orgが「LMSYS Org Launches SGLang Consortium with NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal and RadixArk to Advance Open-Source AI Inference」と題した記事を公開した。オープンソースAI推論エンジン「SGLang」を中心に、主要ハードウェア・クラウドベンダーが結集したコンソーシアムの設立について詳しく紹介されている。

by @tf_official
Related Topics: AI Machine Learning CUDA