11月12日、LMSYS Orgが「LMSYS Org Launches SGLang Consortium with NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal and RadixArk to Advance Open-Source AI Inference」と題した記事を公開した。オープンソースAI推論エンジン「SGLang」を中心に、主要ハードウェア・クラウドベンダーが結集したコンソーシアムの設立について詳しく紹介されている。
NVIDIA・AMD・Intel・Google・Metaが一堂に会したSGLangコンソーシアム
2026年11月12日、非営利団体LMSYS Orgは、SGLang Consortiumの設立を発表した。創設メンバーはNVIDIA、AMD、Intel、Google、Meta、Cloudflare、Modal、RadixArkの8社。サンフランシスコで開催された「SGLang Summit」の基調講演で正式に発表された。
SGLang(Structured Generation Languageの略)は、LLMおよびビジョン言語モデルの高速サービングを目的としたオープンソースのフルスタック推論エンジンである。RadixAttentionによるKVキャッシュの効率的な再利用や、Continuous Batchingによるスループット最大化など、推論パフォーマンスを高めるための機能を複数備えており、すでに数十万台規模のGPUで稼働している。Meta、Microsoft、Google、Amazon、Cloudflare、Modalなどの本番環境への導入実績もある。
ここで注目すべきは、競合するハードウェアベンダー(NVIDIA・AMD・Intel)と、競合するクラウド・AIプラットフォーム(Google・Meta)が同一のオープンソースプロジェクトに名を連ねたという点だ。これほどの顔ぶれが一つの推論エンジンに集結するのは珍しい。
なぜ今、推論エンジンなのか
背景として、AIコンピュートにおける推論の比重が急速に高まっている。Deloitteの調査によれば、2026年にはAIコンピュート全体の約3分の2を推論が占める見込みで、2025年の約半分から増加している。
こうした状況を踏まえ、SGLangは複数のハードウェアアーキテクチャ上で動作するポータブルな推論基盤として、各社にとって重要なインフラ候補となっている。
コンソーシアムの具体的な運営方法
コンソーシアムは単なる「賛同企業のリスト」ではなく、実際の共同エンジニアリング活動を軸に設計されている。主な仕組みは以下の通り。
- 各創設メンバーは技術担当者を1名指定し、年2回のロードマップ会議に参加
- 参加形態はエンジニアリング人材の提供、デプロイフィードバック、テストリソース、共同開発など柔軟に対応
- 重点領域はフロンティアモデル対応、推論・マルチモーダルワークロード、分散推論、ハードウェア最適化
- 技術的な意思決定とコードの受け入れ判断はSGLangのメンテナーが保持し、プロジェクト自体はコミュニティ全体に開かれた状態を維持する
技術的な主権をメンテナー側が持ち続ける設計は、大企業の参入によってプロジェクトの方向性が歪められるリスクを意識したものと読める。
各社のコメント
SGLangの共著者であり、RadixArkの共同創業者兼CEOでもあるYing Sheng氏は次のように述べている。
「最大規模でSGLangを運用しているチームは、次に推論が何を必要とするかを誰よりも早く把握している。新たなデータセンター建設の課題を考えると、AIの効率を高めるソフトウェアアプローチが非常に重要になる」
NVIDIAのIan Buck副社長(ハイパースケール・HPC担当)は「優れたソフトウェアは開発者がNVIDIAのコンピュートからより多くの性能を引き出す助けになる」とコメント。推論ソフトウェアの質がハードウェア資産の価値に直結するという認識が、競合他社との連携に踏み切った背景にあるとみられる。
AMDのRamine Roane副社長(AIアプリケーション担当)は「SGLangはAMD Instinct GPUを含む複数のハードウェアで動作する高速なオープン推論エンジン」と述べ、ハードウェアを跨いだポータビリティを強調した。AMD・Intelにとっては、SGLangのマルチハードウェア対応を育てることが自社GPUの採用拡大にも直結するという利害の一致がある。
SGLang Summitとの同時開催
コンソーシアムの発表は、サンフランシスコのFort Mason Center for Arts & Cultureで2026年11月12〜13日に開催された初のSGLang専門カンファレンス「SGLang Summit」の基調講演と同時に行われた。AIハードウェア、モデル、インフラ、アプリケーション分野から100名以上の登壇者が参加し、強化学習、マルチモーダルモデル、ハードウェアプラットフォームにわたるSGLangのエコシステムがテーマとなっている。