10月26日、webgpu.comが「Hugging Face Publishes 207 WebGPU Kernels for Browser AI」と題した記事を公開した。Hugging Faceがブラウザ上でのローカルAI推論を高速化する207件のWebGPUカーネルをオープンソースで公開したことを伝えている。ベンチマーク対象1,756ケースのうち両システムで出力が一致し信頼できる計測結果が得られた809ケースのみを集計対象とするという厳格な条件を課したうえで、幾何平均2.57倍のスピードアップを達成した点が特徴だ。

207件のWebGPUカーネルを一挙公開

Hugging Faceは、ブラウザ上でのローカルAI推論向けに207件のWebGPUカーネルを公開した。発表したのはNico MartinとJoshua Lochner（Xenova）の両氏で、ライセンスはApache 2.0だ。

収録されているのは、ブラウザ推論ランタイムが繰り返し必要とする低レベル演算だ。具体的には、行列積（MatMul）、正規化（LayerNormalization）、畳み込み（Convolution）、Attentionのプリミティブ、量子化、ブロードキャスト、テンソルレイアウト変換などが含まれる。

WebGPU（WebブラウザからGPUを直接利用するためのWeb標準API）はポータビリティを提供するが、それだけではデバイスごとに十分な性能を保証できない。今回の取り組みはモデルのデモではなく、その下位レイヤーとなる個別演算の高速化を狙った基盤整備だ。

なお、Hugging Faceはブラウザ上でTransformersモデルを動かすライブラリTransformers.jsを開発・公開しており、今回のカーネル群はそうしたランタイム層をさらに下から支える位置づけにある。従来ブラウザ上のML推論ではWebAssembly（Wasm）を使ったCPUベースの実行が主流だったが、WebGPUによってGPUの並列演算能力をブラウザから直接活用できるようになった。今回の取り組みはその路線をカーネルレベルで突き詰めるものだ。

単なるシェーダー集ではない

各カーネルはHugging Face Hub上の個別リポジトリとして公開されている。リポジトリには以下が含まれる。

• オペレーションの仕様を記述したマニフェスト
• メタデータとプロベナンス（来歴情報。カーネルがどのような経緯・方針で実装されたかを示す情報）
• 正確性テストとベンチマークケース
• パラメータ化されたWGSL（WebGPUのシェーディング言語）テンプレート

例としてai.onnx.Addカーネルは、多方向ブロードキャスト付きの要素ごとの加算を実装しており、同形状テンソル用パス、ベクトル化ブロードキャスト、スカラー処理、汎用ブロードキャストの4つのパスが分離されている。

アプリケーションからは、npmパッケージ@huggingface/kernelsのプレビュー版を通じてロードできる。

npm install @huggingface/kernels@preview

Apple M4での性能比較——ただし条件付き

Hugging FaceはApple M4 GPU上で、ONNX Runtime Web（Microsoftが開発するクロスプラットフォームML推論エンジン「ONNX Runtime」のWebブラウザ向け実装）の1.30.0開発版と比較した。なお1.30.0というバージョン番号は現時点では正式リリース前の開発版を指しており、安定版とは異なる点に注意が必要だ。

207演算・1,756ケースを対象に評価を開始したが、両システムで出力が一致し信頼できる計測結果が得られた809ケースのみが集計対象となった。残りのケースは出力の不一致や計測の不安定さにより除外されており、この絞り込み条件の厳しさ自体が、ブラウザ上のGPU推論がいかに環境依存で難しい領域かを示している。集計された809ケースの結果は以下のとおりだ。

主要演算ごとの改善率は次のとおりだ。

• Add: 3.52x
• Softmax: 2.11x
• LayerNormalization: 2.22x
• MatMul: 1.14x（改善は限定的）

一方、特定のワークロードでは極端な数値が出た。バイリニアEinsumでは10,000倍超、行方向CumSumでは301倍の改善が報告されている。ただしこれらは特殊ケースであり、全体の傾向を示すものではない。

Fleet——1台のGPUを超えたテスト基盤

同時に発表されたFleetは、訪問者のGPU上で正確性テストとパフォーマンス計測を実行するブラウザベースのテストツールだ。ユーザーの同意のもと、結果はデバイス固有の不具合や低速パスを検出するための証拠データとして収集される。

WGSLはApple M4で高速に動作しても、Intel、NVIDIA、モバイルGPUでは異なるワークグループサイズ、ベクトル化、メモリアクセスパターンが必要になる場合がある。GPUアーキテクチャの多様性はブラウザ推論の最大の課題のひとつであり、Fleetはこのデバイスごとのばらつきをブラウザ経由のクラウドソーシング的な手法で継続的に可視化・検証する仕組みだ。開発者が手元の1台だけでテストを完結させるのではなく、実際のエンドユーザー環境を網羅的にカバーできる点で、Fleet構想は今後のブラウザAI開発インフラとして注目に値する。

何が重要か

今回の公開で真に価値があるのは、207件という数よりパッケージング設計かもしれない。検査可能なWGSL、明示的な契約、正確性フィクスチャ、ベンチマークケース、プロベナンスがひとつのリポジトリにまとまった形で提供される。これによりブラウザ推論ランタイムは再利用可能な基盤を得て、開発者は参照実装を直接確認・計測・改善できる。カーネルの品質をコミュニティが検証・改善できるオープンな構造は、ブラウザAIのエコシステム全体を底上げする可能性を持つ。

詳細はHugging Face Publishes 207 WebGPU Kernels for Browser AIを参照していただきたい。