7月9日、MacRumorsが「Apple Exploring Ways to Run Much Larger AI Models Directly on iPhones」と題した記事を公開した。スマートフォン上でクラウドに頼らず大規模AIを動かすという、業界全体が直面する課題に対し、Appleが具体的なスタートアップとの協議を進めているという報道だ。オンデバイスAIの限界をどう突破するか——その答えの一端が見え始めている。
AppleがPrismMLと接触——iPhone上で27Bパラメータモデルを動かす
The Informationの報道によると、Appleはスタートアップ企業PrismMLと複数回の会合を持ち、同社技術のライセンス活用を検討しているという。
PrismMLが達成したのは、AlibabaのオープンソースLLM(大規模言語モデル)であるQwen 3(27Bパラメータ版)をiPhone 17 Pro上で完全に動作させることだ。このモデルのパラメータ数は270億(27B)に達する。なお、元記事では「Qwen 3.6」という表記が用いられているが、これはQwenシリーズの27Bパラメータモデルを指すものと見られる。Qwenシリーズの詳細はAlibaba CloudのQwen公式ページで確認できる。
Appleの現行オンデバイスモデルとの違い
現在、iOS 26のSiriの表現力豊かな音声や文字起こし精度の向上を支えているAppleのオンデバイスモデルはAFM 3 Core Advanced(200億パラメータ)だ。iPhone 17 ProおよびiPhone Airで動作する。
パラメータ数だけ見るとPrismMLのモデルの方が大きいが、より重要な違いはアーキテクチャにある。
AFM 3 Core Advancedはスパースアーキテクチャを採用しており、200億のパラメータのうち推論時に実際に使われるのは10億〜40億のみだ。スパースアーキテクチャとは、入力に応じて必要なパラメータだけを選択的に活性化する設計で、メモリや計算リソースを節約できる反面、モデルの能力を常にフルに引き出せるわけではない。
一方、PrismMLが動かしているQwen 3(27B)は270億のパラメータがすべて同時にアクティブになるDense(密)アーキテクチャだ。同じiPhone上で、実質的に大幅に多くの計算を行える構成になっている。
記事では両者の差を以下のように説明している。
"One new on-device Apple model has 20 billion parameters but uses a so-called sparse architecture, in which only 1 billion to 4 billion parameters are active at a time. In the case of PrismML's on-device model, all 27 billion parameters are active at the same time."
— The Information
PrismMLの技術——量子化・圧縮によるモデル軽量化
PrismMLの核心は、大規模モデルをモバイルデバイスのメモリと計算能力に収めるための量子化(Quantization)および圧縮技術にある。
量子化とは、モデルの重みを表現するデータの精度を下げることでファイルサイズと演算コストを削減する手法だ。一般的にはFP32(32ビット浮動小数点)からINT8(8ビット整数)やINT4などへの変換が行われる。精度を下げると品質が落ちるトレードオフがあるが、PrismMLはこの品質劣化を最小限に抑える独自手法を持つとされている。27Bという大規模なDenseモデルをiPhone 17 Proの限られたメモリ(RAMは報告によれば12GB程度)に収めて動作させた事実は、この技術の実効性を示す。
量子化技術の概要についてはHugging Faceのドキュメント(Quantization)も参考になる。
PrismMLはKhosla Venturesが出資するスタートアップで、Appleが実際に採用するかどうかは現時点では不明だが、会合が複数回持たれたこと自体は事実として報じられている。
オンデバイスAIが拡張されると何が変わるか
より大きなモデルがiPhone上で動くようになれば、現在**Apple Private Cloud Compute(PCC)**と呼ばれるサーバー側で処理されているApple Intelligenceの機能の一部をデバイス上に移せる可能性がある。
これにより期待されるのは2点だ。
- コスト削減:クラウド推論のインフラコストを圧縮できる
- プライバシー強化:ユーザーデータがデバイス外に出る機会が減る
Appleがオンデバイス処理を重視する姿勢は一貫しており、PCCはその延長線上にある設計だが、モデルの規模がボトルネックになっていた。PrismMLの技術はその制約を緩める可能性を持つ。クラウドへの依存を減らすことは、ユーザーのプライバシー保護という観点だけでなく、Apple Intelligenceのレイテンシ(応答遅延)改善にも直結する。ネットワーク品質に左右されず、デバイス単体で高品質な推論が完結するシナリオは、Appleが長年追い求めてきた方向性と完全に一致している。
Apple Intelligenceおよびオンデバイス処理の設計思想については、Apple Machine Learningの公式ブログでも継続的に情報が公開されている。
詳細はApple Exploring Ways to Run Much Larger AI Models Directly on iPhonesを参照していただきたい。