7月14日、CNBCが「Apple in talks with startup that shrinks AI models to run on an iPhone」と題した記事を公開した。AppleがAIモデルを大幅に圧縮してiPhone上で直接動作させる技術を持つスタートアップPrismMLと交渉中であるという内容だ。
54GBを4GB未満に——PrismMLの圧縮技術
PrismMLは、カリフォルニア工科大学(Caltech)発のスピンアウト企業で、Khosla Venturesが出資している。同社は今週、Alibabaのオープンソースモデル「Qwen」の圧縮版を公開した。
その数字が具体的だ。270億パラメータのQwenモデルを約54GBから4GB未満に圧縮し、iPhone 15以降で全パラメータを動作させることに成功したとしている。
圧縮の仕組みは、量子化(quantization)——モデル内部の数値表現を低精度に変換することでメモリ・演算コストを削減する手法——の延長線上にある。具体的には、各値を16ビットから1〜3種類の値にまで極端に単純化する。PrismMLのCEO、Babak Hassibi氏はこれを「半導体業界が8ビットから4ビット演算へ移行した動きと似ているが、さらに一歩踏み込んだもの」と表現している。
同社が公表しているベンチマーク上の性能は以下の通りだ:
- メモリ使用量:従来比で10〜15分の1
- 応答速度:6〜8倍高速化
- 消費電力:3〜6分の1
ただし、Hassibi氏自身が認めるトレードオフもある。圧縮によって全体的な性能は数ポイント低下し、特に事実の想起(factual recall)が先に劣化するという。推論・数学・コーディングといった能力はより維持されやすいとしている。
AppleがPrismMLに注目する理由
この技術が注目されるのは、Appleが直面している課題と直結しているからだ。
Appleは現在、クラウド経由でOpenAIやAnthropicのモデルを利用しつつ、デバイス上でも一部のAI処理を完結させるハイブリッド構成を取っている。しかし、より高度なモデルをオンデバイスで動かすには、スマートフォンのメモリと処理能力が絶対的な制約になる。
オンデバイス処理が拡大することで得られるメリットは複数ある。クラウドへのデータ送信に伴うレイテンシの低減、クラウドコストの削減、Appleが訴求するプライバシー保護の強化、そしてオフライン環境での動作だ。
アナリストのCarolina Milanesi氏(Creative Strategies)は、小型化されたモデルによってiPhone上でより高度な機能——計算写真処理、動画生成、健康・フィットネスツールなど——が実現できると指摘する。とりわけ健康情報や服薬データのようなセンシティブな個人データを端末外に出したくないユースケースでの意義は大きいと述べている。
Appleはチップとソフトウェアを自社で垂直統合して設計しているため、AI処理の最適化において他社より有利な立場にあるとも分析されている。
懸念点:実験室の外での検証がこれから
一方で、アナリストは慎重な姿勢も示している。
Counterpoint ResearchのTarun Pathak氏は「数百万件のクエリ、数千種類のデバイス構成、大規模なスケールでのテストが本当の評価になる」と述べる。長文プロンプトへの対応、マルチタスク時のバッテリー消費、実際のユーザー環境での信頼性が問われるという。
IDCのPhil Solis氏はさらに電力消費を課題として挙げる。エージェント的なタスクでモデルをバックグラウンドで常時動作させるような用途では、メモリ削減の効果があってもバッテリー消耗が深刻になり得ると指摘している。
チップ市場への影響
この技術はメモリチップ需要の議論とも絡んでいる。Morgan Stanleyの試算では、AppleのDRAMコストは2027会計年度に前年比約190%上昇する見通しだ。iPhone 18では同等モデルの価格が約200ドル引き上げられると予想されている。
PrismMLは、通常8基のGPUを必要とするクラウドモデルを1基で動かせるようになる可能性があるとしている。ただし、これが必ずしもチップ需要全体の減少につながるわけではない。D.A. DavidsonのGil Luria氏は「チップが不要になるのではなく、データセンターからスマートフォンなどへ移動するだけだ」と述べている。
なお、3月にGoogleが極限的な圧縮技術に関する論文「TurboQuant」を公開した際、Micronの株価が急落した経緯もある(※編集部注:TurboQuantの詳細はGoogle Researchのブログで公開されているが、元記事中のリンクではないため参考情報として掲載する)。AI効率化の進展がメモリ需要に与える影響に対し、市場が敏感に反応する状況が続いている。
現状と今後のロードマップ
PrismMLは圧縮済みの2モデルを無償公開しており、iPhone、MacBook、Nvidia搭載PCで動作するよう設計されている。Caltechが基盤となる特許を保有し、PrismMLに独占ライセンスを供与している。同社は今年3月、Khosla Venturesらから1,625万ドルのシードラウンドを調達した。
次のターゲットとしてGoogleのオープンソースモデル「Gemma」の圧縮版を開発中とのことで、その後は現在データセンター向けのハードウェアを必要とするフロンティアラボのより大型モデルも対象にしていく計画だ。
Appleとの交渉についてHassibi氏は「非常に初期段階であり、どこへ向かうかはまだわからない」としながらも、「順調に進んでいる」と述べている。
詳細はApple in talks with startup that shrinks AI models to run on an iPhoneを参照していただきたい。