11月20日、Wccftechが「Google DeepMind Engineer Successfully Fires Up Gemma 3 With 270-Million-Parameters On An Office Laser Printer While Only Having 14MB RAM At His Disposal」と題した記事を公開した。ファームウェアの改造もなし、外付けの計算ボードもなし——オフィスにある普通のレーザープリンタ上で、GoogleのLLMであるGemma 3(270Mパラメータ)が動作した実験の詳細を紹介している。
プリンタでLLMが動いた
オフィスにある普通のレーザープリンタで、Googleの軽量LLMであるGemma 3(270Mパラメータ)が動作した。
Xにこの実験を投稿したのはOmar Sanseviero氏だ。同氏は「Carbonの助けを借りて、プリンタ上で直接Gemmaを動かした」と述べている。なお、元記事ではSanseviero氏の肩書きについて「Google DeepMindのエンジニア」と記載されているが、読者は元記事および同氏のXアカウントで最新の所属情報を確認していただきたい。
実験に用いたのはRicoh製のレーザープリンタ。プリンタに標準搭載されているPostScript(後述)のインタープリタをそのまま計算エンジンとして利用するという、シンプルかつ巧妙なアプローチをとっている。
PostScriptとは何か
PostScriptはAdobe Systems(現Adobe)が1982年に開発したページ記述言語で、レーザープリンタで印刷物を描画するために使われる。見落とされがちだが、チューリング完全な言語であり、つまり理論上は任意のプログラムを実行できる。現代のオフィス用レーザープリンタには、このPostScript Level 3インタープリタが標準搭載されている。
今回の実験では、Carbonという軽量トランスフォーマー推論エンジンと量子化版のGemma 3 270Mモデルを組み合わせ、単一のPostScript印刷ファイルとして実装している。CarbonはPostScript環境向けに最適化された推論エンジンで、実装の詳細や最新情報はCarbonのリポジトリを参照していただきたい(※編集部の考察:元記事にはリポジトリURLの明示はないため、読者自身で最新情報を確認されたい)。
14.1MBのRAMで動作、速度数値の読み方
技術的な工夫の核心は動的レイヤーストリーミングにある。LLMの推論処理はモデルの全レイヤーをメモリ上に展開することが多いが、今回はレイヤーを順次メモリに読み込んでは解放するという方法を採用した。その結果、ピーク時のRAM消費を14.1MBに抑えることに成功している(プリンタに割り当てられたPostScript仮想RAMの合計は244.6MB)。
推論速度について、元記事には以下の数値が記載されている。
| 項目 | 値 |
|---|---|
| プリフィル時間 | 184秒(4トークン入力) |
| デコード時間 | 0.1秒/トークン |
| トランスフォーマーレイヤー数 | 18 |
デコード速度0.1秒/トークンを換算すると10トークン/秒となる。元記事に記載の「61.3トークン/秒」という数値との関係については、元記事の原文を直接確認した上で読み解いていただきたい。なお、プリフィルに184秒を要する点は「実用的とは言えない」という評価が妥当であり、あくまで技術的な可能性を示すPoC(概念実証)実験として位置づけるべきだ。
処理が完了すると、プリンタのPostScript Level 3インタープリタ内で18のトランスフォーマーレイヤーにわたってネイティブ実行された推論の結果が、物理的に紙へ印刷された。4トークンの入力プロンプト「Read the fine」に対して出力されたのは「Read the fine print」という3語の文章だ。
エンジニアコミュニティの反応
PostScriptでLLM推論を実現するという発想は、エンジニアコミュニティで大きな反響を呼んでいる。Hacker Newsでも本実験が話題となっており、「PostScriptがチューリング完全だと知ってはいたが、まさかこう使われるとは」「これはデモとして完璧。意味のない計算を意味のある形で可視化している」といった声が上がっている一方で、「184秒のプリフィルは実用的とは言えない」という冷静な指摘もある。
なお、同様の「意外なデバイスでのLLM動作」の事例として、以前にPixel 7上で3BパラメータのLLMを動作させた事例も報告されている。今回の270Mモデルはそれよりはるかに小さく、またハードウェアとしての計算能力も大幅に制約された環境での達成だ。
まとめ
| 項目 | 値 |
|---|---|
| モデル | Gemma 3 270M(量子化版) |
| 動作環境 | Ricoh製レーザープリンタ(PostScript Level 3) |
| 使用RAM | 14.1MB(割当244.6MBのうち) |
| プリフィル時間 | 184秒(4トークン入力) |
| デコード時間 | 0.1秒/トークン |
| トランスフォーマーレイヤー数 | 18 |
実用性よりも「できるかどうか」を問うた実験ではあるが、PostScriptというレガシーな言語とエッジAIの組み合わせは、ソフトウェアのリソース効率化という観点で示唆を与えるものでもある。