9月6日、How-To Geekが「I stopped using Claude to process sensitive files and switched to a local model instead」と題した記事を公開した。機密ファイルをClaudeに送るのをやめ、ローカルモデルに切り替えた実践レポートだ。著者はモデルを「IQ 200で文法も完璧な5歳児」と評しており、その独特の比喩が示す通り、ローカルAIの実力と限界の両面を率直に語っている。
クラウドAIへのファイル送信が抱える本質的なリスク
クラウドAIサービスを信頼していたとしても、それとは別の問題がある。AnthropicやOpenAIのような大手AI企業は、数百万人分の医療データ・財務情報・個人的な思考や考えを集中して保有している。これらの企業が壊滅的な侵害を受けた場合、史上最大規模のデータ漏洩になり得る。可能性は低いとはいえ、リスクはゼロではない。
また、利用規約やデータ保持ポリシーは変わり得る。今日の約束が10年後も守られる保証はない。
一方、ファイルが自分のマシンから出ないならば、攻撃対象は自分のPCだけだ。もともと多くのデータを保存しているマシンと変わらないリスクしかない。
推奨モデル：Qwen3-27B
記事が推薦するローカルモデルは**Qwen3-27B**だ。そのサイズに対して性能が高く、以下の点が実用上の強みとなる。
- ネイティブな画像・動画処理：スキャンした文書や写真をそのまま渡せる。別途OCRソフトを用意する必要がない
- 巨大なコンテキストウィンドウ：理論値は約262,000トークン（実際の性能はこの上限に達する前に低下する）
- ストレージ効率：量子化バリアントを選べば、17GBのストレージでそれなりに動く
一般的なゲーミングPCで動く
VRAM 12〜16GBのGPUと32GBのシステムRAMがあれば、27Bモデルを4-bit量子化（Q4）で動かせる。この構成ではVRAMとシステムRAMに分割されてモデルが展開される。生成速度は人が読む速さ程度であり、Claudeのような即応性はないが、契約書のレビューや財務明細の分析には十分だ。データがPCの外に出ることはない。
もし24GBのGPU（例：中古のRTX 3090）を確保できれば、モデル全体をVRAMに収めて動かせる。記事ではRTX 3090が「27Bパラメータのモデルをローカルで動かすうえで最もコストパフォーマンスの高い選択肢」と評価されている。ただし、VRAMを抜き取られた個体がFacebook Marketplaceに$150〜$300で出回っているケースが多いため、購入前の確認は必須だと警告されている。国内でもメルカリやヤフオクで同様の事例が報告されており、中古GPU購入時には実際の推論動作を確認することが望ましい。
記事の著者自身はRTX 5070 Ti（VRAM 16GB）＋32GBシステムRAMの構成で動かしており、OS分のオーバーヘッドを引いた合計40GBをAIに割り当てられ、問題なく動作したという。
実際に試した結果
著者はCherry Studio（OllamaのフロントエンドGUIの一つ）上でQwen3-27B-Q4を動かし、以下の3種類のサンプルファイルで検証した。
※ Ollamaは、LlamaやQwenなどのオープンソースLLMをローカル環境で手軽に実行するためのランタイムおよびCLIツールだ。公式サイトからインストーラーを取得でき、
ollama run qwen3:27bのようなコマンド一つでモデルの取得・実行が完結する。
- 合成（架空）の健康診断記録
- 企業と取引先の間の契約書（約40ページ）
- 離婚協議書
結果として、幻覚（ハルシネーション）への耐性は高く、ファイル内の特定の条項の抽出、医療データの異常値のフラグ立て、財産分与の内容の正確な読み取りができた。
ただし速度は遅い。特に40ページの契約書を処理する際は、回答の間に長い「思考時間」が発生する。「思考トークン」とは、モデルが回答を生成する前に内部で推論を展開するトークン列のことで、これがコンテキストウィンドウを共有するため、非常に大きなファイルではメモリ不足が発生し得る点は注意が必要だ。
Claudeに対してローカルモデルが劣る点
率直に言えば、知識量の差は大きい。
著者のサンプル健康記録にはAST値（肝機能の指標）の異常値が含まれていたが、Qwen3-27BはAST値の読み取りや過去との比較はできた。しかし「ALPとALTが正常なのにASTだけ高い場合の臨床的意味」を問うと、まともな回答が得られなかった。Claudeはこれを問題なく答えた。
離婚法の各法域ごとの知識についても、ClaudeはQwenを大きく上回っていた。
著者はQwenを「IQ 200で文法も完璧な5歳児と会話しているようなもの」と表現している。データの抽出と論理的推論は得意だが、世界についての知識が少ない、ということだ。
結論：使い分けが現実的な選択
機密ファイルの読み取り・抽出・照合はローカルモデルで賄える。専門知識や法律・医療に関する解釈が必要な場合は、個人を特定できない形に加工したうえでClaudeに問い合わせる、という組み合わせが現実的な運用になるだろう。ローカルモデルの能力は近年急速に上がっており、初期のChatGPTを優に超えるモデルが複数ゲーミングPCで動く時代になっている。
詳細はI stopped using Claude to process sensitive files and switched to a local model insteadを参照していただきたい。
