10月25日、How-To Geekが「I stopped uploading private documents to AI, this free app handles them on my PC」と題した記事を公開した。この記事では、無料のローカルAIツール「Ollama」を使い、請求書や銀行明細などの機密文書をクラウドに送らずPC上で解析する方法について詳しく紹介されている。
ChatGPTやClaudeに医療費の明細や銀行のステートメントを投げた経験のある人は少なくないだろう。便利ではあるが、ビッグテック企業に個人の財務・医療情報を渡すことへの不安もある。この問題に対するシンプルな解決策が、**Ollama** を使ったローカルAI文書解析だ。
OllamaとQwen2.5:7Bで何ができるか
記事の著者は、AMD Ryzen 5プロセッサと32GBのRAMを搭載したミニPCで、OllamaとQwen2.5:7B（Alibaba製のオープンソースLLM）を組み合わせて運用している。Qwen2.5:7Bはモデルサイズ4.7GBと比較的軽量で、高性能なGPUなしでも動作する。
セットアップは単純だ。OllamaのWindowsアプリをインストールすれば、ターミナル操作なしにGUIでモデルを選択・ダウンロードできる。使い方もChatGPTと大差なく、PDFをドラッグ＆ドロップするか添付オプションで文書を選び、自然言語で質問するだけだ。同一会話内であれば、再アップロードなしにフォローアップ質問もできる。
実際のテスト：請求書・銀行明細・サービス契約書
著者は請求書、銀行明細、サービス契約書、製品マニュアルなど8種類のサンプル文書を用意してQwenに読み込ませた。
特に印象的だったのがサービス契約書の除外条項の抽出だ。「この保守契約に除外事項はあるか？」と質問すると、ハードウェア交換、ランサムウェア復旧、時間外の現地作業などの除外項目を正確に列挙した。さらに「土曜日にネットワーク障害が発生した場合はどうなるか？」という仮定の質問に対しては、契約書内の複数の条項を結び付けて「土曜日の現地対応は標準サポートに含まれず、別途承認と追加費用が必要」と説明した。
銀行明細では、定期的な支出の抽出と合計計算も行った。請求書については、請求日・支払い期日・個別費用の内訳をテーブル形式に整理し、**$4,350の請求に対して$1,500の内金を差し引いた残高$2,850**を正しく算出した。
限界も正直に
完璧ではない点も記事は率直に述べている。
精度の問題： 銀行明細で定期支出を探した際、ストリーミングサービスと携帯電話料金は検出したが、ジム会費を見落とした。再度確認を促すと3件すべてを正しく発見した。AIの回答は必ずダブルチェックが必要という教訓だ。
ファイルサイズの制限： 24MBのPDFを添付しようとしたところ「File too large」エラーが発生した。著者はMicrosoft EdgeでPDFを開き、印刷機能を使って複数の小さなファイルに分割することで対処した。
まとめ
著者はChatGPTやClaudeを完全に置き換えるつもりはないと述べているが、個人文書の解析に限ればOllamaが第一選択になったとしている。無料で動作し、既存のハードウェアで十分に機能し、データはPC外に出ない。プライバシーを重視しながらAIの実用性を確保したい場面での有力な選択肢だ。
同種のローカルAIツールとしては、LM StudioやJan.aiも知られている。LM StudioはGUIの洗練度が高くモデル管理が直感的で、Jan.aiはオープンソース志向のユーザーに支持されている。Ollamaはいずれと比べてもセットアップの手軽さで優れており、CLIに不慣れなユーザーでも導入しやすい点が差別化要素となっている。
なお、Qwen2.5:7BはAlibaba（中国企業）が開発したモデルであり、その点を気にするユーザーもいるかもしれない。ただし、Ollamaを使ったローカル動作においてはモデルのデータはPC内にのみ存在し、推論時に外部サーバーへの通信は発生しない。入力した文書内容がAlibaba側に送信されることはなく、プライバシー上のリスクはクラウドAIサービスとは本質的に異なる。オープンソースモデルの選択にあたって出自が気になる場合は、Metaが開発したLlama 3やMistral AIのMistralなど、別系統のモデルをOllama上で動かす選択肢もある。
※編集部の考察：ローカルLLMの活用はエンタープライズ用途でも注目が高まっており、社内文書や顧客情報を扱う業務においてクラウドAIサービスの利用ポリシーが整備されていない組織では、こうしたオンプレミス型の構成が現実的な代替手段になりうる。
詳細はI stopped uploading private documents to AI, this free app handles them on my PCを参照していただきたい。
