8月18日、Futurismが「New ChatGPT Feature Collects Every Keystroke You Make」と題した記事を公開した。OpenAIがmacOS向けChatGPTデスクトップアプリに追加した新機能「Computer History」が、ユーザーのキーストロークやクリックを記録し、Slackの会話履歴などを参照できる設計になっていること、そしてその記録データが暗号化されていないという構造的な問題について詳しく紹介している。
キーストロークもSlack会話も「参照」対象に
OpenAIは、macOS向けChatGPTデスクトップアプリに「Computer History」と呼ばれる新機能を追加した。OpenAIのプロダクト・エンジニアリングマネージャーであるAri Weinstein氏がX上で明かした内容によれば、この機能はChatGPTが「あなたがコンピューター上で行うすべてのことから学習する」ためのものだという。
具体的には、ユーザーの操作履歴をタイムライン形式で記録・蓄積し、AIエージェントがその情報を参照することで以下のことを行えるようにする。
- ユーザーの作業スタイルを把握する
- 途中で止まったタスクを代わりに完了させる
- スキルやオートメーションを提案する
デモ動画では、OpenAIのデベロッパーエクスペリエンスエンジニアDominik Kundel氏がボイスモードで「最後に開いたGoogle Docは何？」と質問すると、AIがドキュメント名を即答。さらに「そのドキュメントは同僚とのグループチャットで共有されたか？」と聞くと、AIはSlackの会話履歴を参照して確認した。
なお、「学習」という表現についてはやや注意が必要だ。Computer HistoryはAIモデルの訓練データとして使われるという意味での学習ではなく、AIエージェントがユーザーの操作履歴や外部サービスのデータを参照・読み取りすることで文脈を把握し、応答や提案に活用するという設計である。
「暗号化されていない」という構造的な問題
OpenAIは本機能をオプトイン方式（デフォルトオフ）とし、以下のプライバシー対策を講じているとする。
- シークレットモード・プライベートブラウザタブの内容は自動的に除外
- 特定アプリをトラッキング対象から手動で除外可能
- AIが蓄積した「メモリ」のデータベースを確認・削除可能
しかし根本的な問題は別にある。OpenAI自身の免責事項には、「Computer Historyのファイルには機密情報が含まれる可能性があり、暗号化されていない」と明記されている。つまり、「同じmacOSユーザーとして動作する他のプログラムがそれらにアクセスできる可能性がある」ということだ。
スクリーンショットは撮影せず、クリックやキーストロークといった「イベント」と「インタラクション」のみを記録する設計ではあるが、この暗号化なしという点は見過ごせない。また、エンドユーザー自身がオプトインしたとしても、そのユーザーがSlackでやり取りした相手のDMまでAIがスキャンする点は、同意を得ていない第三者のプライバシーにも関わる問題だ。
Microsoftの「Windows Recall」との比較
ソーシャルメディア上では早速、MicrosoftのWindows Recallとの比較が行われている。Windows RecallはWindows専用の機能でデスクトップのスクリーンショットを常時撮影してAIが解析・検索できるようにするものだが、Computer HistoryはmacOS専用でスクリーンショットを撮影しない点で根本的に異なる。一方で、社会保障番号が記録されることや、機密性の高いスクリーンショットが暗号化されていないフォルダに保存されることが発覚し強烈な批判を受けたWindows Recallと、「暗号化なし」という構造的な問題は共通している。
Futurismの記事では、ソーシャルメディア上のユーザーから「気持ち悪い（creepy）」という反応が寄せられていると報じており、設計上のプライバシーリスクへの懸念が広がりつつある状況だ。OpenAIがこの暗号化の問題に今後どう対処するかが注目される。
詳細はNew ChatGPT Feature Collects Every Keystroke You Makeを参照していただきたい。
