9月14日、Joseph Cox（404 Media）が「Inside 'Project Lily': The Humans Reading Your ChatGPT Chats」と題した記事を公開した。OpenAIが「Project Lily」というコードネームのもと、実際のChatGPTユーザーの会話を人間のコントラクター（外部委託者）に読ませてモデル改善を行っている実態を、入手した内部資料をもとに報じたものだ。

ChatGPTに打ち明けた悩み、仕事上の機密、プライベートな相談——それらを実際に人間が読んでいる可能性がある。404 Mediaが入手した内部資料によれば、OpenAIは「Project Lily」と呼ばれるプロジェクトのもと、数百人規模のコントラクターを雇用し、実ユーザーのChatGPT会話を読ませ、AIの回答を評価・改善させている。週間アクティブユーザーが9億人超（元記事公開時点）に達するChatGPTにとって、見過ごせないプライバシー問題だ。

「ユーザーが、どこかにいるコントラクターが自分の会話を分析しているなんて想像もしていないと思う」——プロンプトレビュー業務に携わる関係者

なぜ人間によるレビューが必要なのか

AIモデルの品質向上には、人間のフィードバックを使って報酬モデルを訓練する「RLHF（Reinforcement Learning from Human Feedback）」が広く使われている。ChatGPTも例外ではなく、AIが生成した複数の回答を人間が比較・評価することで、モデルの出力品質を継続的に改善している。Project Lilyはこの仕組みの一環だ。

レビューの具体的な手順

404 Mediaが入手した業務ガイドや内部Slackチャンネルの資料によると、コントラクターの作業フローは3段階だ。まずダッシュボード上で「タスク」を選択すると実際のChatGPT会話が表示され、次にユーザーの意図を「ユーザーは職場のSlackメッセージの修正を求めており、協調的なトーンにしたい」といった形で要約する。そしてChatGPTの回答4件を1（「受け入れ不可」）〜7（「改善の余地がほぼない」）のスコアで採点し、「aligned（適切）」「misaligned（不適切）」な箇所を最低3か所ハイライトして理由を記述する。

評価の観点として挙げられているのは、「AI的な言い回し（AI-speak）」の排除、絵文字の不適切な使用、過度な媚び（sycophancy）の抑制などだ。「シェフとして私は〜が好きで」「その気持ち、わかります」のような擬似的な個人体験の語りも禁止対象とされている。これはOpenAIが過去に、ユーザーに過度に迎合する傾向のある4oモデルのアップデートをロールバックせざるを得なかった問題を受けた対応とみられる。

匿名化の限界

OpenAIはプロンプトをコントラクターに渡す前に「Privacy Filterモデル」で個人情報を除去すると説明している。しかし同社自身のモデル説明ページには「まれな識別子や曖昧な個人的言及は見落とすことがある」と明記されている。

さらに懸念されるのが、ダッシュボード上に表示される「user memories summary（ユーザーメモリー要約）」だ。これはそのユーザーがこれまでChatGPTに何を依頼してきたかの概要で、居住地域などの個人的文脈が含まれる場合があるという。コントラクターは匿名化されたプロンプトだけでなく、こうした蓄積された文脈情報にもアクセスできる状態にある。

オプトアウトは可能だが、デフォルトはオン

OpenAIは「improve the model for everyone（全員のためにモデルを改善する）」という設定をオフにすれば、会話がモデル改善に使われないと説明している。ただしこの設定は無料・Plus・Proプランでデフォルト有効であり、ユーザーが自発的に無効化する必要がある。Enterprise・Business・Eduプランはデフォルトでオフだ。

404 Mediaが取材のため問い合わせた後、OpenAIは該当ヘルプページを更新し、オプトアウト方法の説明を追記した。ただし、人間がプロンプトを読んでいることへの明示的な言及は、更新後も存在しない。

コントラクターの実態

取材に応じた北米在住のコントラクターは、時給50ドル超で報酬を得ているという。採用経路は求人会社「Crossing Hurdles」経由で、実際の支払いはAIトレーニング企業「Mercor」が行っている。MercorはMetaが大規模なデータ侵害を受けて2025年4月に取引を停止した企業でもある。レビュー業務はときに「ちょっと面白い」と感じることもあるが、全体的には「非常に単調」で「ガイドラインが頻繁に変わり、自己矛盾している」と同関係者は述べた。

OpenAIだけの話ではない

Anthropicも404 Mediaの取材に対し、「Help improve our AI models」設定をオンにしたユーザーの会話を人間がレビューしていることを認めた。GoogleのGeminiも「人間がいくつかの保存済みチャットをレビューする」と明記している。主要なAIチャットボットにおいて、人間によるレビューは業界標準的な慣行だ。

Center for Democracy & Technology（CDT）の上級研究員Michal Luriaはこう指摘する。「現在のチャットボットUIは一対一の対話という親密感と秘密性の錯覚を自動的に生み出す。実際には人間のレビュアーがいるかもしれないにもかかわらず、だ。これはコンテンツが公開されるSNSのモデレーションとは本質的に異なる」。ChatGPTを業務や個人的な相談に使っているユーザーは、まず設定を確認し、必要に応じてデータ利用をオフにすることを検討したい。

詳細はInside 'Project Lily': The Humans Reading Your ChatGPT Chatsを参照していただきたい。