9月15日、The Decoderが「OpenAI has hundreds of contract workers reading your ChatGPT conversations」と題した記事を公開した。OpenAIが数百人のコントラクター（契約社員）に実際のChatGPTユーザーの会話を読ませていることを、調査報道メディア404 Mediaがリークされた内部文書と複数の情報源をもとに明らかにしている。

「プライベートにして」と頼んだ会話も読まれていた

OpenAIは数百人のコントラクターを雇い、実際のChatGPT会話を読ませてモデルの改善に活用している。

レビュアーの役割は、ChatGPTの応答を1〜7のスケールで評価することだ。具体的には、過剰なお世辞や人間らしすぎる振る舞いを減らすことが目的とされている。

404 Mediaが問題視しているのは、ユーザーがその事実を知らない点だ。あるレビュアーは404 Mediaに「ユーザーは自分のチャットが人間に読まれているとは思っていないだろう」と述べており、実際にレビュー対象となった会話の中には、「この内容は秘密にしておいて」とChatGPTに頼んでいるものも含まれていたとレビュアーは証言している。会話は匿名化処理が施されているが、OpenAI自身もプライバシーフィルターが誤りを犯す可能性があることを認めており、依然として個人を特定しうる情報が含まれるリスクがある。

コントラクターの採用・報酬体制

コントラクターはCrossing Hurdlesというリクルート会社を通じて募集され、AI学習支援企業Mercor経由で報酬が支払われている。北米拠点の1名のレビュアーによれば、時給は50ドル以上とのことだ。

設定でオプトアウトは可能だが、デフォルトはオン

ユーザーは「Improve the model for everyone（全員のためにモデルを改善する）」という設定をオフにすることで、会話がモデル学習に使われるのを防ぐことができる。ただしこの設定はデフォルトでオンになっており、変更しても既存の会話には遡及されない。また、OpenAIは入力データをモデル学習に使わない「テンポラリーチャット」モードも提供している。

404 Mediaが「人間によるレビューについてユーザーへの明示的な説明はどこにあるか」と問い合わせたところ、OpenAIは当初回答しなかった。FAQページには「認定された担当者やサービスプロバイダーがモデル性能向上のためにデータを閲覧する可能性がある」と記載されているものの、この説明は少なくとも2023年から存在するもので、大きな変更はない。

Screenshot via OpenAI

404 Mediaはこの開示が「隠れすぎており、曖昧すぎる」と指摘する。「全員のためにモデルを改善する」という表現は、人間が会話を読むことへの同意というよりも、コミュニティへの気軽な貢献のように読める。明示的な同意を求めればオプトアウト率が高くなるため、意図的に曖昧に設計された可能性が高いと記事は論じている。

業界全体に広がる慣行

この手法はOpenAI固有のものではない。Anthropicも404 Mediaに対し、プライバシー設定で「AIモデルの改善に協力する」をオンにしているユーザーの会話をレビュアーが確認していることを認めた。Anthropicはメールアドレスなどのアカウント情報を除去した上でレビューを実施しているという。Googleも同様で、Geminiでは保存済みのチャットを人間がレビューする可能性をUI上に明記している。

人間によるフィードバック（RLHF: Reinforcement Learning from Human Feedback）はモデル改善の中核的な手法であり、各社が継続的に取り組んでいる。※編集部の考察：GDPRをはじめとするプライバシー規制との整合性については、今後さらなる議論を呼ぶ可能性がある。

詳細はOpenAI has hundreds of contract workers reading your ChatGPT conversationsを参照していただきたい。