9月16日、The Decoderが「AI labs have a data trust problem that their policies haven't solved」と題した記事を公開した。AIラボのデータ利用ポリシーが企業や研究者からの信頼を得られていない実態について詳しく報じている。「ゼロデータ保証」を謳うポリシーが整備されつつあるにもかかわらず、なぜ大手企業はAIラボへの機密データ提供をいまも躊躇するのか。その構造的な要因を掘り下げた内容だ。

NvidiaもPalantirも、Anthropicの利用に慎重な姿勢

エンタープライズ向けAI活用が本格化するなか、AIラボへのデータ信頼問題が表面化している。象徴的なのがNvidiaの対応だ。

NvidiaはAnthropicのコーディングエージェント「Fable」を採用しているものの、現在はオープンソースプロジェクトなど機密性の低いタスクにしか使用していない。社内の重要業務、たとえばAIを活用したサプライチェーン監視には、自社開発のNemotronモデルを使っている。

「企業として、ZDR（ゼロデータリテンション）はデフォルトで有効であるべきだと考えている」
── Justin Boitano（Nvidia VP of Enterprise AI）

ZDR（Zero Data Retention）とは、AIサービスに送信したデータをプロバイダーが保存しないことを保証する仕組みだ。NvidiaはAnthropicに出資しており、今後も出資を継続する意向とされているにもかかわらず、この姿勢を貫いている。

コンサルティング大手のBooz Allen Hamiltonも同様だ。Anthropicの早期ユーザーである同社は、独自のサイバーセキュリティソフトウェアの開発にFableを使うことを社内で禁止している。CTOのBill Vassは「Fableが我々のコードから学習しているのではないかと少し心配している」と述べている。

さらに踏み込んだ対応をとっているのがPalantirだ。同社は、AnthropicがZDRの取り消し不可能な保証を提供するまで、自社プラットフォームを経由したFableの顧客展開をブロックしている。CEOのAlex Karpは顧客向けイベントで、企業がAIラボに「搾取」されることに辟易していると発言した。なお、この姿勢にはPalantir自身の事業上の利害関係もある。顧客を直接AIプロバイダーに向かわせず、自社の「セキュアな」プラットフォーム経由で利用させることが目的でもある。

こうした批判を受け、Anthropicは今秋、一部の顧客向けにZDRに近いプログラムの展開を開始した。OpenAIが顧客データを自社サーバーに保存せずにセキュリティログを管理する仕組みを整備した動きに追随した形だ。

ZDRでも塞ぎきれない抜け穴

ゼロデータリテンションを実現しても、信頼問題は完全には解消されない。OpenAIとAnthropicはいずれも、エンタープライズ顧客からメタデータや技術的な利用データを収集している。OpenAIはこれを「de-identified（匿名化済み）」と呼ぶが、顧客の中には何がメタデータに含まれるのかが不明瞭だとして、現状の透明性では不十分だという声がある。

「匿名化は弱い」──研究者が指摘する構造的な問題

より根本的な問題を指摘するのが、AIの専門家たちだ。

OpenAI共同創業者のJohn Schulmanは、AIラボがユーザーデータを学習に利用する方法のスペクトラムを整理した。なお、Schulmanはその後Anthropicに移籍したが、同社での在籍は短期間で終了しており、現在はThinking Machinesに在籍している。

• 最も直接的：ユーザーデータをそのままプレトレーニングに使う（コンテンツ再現リスクが高い）
• 中間：大きなモデルを小さなモデルに蒸留する
• 最も間接的：ユーザーの操作ログから強化学習タスクを構築する

最後のアプローチはコンテンツ再現のリスクが低いが、顧客のIPを抽出できる可能性は残る。具体的には「ユーザーのコーディング環境やコミット履歴をアップロードして強化学習環境に変換する」ことまでが技術的に可能だという。Schulmanは「匿名化は弱い」とも述べており、ごくわずかな情報量でもユーザーを特定できると指摘している。

AIリサーチャーのSarah Hooker（元Cohere、元Google DeepMind）も同様の観点から警告を発している。

「オリジナルのデータを直接使わなくても、統計的なパターンを抽出して同等の効果を得られる合成データ技術が存在する」
── Sarah Hooker

Hookerは企業に対し、「自社のIPを持つなら、そのIPを活用した独自の知能を構築できる限られた時間枠がある。それをしなければ、フロンティアラボに燃料を供給し続けることになり、遅かれ早かれ自分たちの業界に侵食される」と訴えている。

ただし、Schulmanは後の投稿でトーンを少し修正しており、ユーザーデータの学習がフロンティアモデルの能力向上に大きく貢献する可能性は「極めて低い」とも述べている。能力向上の主な源泉はプレトレーニングのスケーリングと強化学習だという。一方で「モデル会社によってユーザーデータの学習への積極性には差があり、リポジトリのアップロードは仮定の話ではない」とも付け加えており、CursorやCodexのようなAIコーディングツールへの言及とみられる。

Buckmaster事件が「信頼の問題」を可視化した

こうした議論に火をつけたのが、数学者Tristan Buckmasterの告発だ。

BuckmasterとLevent AlpögeはOpenAIのCodexを使い、長年未解決だったナビエ-ストークス方程式に関する研究を進め、その草稿をCodex経由でアップロードしていた。その後まもなく、OpenAI自身が類似した解法の経路に関わる研究成果を発表したとして、Buckmasterは懸念を表明した。

OpenAIは当初、「匿名化されたデータがモデル改善に使われた可能性を排除できない」と認めていたが、内部調査後に見解を更新。論文公開前2か月間のBuckmasterのCodexプロンプトが「いかなる形でもシステムに影響を与えることはできなかった」と主張した。元記事は因果関係を断定しておらず、真相は依然として不明確なままだ。

それでもこの事件が示したのは、ビジネス・学術界とAIラボの間の信頼がいかに脆いかという現実だ。ポリシー上の保証だけでは疑念を払拭できない構造が、改めて浮き彫りになった。

企業がAIラボのポリシーを信頼するための制度的な枠組みは、まだ存在しない。ZDRの保証、メタデータの透明性、そして合成データを通じた間接的な学習のリスク──これらが解決されない限り、エンタープライズ向けAI導入における「信頼」は自己申告の域を出ない。

詳細はAI labs have a data trust problem that their policies haven't solvedを参照していただきたい。