8月19日、InfoWorldが「AI's attribution problem gets worse as models scale」と題した記事を公開した。この記事では、AIモデルの規模が大きくなるほど、生成物がどの学習データに由来するかを特定する「帰属（attribution）」が困難になるというMITの研究について詳しく紹介されている。

モデルが大きくなるほど、「何を学んだか」が追えなくなる

AIが生成したコンテンツが特定の学習データに由来するかどうかを証明することは、著作権訴訟や監査において死活的に重要な問題だ。ところがMITの研究者らが示したのは、モデルの規模が拡大するにつれて、その証明がますます難しくなるという事実である。

研究チームは、256枚から16万枚以上の画像を含むデータセットで学習させたモデルを訓練した。元記事では「24のアンサンブルモデル」と言及されているが、これが24種類の構成でアンサンブルを組んだものか、24モデルをそれぞれ独立に訓練したものかは、元記事の記述から明確に判断できないため、ここでは原文の表現に従う。使用したデータは、絵画データセットのArtBench、汎用画像のCIFAR-10、ファッション画像のFashion-MNIST、有名人の顔写真CelebA、美術館所蔵の人物画MetFacesなど、7つの公開データセットから引かれたものだ。

「削除しても消えない」という根本的な問題

研究の核心にあるのは、「attribution decay（帰属の減衰）」と呼べる現象だ（原文に対応する術語の記載はなく、この訳語は筆者注による意訳である）。

研究チームは帰属可能性を定量化するため、学習データから特定のデータを除外したときにモデルの出力がどれだけ変わるかを測定した。この変化量を「半径」として扱い、半径が大きいほど「そのデータが出力に影響している」と判断できる。

ところが実験の結果、データセットが大きくなるほどこの半径は小さくなることが明らかになった。ピクセル単位の比較でも、意味的な類似度で測っても、同じ傾向が確認されている。

具体例として研究者らが示したのは、744人のアーティストのパブリックドメイン作品で学習させたモデルが生成した有名な油絵風の画像だ。特定のアーティストを学習データから除外した後でも、モデルはほぼ同一に見える画像を大量に生成し続けた。元の作品は無数のバリエーションで「再解釈」され、学習データとの因果関係を断ち切ることができなかった。

著作権・監査への実務的な影響

この研究が重要なのは、法的・ガバナンス的な文脈と直結しているからだ。

現在、Stability AIやOpenAIなどを相手取った著作権訴訟が複数進行している。「このAIは私の作品で学習したか？」という問いに答えようとするとき、モデル規模が大きければ大きいほど、技術的な証拠を示すことが困難になる。GPT-4やStable Diffusionのような大規模モデルでは、個々の学習データの影響はノイズに埋もれ、検出限界を下回る可能性がある。

研究者らはこの点について、モデルの巨大化が帰属責任の追跡を構造的に困難にすると指摘する。開発者側にとってはグレーゾーンが広がる一方、クリエイター側にとっては自分の作品が使われたことを証明する手段が失われていく。

技術的な示唆

エンジニアの視点で見ると、この研究はデータ管理とモデル設計の両面に影響する。

• 小規模モデル・小規模データセットでは帰属追跡はまだ機能する
• スケールアップするほど、個別データの寄与が拡散・希薄化する
• 学習データを「削除する」だけでは、モデルの出力への影響を消せない可能性がある（いわゆるアンラーニング（machine unlearning）の限界）

EU AI Actや各国の著作権法の整備が進む中で、「どのデータで学習したか」の説明可能性（explainability）は規制上の要件になりつつある。しかしこの研究が示すように、技術的な実現可能性はモデルの規模と反比例する。監査やコンプライアンス対応を担うエンジニアにとって、この制約は無視できない現実だ。

詳細はAI's attribution problem gets worse as models scaleを参照していただきたい。