8月19日、MIT CSAILが「When AI art has no author: Study finds generated images often can't be traced to training data」と題した記事を公開した。大規模データで学習した画像生成AIの出力が個々の学習データに遡れないという現象を示したMIT CSAILの研究を紹介している。

AIが生成した画像の著作権をめぐる訴訟が世界各地で起きている。アーティストはクレジットを求め、企業は法的な明確さを求め、規制当局は責任の所在を求めている。しかしMIT CSAILの研究は、大規模モデルにおいては多くのケースでそもそもその問いに答えがないと示した。道具が不十分なのではなく、「接続」そのものが消えているというのだ。

「帰属の崩壊」という現象

研究チームが発見したのは、「attribution decay（帰属の崩壊）」と呼ぶ現象だ。生成モデルの学習データが大きくなればなるほど、個々の学習サンプルが出力に与える影響が小さくなる。

直感に反するが、十分に大規模なスケールでは、特定の1枚の画像を学習データから除いても、あるアーティストの全作品を除いても、ある人物の全写真を除いても、生成されるサンプルは変わらない。

リード著者のZheng Dai氏（MIT CSAIL元研究員）はこう述べている。

「あるデータを取り除いてもモデルの出力が変わらないなら、そのデータは出力に影響を与えていない。では他の全データについても同じことをやってみて、どれを除いても変わらなかったとしたら、出力をいずれか1つのデータに帰属させることに意味はない」

この研究は、査読誌『Nature Communications』にオープンアクセスで公開されている。なお、現在参照しているDOI（s41467-026-75667-5）の年表記部分については、通常の形式（s41467-025-XXXXX等）と異なる可能性があるため、原典を直接確認していただきたい。

再学習なしに「削除」を実現するアーキテクチャ

問いを検証するには、「このモデルがある画像を一度も見ていなかったら何を生成したか？」というカウンターファクチュアル（反事実）の問いに答える必要がある。正直に答えるには、該当画像を除外した状態でモデルをゼロから再学習し、次の画像でも同じことを繰り返さなければならない。学習サンプルが数百万枚あれば、計算コストは現実的でなくなる。そのため従来の帰属研究は、影響を実際に除去するのではなく、近似的に推定する手法に頼ってきた。

研究チームが構築したのは「diffusion ensemble（拡散アンサンブル）」と呼ぶアーキテクチャだ。1つの巨大なモデルではなく、それぞれ異なるデータのスライスで学習した多数の小さなコンポーネントで構成される。特定の画像を見ていないモデルの挙動を知りたければ、その画像を見たコンポーネントをオフにするだけでいい。再学習も近似も不要で、真のカウンターファクチュアルモデルが得られる。

なぜこれが可能かというと、各コンポーネントが互いに独立した学習データのスライスを持つため、「あるデータを除いたコンポーネント群の集合体」がそのまま「そのデータを見ていないモデル」の代理として機能するからだ。モデル全体を再学習する必要がなく、該当コンポーネントを除外した残りのアンサンブルを推論に使うだけで、厳密なカウンターファクチュアルが成立する。

MIT教授でCSAILの主任研究員のDavid Gifford氏は述べる。

「これまでの手法はすべて近似だった。個々のデータを削除しても出力が変わらないことを絶対的に示せるものはなかった。この論文は、それを大規模かつ効率的に実行できる初の厳密な手法を提案している」

生成品質の検証として、同一データで学習した24の通常の拡散モデルとアンサンブルを比較したところ、標準的な指標では同等の画質を達成した。さらに、学習データが多いほどアンサンブルが通常モデルに対して優位に立つ傾向も確認されている。

規模が大きくなるほど帰属は消える

検証では、256枚から16万枚以上のデータセット（CIFAR-10、CelebA、MetFaces、ArtBenchなど7つの公開コレクション）で24のアンサンブルを学習させた。

結果は一貫していた。学習セットが大きくなるほど、カウンターファクチュアル半径（任意の1枚を除いたときの出力の最大変化量）は縮小し、その関係は逆べき乗則に従う。ピクセル単位でも意味的類似度でも同様の結果が出た。

念のため、小規模では1,282の個別モデルをゼロから再学習するブルートフォース検証も行ったが、同じ崩壊パターンが現れた。除去割合を固定しても、エポック数を固定しても、テキストプロンプト条件付きモデルや4種類の類似度指標でも、結果は変わらなかった。

著作権訴訟の根拠を揺るがす

この知見が直接影響するのが、モデルの出力が「派生著作物」かどうかという法的問題だ。

Gifford教授はこう述べる。

「これらのモデルはクリエイティブだ。与えられたものを単にコピーするのではなく、新しい出力を生み出している。その出力が個々の学習データと無関係であるなら、フェアユースの問題、出力そのものが新規著作物として著作権保護されるかという問題、そしてモデルの出力がネット上の何にも帰属できないときに著者がどう報酬を得るかという問題が浮上する」

また、この研究が示した「出力を確実に帰属不可能にする方法」について、Gifford氏は抜け穴ではなく業界の義務だと位置づける。

「著作権侵害的な派生ではないと主張したいなら、企業はこの研究の成果を活用してモデルを改訂し、個々の人物や作品の派生を生み出していないことを示す必要がある」

コーネル大学ロースクールの法学教授James Grimmelmann氏も、この研究に対してこう述べている。

「帰属が機能するなら、モデルの出力と著作権保護された著作物との類似が、コピーによるものか偶然によるものかを判定できるはずだ。しかしこの論文は、興味深いモデルにおいては帰属が機能しないと考える根拠を示している。技術者と裁判所はコピーを評価するために他の手法を使わざるを得ないだろう」

LLMへの影響——最も注目される問いは未解決のまま

現在、著作権をめぐる法的議論で最も注目を集めているのは、画像生成モデルよりもむしろ大規模言語モデル（LLM）だ。New York TimesによるOpenAIへの訴訟をはじめ、書籍著者やニュースメディアによる複数の訴訟が進行中であり、LLMが学習データをどの程度「記憶」しているかは法廷でも争点となっている。

今回の研究が対象とするのは画像・映像生成で主流の拡散モデルだ。しかし、同様の「帰属の崩壊」がLLMでも起きるかどうかは、まだ未解決の問いとして残っている。研究チームは論文内でこの点に言及しており、LLMのアーキテクチャや学習スキームの違いが帰属崩壊のダイナミクスに与える影響は今後の研究課題だとしている。拡散モデルで示された逆べき乗則の関係がLLMでも成立するなら、大規模言語モデルをめぐる訴訟の法的根拠そのものが問い直されることになる。その意味で、この研究は画像生成AIの問題にとどまらない射程を持っている。

なお、拡散モデルはタンパク質構造モデリングや創薬探索など科学分野でも広く使われており、学術データの帰属問題という文脈でも今後参照される可能性がある。

詳細はWhen AI art has no author: Study finds generated images often can't be traced to training dataを参照していただきたい。