9月12日、Futurismが「Top Chinese Court Issues Sweeping Legal Crackdown on AI Deepfakes」と題した記事を公開した。中国の最高司法機関である最高人民法院（Supreme People's Court）が、AIツールの悪用をめぐる民事紛争に下級裁判所がどう対応すべきかを定めた24条からなる法的指針を公表したことを報じている。

中国最高裁、AIディープフェイクに24条の法的指針

今回公表された指針は24条で構成されており、AIが生成した映像・音声、性的コンテンツ、金融不正、デジタルプライバシー、監視的価格設定をめぐる紛争への対処方法を定めている。なお、「監視的価格設定」（surveillance pricing）とは、ユーザーの行動履歴・属性・位置情報などをAIが分析し、個人ごとに異なる価格を動的に提示する商慣行を指す。消費者が無意識のうちに高額を請求されうることから、プライバシーおよび公正取引上の問題として注目されている。

今回の指針は立法ではなく、最高人民法院が下級裁判所の審理基準を統一するために発する司法指針（judicial interpretation）である点を押さえておく必要がある。中国ではすでに2022年以降、「インターネット情報サービスの深度合成管理規定」などディープフェイクを対象とした行政規制が施行されており、今回の指針はその流れを受け、司法の場での具体的な判断基準を整備するものとして位置づけられる。

「死者を蘇らせる」技術への危機感

最高人民法院の研究室副主任であるSi Yanli氏は声明の中でこう述べている。

「実務において、多くの人々がAIディープフェイクに強い懸念を示している。AI顔交換技術は誰のライクネス（肖像）でも無差別に取得でき、一般市民がディープフェイクの標的になりうる。AI音声クローン技術もまた、非常に低コストで声を『盗む』ことができ、その結果は説得力を持つほどリアルだ。」
— Si Yanli（最高人民法院研究室副主任）、公式声明より

指針そのものも、こうした技術が「死者を生き返らせる」ために容易に悪用できると明記している。ディープフェイクとは、実在の人物の顔・声をAIで模倣して生成したリアルな映像・音声コンテンツのことであり、詐欺、フェイクニュース、性的ハラスメントコンテンツへの悪用が世界的に急増している。

今回の指針により、中国全土の裁判所は、ディープフェイクをめぐる紛争を審理する際に個人の同一性、外見・特徴、名誉の保護を軸に判断するよう求められる。

ドクシングへの対応も明記

ディープフェイク以外に、この指針はドクシング（doxing）への対応も盛り込んでいる。ドクシングとは、他者の個人情報をオンラインで収集・拡散する行為を指す。

Si氏は「ドクシングはサイバーいじめの典型的な形態として台頭しており、被害者のプライバシーを深刻に侵害し、日常生活を乱し、サイバー空間における公共の安全を損なっている」と説明した。

「先例拘束性なし」でも法的拘束力は実質的に重い

中国は大陸法（civil law）体系を採用しており、コモンロー（common law）における先例拘束の原則（stare decisis）は適用されない。つまり、米国のように下級裁判所が上位裁判所の判決に自動的に拘束されるわけではない。

しかし、最高人民法院が発する指針には実質的な法的拘束力がある。下級裁判所は自らの判決においてこうした意見を参照することが義務付けられており、今回の指針はAI悪用に対する強力な抑止力として機能することになる。

AI規制の国際的文脈で見る今回の動き

今回の指針は、中国がAI規制を強化する一連の流れの中に位置づけられる。数か月前には、中国の中級人民法院が企業がAIを使って従業員を解雇することの適法性を争った訴訟で企業に不利な判断を下したばかりだ（関連記事）。

国際的に見ると、欧州ではEU AI Actが段階的に施行され、米国では連邦レベルのAI規制がいまだ整備途上にある。中国においては行政規制・司法指針の両面からAI悪用への対応が積み重ねられており、立法・司法・行政それぞれのアプローチが異なる各国・地域のAI規制を比較する上で、今回の動きは注目に値する事例といえる。

詳細はTop Chinese Court Issues Sweeping Legal Crackdown on AI Deepfakesを参照していただきたい。