9月13日、Vivian Tranが「China draws AI red lines on deepfakes, voice cloning, and digitally reviving the dead」と題した記事を公開した。合成メディアの生成コストが急落し、一般人・公人を問わずディープフェイク被害が拡大するなか、中国の最高人民法院（日本の最高裁に相当）が24条からなる意見書を公表し、AI関連の民事・刑事上の法的責任を一気に明文化した。新たなAI専用法を制定するのではなく、既存法を柔軟に適用するという「第三の道」は、欧州のEU AI Actとも米国の緩やかなアプローチとも異なる中国独自の立場として注目される。
中国最高裁が「AIの越えてはならない線」を明文化
意見書の核心は「個人の同一性に関する権利の侵害」にある。具体的には以下が違法とされる：
- 許可なく本人と識別できるデジタル肖像をAIで生成すること
- 本人と識別できる音声をクローニングすること
- 性的に加工されたフェイク映像を流通させること
さらに、深刻なディープフェイクの悪用は民事訴訟にとどまらず刑事責任にも発展しうるとされており、詐欺・名誉毀損・プライバシー侵害・わいせつコンテンツがその対象となる。
故人のAI再現はどこまで許されるか
意見書が特に踏み込んだ領域のひとつが、故人の声や外見をAIで再現する行為への規制だ。故人の肖像・音声を本人と識別できる形でAI生成することは、遺族などの権利を侵害しうると位置づけられている。意見書は遺族の同意取得を重要な要件として示しており、同意なき再現は民事上の責任を問われる。追悼目的であれば一律に例外が認められるわけではなく、個別の状況に応じて裁判官が既存の人格権・プライバシー法を適用して判断する建付けとなっている。
この問題は中国に限らず世界的に議論が深まっている領域であり、今回の意見書は司法レベルでの明確な基準を示した先例として国際的にも参照される可能性がある。
「訴訟で後から対処」では遅すぎる
意見書が強調するのはスピードだ。
「事後的な訴訟による救済という従来のアプローチは、被害者の正当な権利に対してタイムリーかつ効果的な保護を提供するには不十分であり、人格権に基づく差止命令の適切な活用が特に重要となる。」
性的フェイクコンテンツの被害者は、回復不能な損害が生じるおそれがある場合に差止命令（インジャンクション）を求めることができ、裁判所は配信停止やプラットフォーム・AIサービス事業者への対応命令を下せる。
AIサービス事業者の責任範囲
AIを提供する企業の責任についても整理された。サービス提供者はすべてのプロンプトや出力を事前審査することは求められていないが、侵害コンテンツの通知を受けた後に対応しない場合は責任を負いうる。また、有害コンテンツを意図的に生成したユーザー自身も責任の対象となる。
なお、アルゴリズムが同一商品について顧客ごとに異なる価格や条件を提示する「ビッグデータ価格差別」や、ライブ配信販売におけるAI生成の著名人なりすましも意見書で取り上げられており、詐欺に該当する場合は消費者が懲罰的損害賠償を請求できる。
欧米との比較：中国は「第三の道」を模索
今回の意見書が「新法制定」ではなく「既存法の柔軟適用」を選んだ背景には、中国独自の規制路線の蓄積がある。中国はすでに2022年のディープフェイク規制（インターネット情報サービスにおける深度合成管理規定）や2023年の生成AI管理規定を施行しており、今回の意見書はそれらの行政規制を司法の場でどう運用するかを示す位置づけにある。
Wang Liming氏（中国人民大学教授・中国法学会副会長）は、この路線について次のように論じる。
「中国は両モデルの制約を避け、AIの発展と安全保障のバランスを追求すべきだ」
EU AI Actのような事前規制でも、米国のような事後的な市場任せでもなく、既存法の解釈拡張で対応するというのが中国の現時点の立場だ。最高裁レベルの意見書という形式を選んだことで、立法プロセスを経ずに迅速な基準を示せる点も、このアプローチの特徴といえる。
なぜ今か
合成メディアの生成コストは急速に低下しており、一般人も公人も同様にターゲットになりやすくなっている。2022年・2023年の行政規制が整備されたにもかかわらず、司法現場では個々の紛争にどの条文を適用すべきか判断基準が不明確だという課題が残っていた。今回の意見書はその空白を埋めることを主眼としている。AI紛争はディープフェイクにとどまらず、雇用・政治・責任の所在など幅広い領域に波及しつつあり、中国では別途、AIを使ったコスト削減目的の労働者解雇をめぐる訴訟も提起されており、司法がAIの社会的影響に対して積極的に線引きしようとする姿勢が続いている。
詳細はChina draws AI red lines on deepfakes, voice cloning, and digitally reviving the deadを参照していただきたい。
