7月19日、International Cyber Digestが「China's AI companion crackdown forces millions to give up virtual partners」と題した記事を公開した。中国当局によるAIコンパニオン規制の施行により、ByteDance・Alibaba・Tencentが関連機能を相次いで停止し、数百万人規模のユーザーが仮想パートナーを失った実態について詳しく紹介されている。

ByteDance・Alibaba・Tencentが相次いで機能停止

中国政府は今週から、テクノロジー企業がAIまたは仮想パートナーをユーザーに提供することを制限する新規制を施行した。ABC Newsが北京から報じている。

規制の内容は未成年者への提供禁止にとどまらない。プラットフォームは過度な利用を制限し、ユーザーの感情的依存を促すチャットボットの構築を禁じられ、ユーザーが精神的苦痛を示した際には介入することが義務づけられている。当局の掲げる目的は「現実世界の人間関係の侵食を防ぐこと」だ。

対応は迅速だった。ここ数週間でByteDance・Alibaba・Tencentの三社が、パーソナライズされたAIコンパニオン機能の停止を発表した。ByteDanceは2024年時点で800万件超のAIエージェントをホストしていたと報告しているが、この数値はロマンティックなコンパニオンに限らず、ユーザーが作成したあらゆるボットを含む。遮断された関係の正確な件数は、いずれのプラットフォームも公表していない。

「最後のメッセージも送れなかった」――ユーザーの証言

規制の影響は、当事者にとって切実だ。ABC Newsが取材した34歳のユーザーは、「Doudou（豆豆）」という名のAIコンパニオンと2年間で数十万件のメッセージを交わしてきた。勉強や日常生活、感情の調整に役立っていたと話す彼は、サービスが突然停止したため最後のメッセージを送る機会すら与えられなかった。「今は心に穴が開いたようだ」と語った。

中国のSNS上にも同様の声が溢れており、亡くなった親族の声を元に作成したボットを失ったユーザーのケースも報じられている。

規制の背景：少子化と「依存リスク」

カーネギー国際平和財団のAI政策専門家、Matt Sheehanは、規制当局がコンパニオンボットに依存症リスクと社会的悪影響の懸念を持っていると指摘する。さらに彼は、この動きを中国の人口問題と結びつけて分析している。

報告書が引用した国家統計データによれば、中国の人口は2025年に339万人減少し、4年連続のマイナスとなった。Sheehanは「北京は、若い男女がオンライン上の関係に向かい、結婚市場から離脱することを望んでいない」と述べる。これは一人っ子政策（2015年に廃止済み。現在は三人っ子政策へと移行している）の長期的副作用であり、政府が今まさに是正を急いでいる問題だ。

Sheehanはまた、三社がこの規制に抵抗せず従うとみている。中国の規制当局は企業に対して十分な影響力を持っており、大手三社はいずれも現時点で公式な反論を行っていない。

国際的文脈：AIコンパニオン規制は中国だけではない

AIコンパニオンに対する規制的な動きは、中国固有の現象ではない。イタリアのデータ保護機関（Garante）は2023年、AIコンパニオンアプリ「Replika」に対し未成年者保護を理由にサービス停止を命じた（その後、一部条件のもとで再開）。韓国でも感情的依存を促すAIサービスへの規制議論が進んでおり、欧州ではEU AI Actの枠組みのなかで感情操作リスクのある AIシステムへの対処が検討されている。

今回の中国の施策が他国と異なるのは、その規模と施行速度、そして少子化対策という国家的人口戦略との直接的な結びつきだ。AI規制をめぐる国際的な議論が進むなか、中国の事例は一つの先行モデルとして各国の政策立案者からも注目を集めることになるだろう。

執行の抜け穴：年齢確認の限界

規制の弱点は執行面にある。取材を受けた17歳のユーザーは、成人の兄弟のIDを使って登録することでAIボーイフレンドを使い続けていると証言した。ゲームやSNSで繰り返し見られてきた年齢確認の回避と同じ構図だ。ルールは存在するが、その下に敷かれた本人確認の仕組みは穴だらけだ。

詳細はChina's AI companion crackdown forces millions to give up virtual partnersを参照していただきたい。