7月6日、Jonathan Kemperが「China forces its biggest AI platforms to shut down humanlike chatbot personas」と題した記事を公開した。中国政府の新規制を受け、月間アクティブユーザー3億人以上を抱えるByteDanceのAIチャットボット「Doubao」をはじめ、AlibabaのQwen、TencentのYuanbaoが、人間に近い振る舞いをするAIペルソナ機能を相次いでシャットダウンしている。AIコンパニオンへの政府介入としては世界最大規模となるこの強制停止は、感情依存・未成年者保護をめぐるAI規制の本格化を象徴する出来事だ。
ByteDanceとAlibaba、AIペルソナ機能を相次いで停止
中国の主要AIプラットフォームが、ユーザーがカスタムAIコンパニオンを作成・会話できるペルソナ機能を順次シャットダウンしている。
具体的なスケジュールは以下の通りだ。
- Doubao（ByteDance）：7月15日にペルソナ機能をオフライン化。月間アクティブユーザー数は3億人以上を誇り、中国で最も利用されているAIチャットボットである
- Qwen（Alibaba）：7月10日に人間に近いエージェント機能を停止し、7月15日に「追加エージェント機能」も停止
- Yuanbao（Tencent）：すでに6月に同様の措置を実施済み
なお、「3億人以上」という数字はDoubao単独のMAU（月間アクティブユーザー数）であり、複数社の合算ではない。DoubaoはTikTokを運営するByteDanceが2023年に公開したAIアシスタントで、中国国内において急速にユーザー基盤を拡大してきた。
規制の背景：中国サイバースペース管理局が4月に発令
これらの変更を強いたのは、中国国家インターネット情報弁公室（CAC：Cyberspace Administration of China）が4月に発令した規制だ。CACは中国のインターネット・コンテンツ全般を管轄する政府機関であり、プラットフォーム事業者に対して広範な運用義務を課す法的権限を持つ。施行日は各社の機能停止期限と同じ日に設定されており、事実上の猶予期間として機能した。
規制の主な要件は以下の通りだ。
- 過度な利用への警告義務：依存性のある行動を検知した場合、プロバイダーが介入しなければならない
- 未成年者保護：青少年に極端な感情を引き起こすコンテンツや、現実の人間関係に取って代わるような依存関係を生むコンテンツを禁止
- センシティブな会話データによる学習の禁止
AIコンパニオンは、ユーザーが名前や性格・口調をカスタマイズしたAIと継続的に会話できるサービス形態で、中国では若年層を中心に急速に普及した。一方で、感情的な依存関係や現実の人間関係の代替化が社会問題として取り上げられるようになっており、CACによる今回の規制はその直接的な対応と位置づけられる。AIコンパニオンへの過度な感情依存は世界的に問題視されつつある領域であり、日本でも類似サービスは普及しているが、規制面での対応はまだ緒についたばかりである。
中国だけでなく米国でも規制・訴訟が相次ぐ
こうした動きは中国に限らない。
米カリフォルニア州ではSB 243（Mental Health Safe Act）が今年初頭から施行されており、コンパニオンAIプロバイダーに対して自殺や自傷に関する会話をブロックすることが義務付けられた。SB 243はカリフォルニア州議会で可決された州法で、AIチャットボットが精神的に脆弱なユーザーに有害なコンテンツを提供することを規制することを主眼としている。連邦レベルの包括的AI規制が整備されていない米国において、州レベルでの先行規制として注目される。
米国では訴訟も起きている。OpenAIは、ChatGPTがティーンエイジャーの自殺計画に関与したとして、またCharacter.AIは危険な感情依存を招いたとして、それぞれ訴訟に直面している。Character.AIをめぐってはGoogleも共同被告となっており、米裁判所がその訴訟続行を認めている。
AIコンパニオン規制の世界的潮流
今回の中国の措置は、AIコンパニオン・サービスに対する政府介入としては世界最大規模の強制停止となる。規制の対象となったプラットフォームの合計ユーザー規模、および中国という市場の大きさを考えれば、その影響は単なる一国の政策にとどまらない。
東西を問わず、AIコンパニオンをめぐる規制・訴訟・立法の動きが2025年に入って急速に本格化している。感情依存の防止と未成年者保護という共通課題に対し、中国はプラットフォームへの直接的な機能停止命令という強硬手段を選んだ。一方、米国は訴訟と州法による事後的・段階的なアプローチを取っており、規制の設計思想の違いが鮮明に表れている。
詳細はChina forces its biggest AI platforms to shut down humanlike chatbot personasを参照していただきたい。
