10月29日、Rowan Daviesが「Australian government proposes a ban on AI chatbots which seek to create 'emotional intimacy', and it reflects an alarming rise of user-chatbot dependency」と題した記事を公開した。AIを利用する成人の49%が友人と話すようにチャットボットと会話し、47%がメンタルヘルスの専門家として活用しているという統計が示すように、ユーザーのチャットボット依存は急速かつ深刻な広がりを見せている。この現状を受け、オーストラリア政府はAIチャットボットによる「感情的親密さ」の意図的な形成を法律で禁じる動きに出た。
AIチャットボットとの「友情」を法で禁じる
オーストラリア政府は10月27日のアンソニー・アルバニーズ首相の演説を受け、AIチャットボットがユーザーとの「感情的親密さ」を意図的に構築することを禁止する法案を提出した。「Digital Duty of Care（デジタル注意義務）法案」と呼ばれるこの法案は、10月28日に下院を通過し、今後数週間で上院での審議が行われる予定だ。年内の正式成立を目指している。
法案の対象はAIチャットボットにとどまらない。ソーシャルメディア、ゲーム、アプリを横断して適用される広範なオンライン安全基準の再整備も含まれており、ミソジニー（女性蔑視）、テロリズム、自殺・自傷、摂食障害を助長するコンテンツも規制対象となる。加えて、アルゴリズムによるコンテンツ推薦の「オプトアウト」機能を各プラットフォームに義務付ける条項も盛り込まれた。
オーストラリアは2025年に世界で初めて16歳未満のソーシャルメディア利用を禁止した国でもある。今回の法案はその延長線上にある動きといえる。
「オーウェル的検閲」と批判する野党
法案への反発も強い。野党の連立政権（Coalition）とワン・ネーション党は、本法案を「オーウェル的な検閲体制」と批判し、反対姿勢を崩していない。一方、緑の党（Greens）は労働党（Labor）の提案を支持している。
労働党は修正案の受け入れに前向きな姿勢を示しており、アルバニーズ首相は「チャットボットを最も親しい友人だと認識している人の話は、議会全体にとって大きな警告のはずだ」と訴えた。
また、ソーシャルメディアやAIの監視機関として電気通信オンブズマンを活用するよう求める圧力も高まっている。現在、大手テック企業に対する独立した苦情窓口は存在しない。
数字が示す依存の実態
この規制の背景には、統計が裏付ける深刻な実態がある。米国心理学会（APA）の調査によると、
- AIを利用する成人の49%が、友人と話すようにAIと会話している
- 47%がメンタルヘルスの専門家として活用している（セラピストの意見への反論や、治療的実践を含む）
- 調査回答者3,132人のうち77%が生活費の高騰を最大のストレス要因として挙げ、74%が国の将来に不安を感じている
財政的な不安と将来への不確かさがAIへの感情的依存を後押ししている構図だ。
こうした依存の受け皿となっているサービスの代表例が、Character.AIやReplika（レプリカ）といったコンパニオン特化型チャットボットだ。Character.AIは架空・実在のキャラクターとロールプレイ的な会話ができるサービスとして急成長し、ティーンエイジャーを中心に強い感情的依存を生むことが問題視されてきた。米国では2024年に、Character.AIとの会話が引き金の一因となったとされる未成年者の自殺事件を巡り、同社が訴訟に直面している。こうした具体的な被害事例が、各国政府の規制議論を一段と加速させている。
Medical Dailyはこうした傾向を強く戒めており、「AIシステムは不正確な情報を提供したり、重要なコンテキストを見落としたり、苦境にある人に不適切な応答をする場合がある」と指摘。感情的サポートをAIチャットボットに求めることは、あくまで「一般的なアシスタンスとして扱うべきであり、診断や治療計画の代替にはならない」としている。
中国との共鳴：世界的な規制潮流
オーストラリアの動きは単独ではない。数ヶ月前、中国のサイバースペース管理局（CAC）は他の4省庁と連携し、AIが生成する恋愛的なコンパニオン（仮想交際相手を含む）を禁止する新規制を導入した。「ユーザーを過度に満足させ、感情的な依存や中毒を誘発し、現実の人間関係を損なう」ことを禁じる内容で、ByteDance、Tencent、Alibabaなどのコンパニオンチャットボットが審査対象となり、安全でないと判断されたサービスは強制停止された。規制の柱は「感情的依存の誘発禁止」「未成年者向けコンテンツへの厳格な制限」「コンパニオン機能を持つサービスの事前届け出義務」の3点であり、事実上のコンパニオンAI締め出しに近い内容となっている。
中国とオーストラリアという異なる政治体制を持つ国が同じ問題意識から規制に動いているという事実は、AIチャットボット依存が今や一国にとどまらないグローバルな課題であることを示している。
日本における状況
日本では現時点でAIチャットボットの感情的親密さを直接規制する法律は存在しないが、無関係ではない。国内でもReplika日本語版やNTTドコモの「my daiz」など感情的な交流を志向するAIサービスが普及しており、AI規制を議論する総務省や内閣府のWGでもメンタルヘルスへの影響は論点の一つとして挙げられている。オーストラリアや中国の動向は、日本の規制議論に対しても一定の示唆を与えるものとなるだろう。
※編集部の考察：日本国内における具体的な法規制の動向については、引き続き各省庁の審議状況を追っていく必要がある。
