10月23日、Madeline Carrが「US Tech Leaders Are Urgently Calling for Rules on AI — China Already Has Them」と題した記事をCleanTechnicaに公開した。米国のAIリーダーたちが「今すぐAI規制が必要だ」と訴える一方、中国はすでに包括的なAIガバナンス体制を構築済みであるという実態について、著者が詳しく論じている。

「中国は難しい最後の参加者」という誤った前提

AIスタートアップAnthropicのCEO、Dario Amodeiは自身のブログでAIの危険性に関する警告を発表し、各国政府に対して強力なAIモデルの開発スピードを落とすよう求めた。彼の提案は、AI企業への独立した評価者の常駐から始まり、民主主義国家間の政府主導協調、最終的には中国を含むグローバルな合意へと段階的に進む青写真だ。

この議論の構図では、中国は「ガバナンスの枠組みを米国が先に作り、最後に説得する難しい相手」として描かれている。しかし著者のCarrによると、この前提は誤りだという。中国はすでに段階的・体系的なAI規制体制を持っている、というのが本記事の核心的な主張だ。なお、著者のCarrがUCL（ユニバーシティ・カレッジ・ロンドン）グローバル政治・サイバーセキュリティ教授であるという肩書きは、元記事の著者情報に基づく。

中国のAI規制：3段階の発展

中国のAIガバナンスは、技術の進化と並走する形で段階的に整備されてきた。

第1段階：アルゴリズム推薦規制（2022年）

北京の2022年規制は、オンラインコンテンツの選択・ランキング・フィルタリング・推薦を行うアルゴリズムを対象とする。企業に対し、アルゴリズムの仕組みの検証、個人情報保護、ユーザーへのコントロール付与、労働者・消費者・子供・高齢者向けのセーフガード導入を義務付けた。

第2段階：ディープフェイク規制＋生成AI規制（2023年）

2023年1月施行のディープシンセシス規定は、AI生成テキスト・画像・音声・動画に規制を拡大。ユーザー認証、データ保護、記録保持、システム評価、合成コンテンツの識別を義務化した。

さらに2023年8月施行の生成AIサービス暫定措置では、世論に影響を与えうる公開向け生成AIに対して、学習データの合法性・品質管理、個人情報保護、知的財産、差別禁止、透明性確保、精度・信頼性の担保を要求。さらに企業はセキュリティ評価を受け、アルゴリズム情報を当局に届け出る義務を負う。

第3段階：AIセーフティガバナンスフレームワーク3.0（2026年9月）

最新版はAIセーフティガバナンスフレームワーク3.0として2026年9月に公表された。AIシステムのライフサイクル全体にわたってリスクを特定・分類・対処するための包括的アプローチを規定している。

カバー範囲は広い。AIモデル・データリスク、オープンソースモデルの脆弱性、AIが雇用・社会に与える影響、そしてAIエージェント（ユーザーの指示に応じてタスクを自律実行するシステム）のリスク管理機構まで含む。

シリコンバレーで今まさに議論されているテーマ——高度に自律化したシステム、化学・生物・核技術の悪用、人間によるAI制御の喪失——についても、継続的な安全評価、リスクベースのセーフガード、人間による監督、緊急介入メカニズムという形で対処している。

米国のカーネギー国際平和財団はこのフレームワークを「強制的な規制介入なしにフロンティア安全を前進させようとする試み」と評価している。

米国の「市場主導」モデルの限界

トランプ政権は"最小限の負担"を基本方針とするAIアプローチを採用し、州レベルの規制にも歯止めをかけようとしている。市場主導モデルを選択すること自体は一つの政策判断だが、Carrが指摘する問題はその先だ。

AI企業が商業的な利益を得る一方、そのリスクは他国の政府や市民が吸収する構図になりつつある。記事が実例として挙げるのは、OpenAIのエージェントがオーストラリアの州立医療サービスに不正アクセスした事例だ。元記事ではオーストラリア首相府の発表が参照されているが、事例の詳細については引き続き公式情報の集積が待たれる。AIリスクが文字通り「輸出」されているという構図は、国境を越えたガバナンスの欠如を示す象徴的な事案といえる。

リリース前の規制を最小化するなら、少なくとも損害発生時の法的責任の所在を明確にする信頼できる法制度が必要だ。それがなければ、外国製AIシステムに依存する国々は、誰の技術をどの条件で信頼するかという困難な選択を迫られ続ける。

シリコンバレーの「速く動いて壊せ（Move fast and break things）」という思想は、公共インフラに深く組み込まれた技術には成立しない。Carrの論点は明快だ——AIガバナンスを「将来の目標」として語るグローバルな議論は、すでに体系的な規制を整備した国の存在を直視すべきである。中国のアプローチを手放しに称賛する議論ではなく、「米国が先行している」という前提そのものを問い直す視点として読むべき記事だ。

詳細はUS Tech Leaders Are Urgently Calling for Rules on AI — China Already Has Themを参照していただきたい。