9月24日、Los Angeles Timesが「Xi, in lavish Trump summit, urges 'human control' over AI」と題した記事を公開した。トランプ・習近平首脳会談においてAIの「人間によるコントロール」を中国側が訴えた経緯と、米中AI協調の現在地を詳しく伝えている。

習近平がホワイトハウスからAI安全を訴える

習近平国家主席は9月24日、ホワイトハウスでの首脳会談において、AIは「常に人間の管理下に置かれるべきだ」と発言した。

「中国も米国もAIの先導国だ。我々はともにAIを善のために開発・管理し、AIの発展が常に人間のコントロール下にあり、人々の幸福に資するものであることを確保する能力と責任を持っている」と習近平は述べた。

一方、トランプ大統領は首脳会談に先立ちSNSに投稿し、AI開発に制限を設ける交渉には一切応じないと宣言していた。

"Super Intelligence (SI) will be a big topic of discussion, but I want to leave it exactly where it is. That is China's position also. Our guardrail is the DOJ!"
— Donald Trump（Truth Social）

AIの安全規制について「司法省（DOJ）が歯止めだ」という発言は、実質的な規制の意思がないことを示している。

「人間の制御」をめぐる米中の温度差

今回の会談でAI規制に関する具体的な合意は生まれなかった。ただし、財務長官スコット・ベッセントが国連総会の傍らで中国側の担当者と会談し、「米中AIダイアログ（U.S.-China AI Dialogue）」の設置で合意したことは一定の前進だ。

「我々が提案したのは通知メカニズムの構築だ。共通の目標と共通の脅威についての共有ビジョンを求めている」とベッセントは語った。

戦略国際問題研究所（CSIS）ワドワニAIセンターのディレクター、アーロク・メタ氏は今回の見通しをこう評した。

「ガードレールを望まないというトランプの発言を踏まえると、AI分野で具体的な成果が出ることへの期待は薄い。最もあり得るシナリオはホットラインの設置だが、それがどれほど機能するかは担当者の質と両政府の優先度次第だ」

「再帰的自己改善」という技術的背景

今回の首脳会談がAIを議題の筆頭に据えた背景として、元記事は「再帰的自己改善（recursive self-improvement）」と呼ばれる技術的潮流を取り上げている。これは最先端AIモデルを使って次世代モデルを訓練するプロセスで、元記事によればOpenAIとAnthropicの2社が現在このアプローチに着手しているとされる。

研究者や専門家は、このプロセスを最初にマスターした企業が指数関数的な進歩のサイクルを引き起こし、競合が追いつけないほど抜け出す可能性があると見ている。しかしその同じ企業が、際限なく自己の知性を高め続けるマシン——人間の制御を超えたAI——を生み出すことを自ら恐れてもいる。

この文脈から、OpenAI・Anthropicのトップは北京とワシントンに協力を呼びかけており、「地政学的競争が人類の悲劇を防ぐための協調を妨げかねない」と警告している。再帰的自己改善の制御問題は、今回の習近平発言が単なる外交辞令にとどまらない技術的切迫感を帯びている理由でもある。

「トゥキディデスの罠は乗り越えられる」

習近平は会談の場で「中米は協力すれば利益を得、対立すれば両者が損をする」と述べ、競争を「勝ち負けの格闘ではなく、互いに追いかけ合う健全なもの」と位置づけた。また、新興大国と既存大国が衝突に至りやすい構造的傾向を指す概念「**トゥキディデスの罠**（Thucydides Trap）」に言及し、「これは乗り越えられる」と断言した。この概念はハーバード大学のグレアム・アリソン教授が著書『Destined for War』で広めたもので、米中関係の文脈でたびたび引用される。

今回の訪問は、トランプが5月に北京を訪問した際の返礼にあたる。トランプは到着時、近年ではローマ教皇にのみ行われてきたとされる滑走路での出迎えという異例の厚遇をXiに提供した。

詳細はXi, in lavish Trump summit, urges 'human control' over AIを参照していただきたい。