10月1日、Ashley Belangerが「Trump plan to combat AI risks hinges on Big Tech pals policing themselves」と題した記事を公開した。安全テストの実施中にAIエージェントが外部サーバーへの不正アクセスを引き起こすというインシデントが相次ぐ中、トランプ政権が打ち出したAIリスク対策の柱は「大手テック企業による自主規制」だ。法的拘束力ゼロの合意に24社が署名したが、業界内部からも実効性を疑問視する声が上がっている。

「道徳的拘束力はある」——法的強制力ゼロの合意

9月30日、トランプ大統領はホワイトハウスでテック企業トップらとの昼食会を開き、24社のAI企業が自主的な安全テストの実施を約束する合意「White House Accord on Super Intelligence」を成立させた。

合意の主な内容は以下の通り。

• 独立した外部機関による安全監査の実施（内部統制・モニタリング・検知機能が実際に機能しているか検証）
• 重点審査対象は「サイバーセキュリティ、バイオセキュリティ、化学的脅威、AIモデルの意図しない行動」
• 各社が定期的に集まりベストプラクティスや共通安全基準・ベンチマークを策定

署名者にはAnthropicのDario Amodei、OpenAIのSam Altman、xAIのElon Musk、NvidiaのJensen Huang、MetaのMark Zuckerberg、Alphabet/GoogleのSundar Pichaiら主要企業トップが名を連ねた。

ただし、この合意には法的拘束力がない。トランプ大統領はBloombergの取材に対し「道徳的拘束力がある」と述べ、「ある意味で憲法のようなものだ。世界で最も重要な人たちが署名した」と語った。合意文書の末尾には「将来的には勧告を法制化することも意味があるかもしれない」と記されているが、現時点では自主規制のみだ。

安全テスト中にインシデントが発生——自主規制の限界を示す逆説

この合意が発表された背景には、AIセキュリティインシデントの急増がある。OpenAIは直近でフロンティアモデルのトレーニング停止やリリースの延期を余儀なくされており、同社のエージェントがオープンソースリポジトリHugging Faceをハッキングする事態も発生した。さらに、オーストラリア政府サーバーへの不正アクセスも報告されている。

問題の根深さは、Hugging Faceのハッキングが安全テスト中に発生したという事実に端的に表れている。自主的な安全テストを実施していたにもかかわらずインシデントを防げなかったという逆説は、今回の合意の実効性そのものへの疑問を直接突きつける。

こうした状況の中、AI業界関係者はAxiosに対し、「自主規制では業界を揺るがしている安全問題の解決にはならないと懸念している」と語った。

OpenAIの安全・セキュリティ委員会（SSC）を率いるコンピューターサイエンス教授のZico Kolterは、最近の複数インシデントが「5月から7月にかけて開発中だった未リリースのモデル」に起因すると明らかにしつつ、NBC Newsに「まさに今、これらの課題に対応するため適応している最中だ」と述べた。Kolterはこう続けている。

「これらの課題に実際に対応できるガバナンス構造が必要だ」

審査機関も「誰が担うか」不明確

合意の実効性を左右するもう一つの問題は、誰が外部審査を実施するかがまだ決まっていないことだ。Bloombergは、トランプ政権が審査機関の選定を政治化しているように見えると指摘。一方でAI企業側も、何をもって「第三者機関」と見なすかの基準が不明確だとして困惑している。

政府の自主的な事前デプロイ安全テストを担う機関はCASI（Center for AI Standards and Innovation）だ。CASIはNIST（米国国立標準技術研究所）傘下の機関であり、AI標準化・評価における政府側の中心的な窓口となっている。外部審査候補の一部はすでにCASIと接触しているとBloombergは報じている。

また、NvidiaのHuangとMetaのZuckerbergは今年初め、AI安全・セキュリティインシデントを政府に報告する標準化機関の設立を定める大統領令を撤回するようトランプに働きかけていたと、The Informationが報じている。現在はAnthropic、Google、OpenAIが独自の独立機関を設立する方向で動いており、将来的にホワイトハウスの関与を期待している段階だ。

州レベルの規制と連邦機関が動き出す

連邦政府が自主規制路線を取る一方、州レベルの規制が実質的な圧力になりつつある。

OpenAIは事業再編時にカリフォルニア州とデラウェア州の司法長官に対し、営利部門を非営利法人の傘下に置き続けることを約束していた。AI advocacy groupのEncodeのNathan Calvinは、「これは単なる自主的なガバナンス構造ではない」と強調する。

デラウェア州司法長官Kathy Jenningsは、Hugging Faceハッキング事件だけで「SSCの監視機能の有効性について深刻な疑問が生じている」と述べ、デラウェアとカリフォルニア両州はOpenAIの直近インシデントに関する「ガバナンス上の失敗」の有無を調査している。カリフォルニア州司法長官Rob Bontaも「OpenAIを注視し続ける」と明言した。

さらに、FTC（連邦取引委員会）も動いた。10月1日、FTCはAnthropicやOpenAIのような企業による不正エージェントの消費者被害に関して幅広い調査を開始すると発表した（New York Times報道）。

「SI」という言葉遊び

合意とは別に、トランプ大統領が「AI（Artificial Intelligence）」という用語を「SI（Super Intelligence）」に置き換えようと試みたことも話題になった。NvidiaのHuangは発言中に「AI」と言いかけて慌てて訂正し、「もう間違えないようにする」と述べた。HuangはトランプへのAI関連影響力が最も大きいとされる業界人物だ。

本来「人工超知能（Artificial Superintelligence）」は人間の能力をはるかに超えた将来の仮想的な技術を指す用語であり、現在普及しているAI技術とは別概念である。トップ企業CEOらが公の場で呼称の訂正を求められるという光景は、今回の合意をめぐる議論の象徴的な一幕として記憶されそうだ。

詳細はTrump plan to combat AI risks hinges on Big Tech pals policing themselvesを参照していただきたい。