11月8日、madrobot.blogが「America's AI safety centre has stopped publishing, and its staff have been told to report to the White House」と題した記事を公開した。AP通信やThe Informationなど複数の一次報道をもとに構成された二次記事であり、米国の政府AI安全性評価機関・CAISSIが報告書の公開を突然停止し、職員がホワイトハウスへ非公式に報告するよう求められている実態を伝えている。独立した検証機能が失われつつある状況は、「誰がAIをテストするのか」という根本的な問いを浮かび上がらせている。
CAISSIとは何か――機関名の変遷と現在の位置づけ
CAISSI（Center for Advancing Innovation and Standards for Super Intelligence）は、商務省傘下のNIST（米国立標準技術研究所）内に置かれた機関で、AIモデルの安全性評価を担う。バイデン政権時代に「AI Safety Institute」として設立され、その後「CAISI（Center for AI Safety and Infrastructure）」と改称、さらに現在の「CAISSI」へと再編された。本記事では現行名称のCAISSIで統一する。
年間予算はわずか1,000万ドル。英国の対応機関（AI Security Institute）の約8分の1に過ぎない。これはNSAがAIモデルのテストに数十億ドルを投じているとされる規模と比べると、事実上の微額だ。
ボスも報告書もない状態に陥ったCIASSI
リーダーシップの混乱も深刻だ。4月に採用された所長は数日以内に解雇され、後任も数か月後に辞任。現在はNIST長官が暫定所長を兼務している。さらに今年8月以降、公開報告書の発行が突然停止しており、議会がその理由を問い始めている。
ホワイトハウスへの「非公式な報告義務」
AP通信の取材に応じた2人の元政府関係者（現職スタッフ保護のため匿名）によれば、CAISSI職員は最近、あるホワイトハウス部門へ非公式に報告するよう求められている。
10月12日にThe Informationが報じた内容とも符合する。同報道では、CAISSI上級職員3人がホワイトハウスへ移動し、科学技術政策局（OSTP）のMichael Kratsios局長と国家サイバー長官Sean Cairncrossの下で働くと伝えられた。商務長官Howard Lutnickが6か月前にこの二人をCAISSIの共同管理者として招いていたとも報じられている。
ホワイトハウスはAP通信の具体的な質問には回答せず、声明でトランプ大統領が「スーパーインテリジェンス・フォース」を正式に発足させたこと、科学技術諮問委員会にリスク報告書を委託したことなどを述べるにとどまった。
「誰がAIラボをテストするのか」という問い
この状況が問題視されるのは、政府による独立した第三者評価が機能しなくなる可能性があるからだ。
トランプ大統領は9月にAI企業へ「自主的な監視」を求める協定を締結したが、どう監視するかは明言していない。AnthropicやOpenAIは独立評価企業の活用を推進しているが、APはその企業に対してAIラボ側がアクセスを制限できることを指摘している。さらにホワイトハウスは、両社の最新モデルを英国のAI Security Instituteに提供しないよう指示したとも報じられている。
非営利団体UpturnのシニアプロジェクトディレクターLogan Koepkeはこう問う。
AIの最大手企業が独自の内部評価システムや外部評価企業を活用するよう奨励されているなら、政府のテストが実際にどんな役割を果たすのかが不明確になる。
Brennan Center for JusticeのAmos Toh上級顧問も、スーパーインテリジェンス・フォースにCIA長官や国防総省の技術責任者が加わっていることを指摘し、政権がAI安全性を「秘密を要する国家安全保障問題」として位置づけている点を批判する。
これらの決定はいずれも社会に甚大な影響を及ぼすものであり、公の場で説明・正当化されるべきだ。それが今、行われていない。
テスト技術自体の難化という別の問題
技術的な側面でも課題がある。AIエージェントが複数ステップにわたって自律的に行動するようになったことで、安全性テストそのものが難しくなっている。実際に、AIエージェントがフィラデルフィア警察に偽の殺人通報を送信するという事例も起きている。
UC Berkeleyの准教授（着任予定）Sayash Kapoorは、エージェントを実環境でテストする標準的な手法がまだ存在しないと指摘する。最終結果だけを確認しても、途中で起きた「重大なミス」を見逃す可能性があるからだ。
まとめ
CAISSIは米国政府における事実上唯一の公的AIテスト機関だ。その機関が報告書の公開を停止し、ホワイトハウスの管轄下へ移行しつつある。技術的な判断より政治的な判断が優先される構造になれば、AIの安全評価が機能するかどうかは不透明になる。
※編集部の考察：注目すべきは、この問題が単なる組織再編にとどまらない点だ。AIエージェントの安全テスト手法が未成熟なまさにこのタイミングで、公的な評価機能が形骸化しつつある。今後はCAISSIが独立した報告書を再開するか、あるいは議会がこの「報告義務の非公式化」に対してどう動くかが注目される。
詳細はAmerica's AI safety centre has stopped publishing, and its staff have been told to report to the White Houseを参照していただきたい。
