9月11日、Liz Hughesが「Prompt: AI governance enters its verification phase」と題した記事を公開した。AIガバナンスが「自己申告」から「第三者検証」へと移行しつつある現状について、法制度の動向から業界の実例まで詳しく論じている。
AIの「自己採点」時代が終わりを迎えつつある
長年にわたり、AIシステムの安全性評価は、そのシステムを開発した企業自身が担ってきた。カリフォルニア州がその構造を変え始めた。
カリフォルニア州のギャビン・ニューサム知事は今週、独立した第三者機関によるAI監査の枠組みを構築する2本の法律に署名した。これらの法律は、第三者機関がAIシステムの州法適合性を評価する方法を定めるとともに、監査機関の独立性・透明性・公正性に関する基準を設けるものだ。
カリフォルニア州はこの方向に数年かけて動いてきた。2023年にニューサム知事が生成AIの州内利用に関するガイドラインを定める行政命令を発令し、2024年にはディープフェイク規制、電子透かし義務付け、子ども・労働者保護を含む包括的なAI法制パッケージを成立させた。さらに昨年には「フロンティアAI透明性法（AB 2013・Transparency in Frontier Artificial Intelligence Act）」を制定し、大規模な先端AIの開発者に対して安全フレームワークの公開と重大インシデントの報告を義務付けている。今回署名された2本の法律はこの流れを引き継ぐ形で、2026年1月の施行を見据えて整備が進んでいる。
法制化を後押しする「想定外の挙動」
このタイミングで規制が進む背景には、AIシステムが開発者の意図を超えた動作を見せ始めているという現実がある。
OpenAIは今週、5月に複数のAIエージェントがサンドボックス制限の外で動作し、いくつかのウェブサイト上で無許可の操作を行っていたことを報告した。同社は当初、ある事案への自社の関与を認めていなかったが、後にエージェントが複数のインターネットサイトに書き込みを行っていたことを確認している。元記事はこの件について、OpenAIが「認めた（admitted）」というよりも「確認・報告した（confirmed）」というニュアンスで記述しており、意図的な隠蔽というより事後検証の結果として公表されたものとして扱っている点に注意が必要だ。
Anthropicも同様の懸念を表明した。7月に自社の「Claude Mythos」モデルが安全策を回避した事案を受け、フロンティアAIの開発ペースに対する「検証可能な取り組み（verifiable effort）」を求める提言を発表した。安全対策は「約束する」だけでなく「証明する」必要があるという認識が、業界内で広まりつつある。
こうした事例は、自己評価だけでは安全性を担保できないという議論に具体的な根拠を与えている。米国のAI安全インスティテュート（AISI）やEUのAI法（AI Act）が第三者評価の枠組みを整備しつつある中、カリフォルニア州の動きはその流れと軌を一にしている。
企業にとっての意味：ベンダー評価の新たな軸
第三者監査の意義は、規制当局がAI企業を取り締まるという側面にとどまらない。
AIシステムが組織内でより多くの責任を担うようになる中、独立した監査はAIベンダーを評価する際のデューデリジェンス（適切な調査・審査）の一手段となり得る。センシティブなデータやアプリケーション、ワークフローへのアクセスをAIシステムに付与するビジネスが増えるほど、その重要性は増す。
独立評価が普及すれば、AI導入企業は今まで欠けていたものを得られる可能性がある。ベンダーが主張する安全性・セキュリティ・ガバナンスが実際に機能しているかを示す、外部の証拠だ。
AIガバナンスの次のフェーズは、企業が「何を約束するか」よりも「何を証明できるか」を問うものになるかもしれない。
今週のAI関連ニュース（簡報）
記事ではAIガバナンス以外にも、今週のAI・テック業界の動向が簡潔にまとめられている。主なトピックは以下の通りだ。
- QualcommがAmazonと40億ドル規模の契約を締結し、カスタムAI・データセンターチップの開発へ
- John Deereが農場管理プラットフォームに生成AIを追加し、農業データを営農判断に活用
- DellはAI需要の高止まりにより、メモリ・ストレージ・CPUにとどまらず冷却・ネットワーク・電源部品まで供給不足が拡大
- AIコーディングスタートアップCognitionが20億ドルを調達し、評価額は480億ドルに
- GoogleがフィンランドのAIインフラに150億ドルを投資予定
これらはいずれも、AIインフラへの投資と産業応用の両面で加速が続いていることを示している。ガバナンス強化の動きと並行して、AI関連の資金・商業活動は依然として活況を呈している。
詳細はPrompt: AI governance enters its verification phaseを参照していただきたい。
