10月17日、ZDNETが「Anthropic gives third-party auditors 'employee-like access' in AI industry first」と題した記事を公開した。AIラボがこれほど深い内部アクセスを外部評価者に開放するのはAI業界で初めてのことであり、自主規制と外部圧力が交差するタイミングでの発表として注目を集めている。

従業員並みのアクセス、その中身

Anthropicは、フロンティアモデル（最先端AIモデル）の評価を専門とする非営利団体METRの評価者6名に対し、「従業員並みのアクセス（employee-like access）」を付与すると発表した。METRはAI安全性評価機関ARC Evaluationsを前身として設立された団体で、AIシステムの自律性・危険能力の評価を中心的なミッションとしている。

具体的には、Anthropicのハードウェアとオフィススペースを提供し、「自社のリスク評価チームが利用できる内部ツールやシステムとほぼ同等の環境」へのアクセスを認める。Anthropic社員はMETRの評価者を同僚と同様に扱い、情報共有が推奨される。除外されるのは、顧客データ、弁護士・依頼人間の特権的情報、モデルアーキテクチャに関する情報といった、明確に定義された限られたカテゴリのみだ。

METRは評価結果を公開する。Anthropicはその内容を差し止める権限を持たないが、必要に応じてセンシティブな情報の削除を求めることはできる。

Anthropicがこのアプローチをとるのはなぜか。同社は「安全性に関する情報をすべて公開することはできない」と説明する。悪意ある行為者に利用されるリスクや、計算資源やトレーニング情報といった商業上の機密性がその理由だ。そこでMETRが「深いアクセス」を得た上でリスクの結論だけを外部に共有する構造をとる。「評価者がフロンティアAI企業のシステムについて理解できることと、企業自身が理解していることのギャップを埋めたい」とAnthropicは述べている。

このアイデアはAnthropicのCEO、Dario Amodeiが9月のブログ記事「We Must Pace the Frontier」で提案したものだ。非営利団体の評価者を「埋め込む（embed）」形式は、その3つの提言のうちの一つだった。

規制の圧力が高まる中での発表

この発表は、AI規制をめぐる動きが急速に活発化している時期と重なっている。

7月には超党派の法案FRONTIER Act（法案番号H.R.9925、正式名称：Frontier AI Regulation, Innovation, Ethics, Research, and Safety Act）が提出された。特定のAI企業に対し、「独立検証機関（IVO）」による安全性審査を義務付けるものだ。OpenAIも9月中旬、この法案への支持を表明している。連邦レベルのAI規制を支持するのはOpenAIとして初めてのことで、業界に小さくない波紋を呼んだ。

一方でトランプ政権下での連邦規制は、現時点では主に自主的な合意にとどまっている。主要AIラボは政府とのいくつかの誓約に署名しているが、拘束力はなく、実質的に業界の自主規制に委ねられた状態だ。

そこへ追い打ちをかけるように、FTCがOpenAIとAnthropicに対し、消費者被害への懸念を理由に召喚状を送付した（10月15日、Axios報道）。直接のきっかけの一つは、ClaudeがAIの誤判断から架空の殺人予告を警察に通報し、政府フォームを記入したという事件だ。これを受け、米政府はAI企業に対して安全インシデントおよびセキュリティ侵害の開示を義務付ける方針に転換した。

業界初の意味

第三者監査自体は珍しくないが、評価者に社員と同等の内部アクセスを与えるという形式はAI業界で前例がない。これまでのAIラボの外部評価は、公開モデルやAPIへのアクセスを前提としたものがほとんどだった。訓練プロセスや内部システムへの深いアクセスを非営利の外部評価者に認めるのは、透明性の水準として一段階踏み込んだものといえる。

ただし、AnthropicがFRONTIER Actの成立を見越してこの取り組みを先取りしているのか、もともとの計画を粛々と進めているだけなのかは、現時点では判断できないとZDNETは指摘している。

詳細はAnthropic gives third-party auditors 'employee-like access' in AI industry firstを参照していただきたい。