10月16日、The Decoderが「Anthropic gives METR inside access to audit its AI models and safety practices」と題した記事を公開した。注目すべきは単なるアクセス開放にとどまらない点だ。Anthropicが特定情報の削除（redaction）を要請した場合、監査側の**METR（Model Evaluation & Threat Research）**はその削除が正当だったかどうかを公に表明できる——この「削除の妥当性を外部が評価できる」という設計こそが、AI企業の自己申告に頼らない第三者評価の仕組みとして業界内で初めて実装されたものとして注目を集めている。
METRのスタッフ6名が「社員同等」の環境でAnthropicを監査
AnthropicはAI安全性評価を専門とする非営利団体**METR（Model Evaluation & Threat Research）**に対し、自社のAIモデルおよび安全性に関する取り組みを審査するための広範なアクセス権を付与した。METRはAIシステムの自律的な能力評価や危険性の研究を専門とする組織で、AIエージェントの不正挙動に関する独立調査の必要性を訴えてきた団体としても知られる。
具体的には、METRのスタッフ6名に対して会社支給のハードウェア、オフィススペース、そして内部ツールへのアクセスが提供された。Anthropicはこれにより、METRのスタッフが自社のリスクチームとほぼ同等の環境で作業できる状態にあると説明している。
アクセス範囲と制約——そして「削除の妥当性」を外部が問える仕組み
ただし、すべての情報が開示されるわけではない。以下の3つは引き続きアクセス対象外となっている。
- 顧客データ
- 弁護士・依頼人間の特権的情報（attorney-client privilege）
- モデルアーキテクチャの詳細
Anthropicは、安全性に関わる情報の一部を公開できない理由として、攻撃者への悪用リスクと商業的な機密性を挙げている。一方でMETRは調査結果を独自に公表できる。Anthropicは特定の事前定義されたカテゴリについて削除を要請できるが、METRはその削除が正当だったかどうかを公に表明する権利を持つ。
この設計が重要なのは、従来の企業主導の安全性評価では「何が公開されなかったか」すら外部からわからなかったのに対し、今回の枠組みでは「削除された事実と、それが妥当かどうかの評価」が外部に可視化される点だ。形式的な監査に終わらせないための実質的な担保として機能しうる。
他の外部審査機関との比較
今回のMETRへのアクセス水準は、Anthropicがこれまで他の外部審査機関に提供してきたものより広い。SecureBio、Accenture、Facultyはより制限されたアクセスにとどまっており、公表できる内容にも厳しい制約が課されている。これらの機関との従来の協力関係では、METRのように「削除の妥当性を公に問える」権限は与えられていなかった。
また、AnthropicはHugging Faceとの間で同様の取り組みに向けた初期交渉を開始したとも報じられており、今後この枠組みが他社・他機関に拡大するかどうかも注目される。
背景：ホワイトハウスの合意が契機
この動きは、Anthropicがホワイトハウスの「スーパーインテリジェンスに関する合意（White House Accord on Superintelligence）」に署名したことを受けたものだ。同合意は2026年に入ってから表明されたもので、主要なAI開発企業が外部審査機関との協力を推進することを求める内容を含んでいる。今回のMETRとの取り組みはその具体的な実施例として位置づけられる。
※編集部の考察：AIの安全性評価をめぐっては、各社が独自の基準で「安全」と主張するだけでは不十分だという認識が業界内で広まりつつある。第三者機関が「何を見て、何を見せてもらえなかったか」まで開示できる仕組みは、AI規制の実効性を担保するうえで重要な前例となりうる。今後、同様の枠組みを業界標準として普及させられるかが問われるだろう。
詳細はAnthropic gives METR inside access to audit its AI models and safety practicesを参照していただきたい。
