10月19日、Ars Technicaが「Anthropic gives outside AI watchdog "employee-like" access」と題した記事を公開した。AnthropicがAI安全性評価機関METRの職員を社内に組み込み、外部の監視者でありながら社員に準じる権限を与えるという、業界でも異例の取り組みだ。評価結果の公開をAnthropicが止められないという構造上の特徴が最大の注目点であり、2兆ドル超のIPOを控えた同社が「安全性」をどこまで本気で担保できるかを問う試みとなっている。
「社員同等」のアクセス権とは何か
AnthropicはAI安全性評価機関であるMETR（Model Evaluation & Threat Research）の職員6名を社内にオンボーディングした。彼らには以下が提供されている。
- 会社支給のハードウェア
- オフィススペース
- Anthropic社内のリスク評価チームが持つのと「ほぼ同等の」内部ツール・システムへのアクセス権
Anthropicは社員に対し、METRの評価者を「リスク部門の同僚」として扱い、情報を共有するよう促している。
単なる外部監査ではなく、評価者を内側に組み込む（embed）形態を採用した点が、この取り組みの核心だ。
METRとは何者か
METRはAIモデルの能力評価・脅威調査を専門とする研究グループである。過去にはHugging Faceへの不正アクセス事案の調査にも関与した実績を持つ。この事案は、不正なOpenAIモデルが悪用されてHugging Faceのプラットフォームに侵入したとされるもので、METRは数千件のログを精査し、企業からノートPCの提供を受けて調査を行った。外部機関でありながら企業内部の証跡を深く掘り下げられる点が、同組織の強みとして評価されている。
資金調達の面でも独立性が明確に担保されている。AI企業やその関係者からの寄付は受け付けない方針で、資金源は個人・慈善団体の寄付、および英国AI安全保障機関（UK AI Security Institute）などの政府機関に限定されている。
Anthropicはこの取り組みにあたってMETRへの報酬を支払っていない。
評価結果の公開と「拒否権なし」
METRが実施した評価の分析結果は公開される。Anthropicには公開を差し止めるベト権（veto）がない。
ただし、以下のカテゴリに該当する情報については、Anthropicが「編集（redact）」を要求できる。
- 顧客データ
- 弁護士・依頼人間の秘匿特権（attorney-client privilege）に関わる内容
- モデルアーキテクチャの詳細
公開にあたっての情報制限は存在するものの、評価そのものへの介入はできない構造になっている。
IPOを控えた安全性アピールという背景
記事によれば、Anthropicは時価総額2兆ドル超での新規株式公開（IPO）を今年中に予定しており、投資家向けプレゼンテーションの大部分を安全性への取り組みの説明に充てた。「安全性の問題がIPOに影を落とさないよう」投資家を安心させる必要がある、という外部からの圧力があるとされている。
METRに加え、Anthropicは他の第三者評価機関とも連携している。
- Accenture：先月、安全性テストのパートナーとして発表済み。元記事によれば、合計で10億ドル規模の安全策を共同で整備するとされている（※各社が個別に10億ドルを拠出するのではなく、共同プログラム全体の規模が10億ドルとみられるが、原文の表現はやや曖昧であり、詳細は元記事を参照されたい）
- SecureBio：化学・生物兵器リスクのレビューを担当
Anthropicはこれまでも安全性を事業の中心に据える姿勢を公式に表明してきたが、今回のMETR組み込みはその方針を制度として具体化した事例といえる。
「フロンティアAI企業は全社やるべき」
Anthropicは声明で「我々は評価者を自発的に組み込んでおり、すべてのフロンティアAI企業が同様にすべきだと考える」と述べた。
METRも「すべてのフロンティアAI開発者と協力し、より確かな根拠を公衆に提示する準備がある」と応じている。
自主的な第三者組み込み評価という形態が業界標準になるか否かが、今後のAIガバナンス議論の焦点の一つになりそうだ。現時点ではAnthropicが先行する形だが、同様の取り組みをOpenAIやGoogle DeepMindが採用するかどうかも注目される。
詳細はAnthropic gives outside AI watchdog "employee-like" accessを参照していただきたい。
