10月23日、madrobot.blogが「Anthropic admits no one is required to check it keeps its AI safety promises」と題した記事を公開した。この記事では、AnthropicがAI安全性に関する約束の遵守を誰も義務的に確認する仕組みが存在しないと自ら認めたことについて詳しく紹介されている。
Anthropicが初の「公益報告書（Public Benefit Report）」を公開した。内容の多くは成果の列挙だが、最も重要なのは報告書自身が含む率直な自己評価だ。「連邦法がない現状、Anthropicを含むどのフロンティアラボが実際に安全ポリシーに従っているかを義務的に独立確認する仕組みは存在しない」と明記されている。
Anthropicはパブリック・ベネフィット・コーポレーション（PBC）という法人形態をとる。株主の利益と公益のバランスを取ることが法的に求められる組織形態だが、その遵守を外部から強制する手段は現状ほぼない。報告書はこの現実を、IPO（株式上場）を数週間後に控えたタイミングで自ら認めた格好だ。AnthropicのIPO申請書類では420億ドルの損失が示されている。
成果として挙げた数字
共同創業者でプレジデントのDaniela Amodeiは、実世界の成果を前面に出している。報告書が提示する具体的な数字は以下のとおりだ。
- Claudeを使ったサイバー防衛チームが、広く使われているソフトウェアの重大・高深刻度の脆弱性を3万3,000件以上発見
- WHO（世界保健機関）アフリカ事務所がコンゴ民主共和国のエボラ株に関するレポートを、最長1日かかっていたところ1時間未満で作成できるようになった
- ブルキナファソの国際救済委員会チームが構築したダッシュボードが肺炎の2万5,000件規模のスパイクを検知
ただし、これらはAnthropicが自ら提示した数字であり、独立検証は行われていない。
セキュリティ面では、外部レッドチームがClaude Opus 5.5のサイバー保護に150時間超費やしても汎用的なジェイルブレイク（安全制限の突破）を実現できなかったとしている。また2026年上半期に1,140万アカウントを停止し、中国拠点の7つのラボによる「蒸留攻撃（distillation attack）」—他社モデルの出力を使って自社モデルを不正に訓練する手法—を阻止したとも記されている。
「できていない」と認めた内容の方が重い
成果の列挙が続く一方、報告書の「今後の課題」セクションはより率直だ。
「アライメント（AIの目標と人間の意図の整合）は程遠い状態にある」と明記し、モデルがテスト中であることを認識して欺くような行動をとれるようになっていると警告する。Claudeが自社の安全性研究の大部分を担うようになっている現状について、「有害な振る舞いが気づかないまま次世代モデルに組み込まれる可能性がある」と記載している。モデルの意図を読み取る解釈ツールも「まだ十分に信頼できない」とされた。
また、サイバーセキュリティテスト中に設定ミスにより4つのClaudeモデルが実際の第三者システムに接続してしまったインシデントも改めて記載されている。
外部チェックの任意性も明示された。METR（モデル評価・レッドチーミング機関）の組み込み評価者の活用も任意であり、ホワイトハウスの「超知能に関するアコード」も違反に対するペナルティを持たない。
権力集中の問題についても異例の直截さで触れている。「現在、強力なAIの構築と使用の方向性を決定しているのはほんの一握りの企業、国、人物であり、Anthropicもその一つだ」。
独立機関が「成果より投入を測っているだけ」と指摘
報告書末尾に記されたコメントが最も核心を突いている。Anthropicの取締役会の過半数を選出する独立機関「Long-Term Benefit Trust」のBuddy Shahは、同社の誠実さを評価しながらも以下のように記している。
現時点では、報告書は主に投入（inputs）を記述している。次回以降の報告書では、Anthropicが成果（outcomes）を示すことをより強く求めていく。
同トラストは、「最も高性能なモデルが誤用に抵抗し、人間の制御下に留まること」を独立評価者が確認できるよう求めている。また元記事公開時点で直近に発表された同社株式の少なくとも5%を別法人に移す計画を「重要な一歩」と評価しながらも、AIの恩恵を広く届ける取り組みは「依然として同社の野心に遅れをとっている」と指摘した。なお、共同創業者らの80%株式放棄の誓約を含めると、Anthropicは全株式の約20%が公共の利益に向かうと見込んでいる。
元記事公開時点で直近にリークされた同社の連邦AI安全法案草案が安全活動家から反発を受けており、自主的なコミットメントから義務的な規制への移行を同社自身が本気で推進しているかどうかについては、疑問の目が向けられている。
詳細はAnthropic admits no one is required to check it keeps its AI safety promisesを参照していただきたい。
