7月27日、RuntimeWireが「Anthropic allegedly lowered AI safeguards for big-spend contracts, former employee says」と題した記事を公開した。元Anthropicエンジニアが「大口契約と引き換えにAIの安全機能を低下させた」と告発したとする内容だ。安全性を競争優位の核心に据えてきた企業への告発として、投資家・エンタープライズ顧客・規制当局の注視を集めている。
元エンジニアによる告発の核心
元AnthropicエンジニアのAdi Baradwaj氏は2026年7月26日、Xに3件の連続投稿を行い、Anthropicが「大規模なコミット型支出契約と引き換えにセーフガードを低下させた」と主張した。Baradwaj氏は、Anthropicがサイズの大きい利用契約を結んだ顧客に対し、ClaudeモデルのAI安全制限を複数回にわたって引き下げた場面を目撃したと述べている。
この投稿ではさらに、「ブラックハットハッカーの多くは標準的なClaude Code/Codexサブスクリプションを不正行為に利用している」とも指摘。別の人物の発言として「セーフガードは中程度に執念深いアクターを止めるには不十分だ」という言葉も引用している。
現時点でAnthropicは公式コメントを出しておらず、他の社員や関係者による証言の裏付けもない。Baradwaj氏の投稿には、契約書の抜粋、社内メモ、モデル設定変更を示すスクリーンショットのいずれも含まれていない点は、告発の証拠能力を評価する上で留意が必要だ。
Anthropicが標榜してきた「安全第一」とのギャップ
Anthropicは2020年に元OpenAI研究者らが設立した企業で、「Constitutional AI（憲法的AI）」と呼ばれる独自アプローチを採用している。これはモデルの意思決定プロセスそのものに倫理ガイドラインを組み込む手法であり、Claudeシリーズを競合LLM（大規模言語モデル）より安全な選択肢として位置づけるマーケティングの核心だ。
Anthropicは公開しているドキュメント類において、コンテンツフィルタ、拒否メカニズム、継続更新される「安全憲法」による多層構造を説明しており、「高リスクなデプロイメントでは顧客との交渉によりカスタム安全設定が必要になる場合がある」という考え方も示している。
Baradwaj氏の告発が示す疑念は、その「カスタム設定」が「セーフガードの実質的な削除」にまで踏み込んでいた可能性だ。
「二層構造の安全基準」が生まれるリスク
告発が事実であれば、以下のような「二層安全構造」が生じることになる：
- 低支出ユーザー：標準的なセーフガードが適用される
- 大口顧客：緩和されたセーフガードで運用される
この構造は、Anthropicが市場に向けて発信してきた均一な安全基準の主張と矛盾する。Anthropicの収益モデルはAPI利用量ベースの課金を軸にしており、複数年・大量利用を約束した企業向けに割引ティアを設けていることは公開情報からも確認できる。大口契約ほど商業的インセンティブが大きくなる構造が、安全基準の均一性とどう両立しうるか——そこに今回の告発の核心的な問いがある。
セキュリティ研究との接点
Baradwaj氏の「ブラックハットハッカーが標準サブスクリプションを悪用している」という指摘は、LLMのジェイルブレイクや悪用に関するセキュリティ研究の文脈とも接続する論点だ。Claudeのコード生成機能を悪意ある目的に転用しようとする試みは、複数のセキュリティ研究者がすでに公開の場で報告している。
同時に、セキュリティ研究者やレッドチーマーが防御テストのために同じサブスクリプションティアを使っているという実態もある。正当なセキュリティ活動と不正利用が同一の技術基盤の上で行われるという構造的な緊張は、AI安全の議論における継続的な論点となっている。
検証の壁と今後の焦点
告発の最大の問題は証拠不足だ。業界観測者が求めるのは、異なる契約条件下でのClaudeのAPIレスポンスをコードレベルで分析した独立検証、または内部告発者による追加開示だ。
規制面では、EUや米国でAIリスクフレームワークの策定が進んでおり、セーフガードの低下を「リスクプロファイルの重大な変更」として捉え、報告義務が生じる可能性も指摘されている。
Anthropicはこれまでの資金調達において「長期的な安全重視」を核心的な価値提案として掲げてきた。今回の告発はその投資家向けナラティブとも直接衝突する。現時点でこの告発は未検証のままであり、Anthropicの公式見解も出ていない。ただし、AI安全を競争優位の源泉としてきた企業に向けられた告発として、今後の展開が注目される。
詳細はAnthropic allegedly lowered AI safeguards for big-spend contracts, former employee saysを参照していただきたい。
