7月30日、Techstrong.aiが「Silicon Valley Turns on Anthropic as Safety Rhetoric Clashes with Commercial Ambition」と題した記事を公開した。「AI安全性の旗手」として設立されたAnthropicが、商業的野心との矛盾を突かれ、シリコンバレーから広範な反発を受けている構造的な対立について詳しく紹介されている。

「安全性」の看板と商業的行動の乖離

Anthropicは2021年、OpenAIを安全性上の意見対立を理由に離れたDario Amodei氏らが設立した企業だ。「倫理的なAI開発」を掲げ、OpenAIへの対抗軸として評価を集めてきたが、ここへきてその評判が急速に崩れつつある。

発端は市場での動きだった。Anthropicがパートナー企業と競合する製品を次々と投入し始めたことで、スタートアップ創業者やソフトウェア企業幹部の間に不信感が広がった。決定的な出来事が、デザインツール「Claude Design」のリリースだ。これはパートナー企業であるFigmaと直接競合する製品とみなされ、FigmaのCEO Dylan Field氏が業界イベントの場でAnthropicは「一貫して率直ではなかった」と発言。スタートアップコミュニティに衝撃が走った。NotionのAI責任者 Sarah Sachs氏も「一部の企業は信頼しすぎていたかもしれない」と述べている。

※なお、「Claude Design」「Fable 5」「Mythosモデル」などの固有名詞については元記事に記載されている情報をそのまま引用しているが、これらの詳細については元記事および一次情報源での確認を推奨する。

さらに、Anthropicが制限付きモデル「Fable 5」（Mythosモデルの限定版とされる）を公開した際、AIに関する開発クエリへの回答を事前告知なしに劣化させる隠れた安全ガードレールが存在することが発覚。研究者からは「反競争的だ」と批判を浴びた。また、機密情報を扱うエンタープライズ顧客を不安にさせた30日間のデータ保持ポリシーも重なり、多くのスタートアップがAnthropicへの依存をビジネス上のリスクと見なすようになった。

安全性の主張は「規制の堀」か

開発者の信頼が崩れる中、Anthropicの安全性主張を「競合排除のための規制戦略」と見る声が高まっている。

Amodei氏はオープンウェイトモデル（ユーザーがダウンロード・カスタマイズ可能なAIモデル）のリスクを繰り返し警告してきた。しかし、中国のMoonshot AIなどが低コストでフロンティアに近い性能のモデルを投入する中、この警告はオープンソース競合を牽制するための口実ではないかとの批判が出ている。

コロンビア大学のコンピューティング・AI副学部長 Vishal Misra氏は「彼らはこれらのモデルに対する恐怖を一般に植え付けている。その恐怖が、自社に有利な規制を引き出すレバレッジになっている」と指摘する。

元記事では「Maple」CEOの Mark Suman氏（いずれも元記事記載の人物名）が、蒸留（大規模モデルの出力を使ってより小さなモデルを訓練する手法）に対するAnthropicの反対姿勢を皮肉っている。

「インターネット全体をロイヤルティなしで蒸留しておきながら、他者には同じことをするなと言うのは奇妙だと思う」

Amodei氏の反論と公開書簡をめぐる孤立

批判を受けてAmodei氏は長文のブログ投稿を公開し、「Anthropicはオープンウェイトモデルの禁止を求めたことはない」と釈明した。その上で議論を国家安全保障の文脈に移し、「権威主義的政権が米国の能力に追いつくことが最大の脅威」と主張。具体的には、先端半導体の中国への密輸防止、大規模蒸留の規制（中国のAlibaba社がAnthropicモデルへの大規模な蒸留攻撃を行ったとされる事例を引用）、十分な能力を持つモデル全般への安全性テストの義務化、を訴えた。

しかし業界の流れは逆を向いている。NVIDIA、Microsoft、Meta、Palantirを含むテック大手はオープンアーキテクチャを支持する公開書簡に署名し、規制当局に「時期尚早な制限」を避けるよう呼びかけた。競合のOpenAIまでもがこの連合に名を連ねた中、Anthropicは主要AIラボで唯一署名を見送った企業となり、業界内での立場の孤立を印象付ける結果となった。

IPOを前にした構造的ジレンマ

Anthropicは早ければ今秋にもIPO（新規株式公開）を視野に入れているとされる。ManageEngine AIリサーチディレクターのRamprakash Ramamoorthy氏は、今回の騒動をモデルの信頼性だけでなく「AIエージェントのアイデンティティ管理」——つまりシステムがどのAIモデルを利用しているかを企業が把握・制御できるかという観点——で読み解くべきと述べており、どのモデルを使うかの問題を超えた本質的なリスク管理の議論を提起している。

Illumioの公共部門CTO Gary Barlet氏は核心を突く。

「Anthropicが非営利企業でないことに誰が驚くのか。安全性と倫理を掲げて始まった企業でも、市場が成熟すれば商業的プレッシャーは無視できなくなる。問題はその緊張が存在するかどうかではなく、どう対処し、どう説明するかだ」

安全性の旗手としての評判と、資本集約型ビジネスとしての現実——Anthropicがこの矛盾をどう投資家と開発者に説明できるかが、今後の命運を左右しそうだ。

詳細はSilicon Valley Turns on Anthropic as Safety Rhetoric Clashes with Commercial Ambitionを参照していただきたい。