8月18日、The Decoderが「Anthropic CEO says AI centralizes by nature and open models just shift power to whoever owns the chips」と題した記事を公開した。この記事では、AnthropicのCEO Dario AmodeiとAI業界の著名人らの間で起きた、AI規制とオープンモデルをめぐる論争について詳しく紹介されている。

「AIは構造的に権力を集中させる」——Amodeiの主張

今回の論争が突きつける問いは、単純に見えて深い。「オープンモデルは本当に権力を分散させるのか」——Amodeiの答えは「否」だ。オープンモデルは権力の集中先を変えるだけで、集中そのものは解消しない。その逆説的な核心主張が、業界全体を巻き込む議論を引き起こした。

発端は投資家Gavin Bakerによる発言だった。Bakerは「All-In Podcast」で、AnthropicのCEO Dario Amodeiが社内で「いつかAnthropicが世界に残る唯一の民間企業になるかもしれない」と語っていたと主張した。Anthropicの研究者Sholto Douglasはこれを「まったくの事実無根」と否定し、権力の経済的集中こそがAnthropicが最も恐れるものだと反論した。

Bakerはその後、論争の本質をこう整理した。「AIが危険なら、対処法は二つしかない。広く普及させるには危険すぎるとして少数の企業・政治家に集中させるか、集中させるには危険すぎるとして可能な限り広く拡散させるかだ」。絶対的な権力が人類を善意で管理してくれると賭けることは、歴史的にほとんど良い結果をもたらしてこなかった、というのがBakerの見方だ。

Metaの元チーフリサーチャーで、LLM研究の第一人者であるYann LeCunも、オープンAI支持を明確にした。印刷機やインターネットと同様に、AIは知識へのアクセスを改善することで人間の知性を増幅させると主張。社会は多様な価値観を持つAIシステムを必要としており、それは多様なメディアが必要な理由と同じだと述べた。

Amodeiの反論——「オープンモデルも権力を移すだけ」

今年4回目のXへの投稿となったAmodeiの発言が、この論争を一段と加速させた。

Amodeiは、「規制か無規制か」という二項対立を「偽の選択肢」と切り捨てた。シリコンバレーの一部では「規制＝規制の虜（regulatory capture）」という前提が共有されているが、それは単純すぎると主張。良い制度が個人ではなく理念に権力を根付かせるとき、規制は企業権力を抑制し、一般市民を助けうると論じた。

オープンモデル（重みが公開されているモデル）について、Amodeiは核心を突く指摘をした。「オープンモデルは問題を部分的にしか解決しない。権力の集中先を、最も多くの計算資源とAIチップを持つ者へと移すだけだ。結局、大手ラボへと戻ってくる」。そしてこの中央集権化はスケーリング則（モデルを大きくするほど性能が上がるという経験則）に起因するものであり、規制のせいではないと主張した。

Anthropicが自社に不利になりうる規制も支持するとの証拠として、Amodeiはカリフォルニア州のSB53法を挙げた。SB53はAIの安全性確保を目的とした規制法で、大規模モデルの開発者に対してリスク評価や安全対策の実施を義務付けるものだ。収益やトレーニングコストが一定基準以下の企業を要件から完全に免除する構造になっており、結果として大手に対して小規模ラボを有利にする設計だという。業界全体を縛る規制ではなく、能力に応じた責任を課す設計をAmodeiは「自社に不利な証拠」として持ち出した形だ。

Bakerの反撃——「それは規制の虜そのものだ」

元ホワイトハウスAIアドバイザーで投資家のDavid Sacksは、9件の連続返信でAmodeiに反論した。

Sacksが最初に指摘したのは、BakerがAmodeiの「唯一の民間企業」発言を明確に否定していないという点だ。否定しようと思えばいつでもできるはずなのに、していない。

さらにSacksは、ノーベル経済学賞受賞者George Stiglerが定義した「規制の虜」の概念を持ち出した。Stiglerの定義では、ある産業が規制を獲得し、主に自社の利益のためにそれを運用する一方で、一般大衆への利益は分散・無組織化されたままになる状態を指す。AnthropicはBiden政権のAI関連官僚を複数採用しており、このメカニズムを熟知していると皮肉った。

Amodeiが提案する「トップモデルのリリース前審査を行う連邦機関」についても、Sacksは「AIの認可事務所」と呼んで批判。そのような審査プロセスは長い待ち行列を生み、同様の要件を採用しない中国に対してアメリカを遅れさせると主張した。

Bakerはより率直で、「この議論はもう決着がついている。Anthropicをのぞくほぼすべての主要企業が、Jensen Huangのオープンモデルへのサポートレターにサインしている」と述べた。

論争の構図

スケーリング則が働く限り、計算資源を大量に持つプレイヤーが優位に立つ構造は変わらない。この構造的事実を、規制で緩和するのか、競争の拡大で対抗するのか——議論の着地点はまだ見えていない。

注目すべきは、Amodeiの立場が単なる自社利益の擁護でないと読める点だ。Anthropicは創業当初から「AIの安全性」を中核に掲げており、今回の主張もその延長線上にある。規制を支持する理由として自社に不利な法律を持ち出す論法は、理念的な一貫性を示すと同時に、業界内での孤立も際立たせている。技術の拡散と集中のどちらがリスクを低減するかという問いに、いまだ明確な答えは出ていない。

詳細はAnthropic CEO says AI centralizes by nature and open models just shift power to whoever owns the chipsを参照していただきたい。