9月14日、Paul Kedroskyが「AI IPOs and Frontier AI as a Prisoner's Dilemma」と題した記事を公開した。フロンティアAI開発の減速を求める議論が「囚人のジレンマ」という経済学的構造に陥っている問題を論じており、「止めたいなら自分たちで止めればいい」という批判がなぜ論理的に成立しないかを丁寧に解きほぐしている。

「なぜ自分たちで止めないのか」という批判

先週、「AIの急速な進歩が人類を滅ぼしかねない」という懸念が再燃した。AnthropicのCEO、Dario Amodeiがフロンティアモデルの開発ペースを落とすべきと主張し、業界内でもその方向に収斂しつつある。

これに対し、新たな批判が浮上している。「OpenAIやAnthropicがフロンティアモデルを本当に危険だと思っているなら、カルテルや規制の枠組みを求める前に、自分たちだけで止めればいい」という論理だ。

カルテルも不要、独占禁止法の特例も不要、新たな規制体制も不要。モデルが本当に危険なら、フロンティアラボが自主的に手を止めればよい。そうしないということは、AI安全の旗を掲げた規制の囲い込み（regulatory capture）に過ぎないのではないか、という見方だ。

regulatory captureとは、規制機関が被規制産業の利益を優先するように取り込まれる現象を指す概念で、経済学者ジョージ・スティグラーが1971年に定式化したことで広く知られるようになった。大企業が「安全」「公益」の名のもとに規制を歓迎し、新規参入者や小規模競合を締め出す手段として機能させるパターンは、歴史上さまざまな産業で繰り返されてきた。フロンティアラボが、小規模な競合他社に不利な規制を歓迎するインセンティブを持っていることは確かであり、「安全」の名のもとに既得権益を規制に転換する構図は警戒に値する。

ただし、Kedroskyはこの批判を全面的に肯定するわけではない。安全を求める声のすべてが偽装された競争規制だとは言い切れないからだ。

囚人のジレンマとしてのAI安全問題

記事の核心はここにある。AI安全はほぼ定義上、集団行動問題（collective-action problem）だ、という指摘だ。

OpenAIは「すべてのフロンティアラボが一斉に減速する世界」を望んでいるかもしれない。Anthropicも同様だ。しかし、どちらも「自分だけが止まり、他社は走り続ける世界」は望まない。その間に、研究者を引き抜かれ、顧客を奪われ、能力格差を広げられるからだ。

これは偽善ではない。ジョン・ナッシュの均衡問題、つまり囚人のジレンマそのものだ。

囚人のジレンマとは、ゲーム理論における古典的な状況を指す。各プレイヤーが個別の合理的判断に従って行動した結果、全員にとって最悪の結末に収束してしまう構造だ。核軍縮交渉や漁獲規制の失敗など、歴史上繰り返し見られるパターンである。

AIの文脈に置き換えると、以下のような構造になる。

• 全社が減速する → 安全リスクは下がるが、誰も単独ではそこに踏み出せない
• 自社だけが減速する → 競合に市場を奪われ、経営的に致命傷になりかねない
• 全社が走り続ける → リスクは高まるが、これが「均衡状態」として固定される

規制や国際条約のような外部的な拘束力なしには、この均衡から抜け出すことが極めて難しい。「自主的に止めればいい」という批判は、この構造を無視している点で、論理的に成立しないとKedroskyは示している。

IPOがジレンマをさらに深める

記事タイトルが示す「IPO」の論点は、この囚人のジレンマにさらなる圧力をかける要素として位置づけられている。

フロンティアラボの多くは現在、急速な成長フェーズにあり、OpenAIをはじめとする主要プレイヤーが上場（IPO）に向けた動きを加速させている。上場企業、あるいは上場を目前にした企業には、株主・投資家への説明責任が生じる。「安全上の懸念から開発ペースを落とす」という経営判断は、成長期待を前提とした投資家への説明として極めて困難だ。

つまり、IPOという資本市場のメカニズムそのものが、フロンティアラボを「走り続ける」均衡に縛りつける力として働く。安全への配慮と投資家への成長コミットメントは、構造的に相反する。自主的な減速が「経営判断として合理的でない」状況が制度的に固定されているとすれば、「止めたければ止めればいい」という批判はさらに的外れということになる。

Kedroskyが「AI IPOs」をタイトルに据えたのは、資本市場の論理がいかにAI安全の集団行動問題を悪化させているかを示す文脈においてであり、IPO自体の詳細な財務分析を行うためではない。囚人のジレンマの「なぜ抜け出せないか」を説明するうえで、上場圧力は不可欠なピースとして機能している。

「止めろ」論の限界

この記事が示す最も重要な論点を整理すると、「フロンティアAIの開発を止めるべき」という主張は倫理的には理解できても、ゲーム理論的には成立しない、ということだ。

単独で手を止めることは競争上の自殺を意味し、外部的な拘束なしには全体最適に到達できない。さらに、上場を目指す・あるいは上場している企業としての資本市場への責任が、この構造をより硬直させている。regulatory captureへの警戒は正当だが、だからといって「自分たちで止めればいい」という批判が解決策を示しているわけでもない。

Kedroskyは解決策を提示するわけではなく、問題の構造を正確に記述することに徹している。だからこそ、この分析は「止めろ派」にも「規制反対派」にも、一方的な慰めを与えない。

詳細はAI IPOs and Frontier AI as a Prisoner's Dilemmaを参照していただきたい。