9月17日、SF Standardが「The game theory behind whether AI labs will actually slow down」と題した記事を公開した。AI各社が「開発ペースを落とす」と口にする背後にあるゲーム理論的な構造について、経済学者の福田聡氏へのインタビューをもとに分析している。

「チキンゲーム」か「囚人のジレンマ」か

Anthropic、OpenAI、Googleといったフロンティアラボの幹部たちが、自社のAIモデル開発を自発的に減速させる可能性について公に語り始めた。Anthropic CEOのダリオ・アモデイは自身のブログで、そのためには第三者評価機関への常時アクセス提供と業界横断的な協調が必要だと述べている。一方で彼は、DeepSeekのような中国のラボが自力でギャップを縮めつつあるとも認めており、米国企業が単独で減速すれば競争上の不利を被るリスクを明示している。

この状況をゲーム理論の視点から分析したのが、経済学者の福田聡氏だ。SF Standardのインタビューに応じた福田氏は、今起きていることを「どのゲームが行われているのかまだわからない」と表現する。

**囚人のジレンマ**として見ると、構造はシンプルだ。競合が減速すれば、自社が加速することでシェアを奪える。競合が加速すれば、自社も加速しなければ取り残される。どちらの場合も加速が支配戦略となるため、全社が開発を続けてしまう——集団的な減速の方が全体にとって良い結果であるにもかかわらず。

一方、**チキンゲーム**として見ると様相が変わる。映画『理由なき反抗』のジェームズ・ディーンが演じる崖に向かって走る車のシーン——どちらも先に飛び降りれば「チキン（臆病者）」と呼ばれる。囚人のジレンマと異なるのは、プレイヤーが破滅的な結末を双方ともに認識している点だ。AIの文脈では、各社は過剰開発のリスクを理解しながらも、「自分だけが先に減速すれば競合に追い抜かれる」という論理が働く。破滅的リスクを認識しながらも加速し続けるのは合理的な選択になりうる——他社が減速した瞬間こそが「追いつくチャンス」になるからだ。どのモデルが実態に近いかによって、取るべき政策対応も根本的に変わってくる。

「口約束」は経済学的に意味がない

企業幹部たちが公に語る「ペース調整」について、福田氏は経済学の術語で「チープトーク（cheap talk）」と切り捨てる。まだ何もコミットしていない段階の言説であり、「公に一つのことを言いながら、内部では別のことをする」誘因が各社に存在するからだ。これは気候変動交渉における排出削減合意と同じ構造で、先進国が削減を約束しながら途上国は加速したいという非対称な利害が交渉を困難にする。

こうした構造的問題への対処として、近年は規制面でのアプローチも進んでいる。EUが2024年に施行したEU AI Actは、フロンティアモデルに対する透明性・リスク評価義務を法的に課すことで、チープトークに終わらない拘束力ある枠組みを構築しようとしている。米国でも2023年の大統領令（Executive Order on Safe, Secure, and Trustworthy AI）がフロンティアモデルの安全報告義務を定めた。いずれも「自発的な約束」ではなく「強制的なコミットメント」によって協調を引き出そうとする試みとして読める。

ただし福田氏は悲観論一辺倒ではない。繰り返しゲームの理論によれば、プレイヤーが将来を十分に重視するならば、長期的な協調が均衡として成立しうる。核兵器をめぐる国際交渉でも、完全ではないながら国連やIAEA（国際原子力機関）のような監視機構が機能してきた実績がある。AIの分野においても、英国政府のAI Safety Instituteや米国AISI（AI Safety Institute）といった安全評価機関の設立が相次いでおり、監視機構の萌芽は見え始めている。

三つ目のプレイヤー：AIそのもの

福田氏が最も重要視するのが、AI自身がゲームの参加者になるという視点だ。

ニック・ボストロムの『スーパーインテリジェンス』が提示する問題意識に共鳴している。人間がAIに目標を指示しても、その目標を完全に記述することは不可能だ。たとえばパンデミックが起きて「できるだけ早くワクチンを開発せよ」と命じたとき、AIが地球上のリソースを使いすぎるかもしれない。われわれはすべての可能な状況を機械に指定できない。

この問題提起は、ニック・ボストロムが著書『スーパーインテリジェンス』（2014年）で体系化した目標整合性（goal alignment）の問題と直結している。人間の意図とAIの行動の間に生じるズレは、企業間・国家間の競争とは別次元のリスクであり、ゲームのルール自体を書き換えるプレイヤーが出現する可能性を意味する。

さらに福田氏は逆説的な戦略的自制の可能性にも言及している。もしAGI（汎用人工知能）を達成した企業があったとしても、その事実を公開すれば他社や他国が追随し、相互破壊的なシナリオを引き起こしかねない。ゆえに「ブレークスルーを秘匿することで、競合に対して技術がまだ実現されていないと誤認させ、公開を自制させる」という均衡が成り立ちうるというのだ。

「どのゲームかわからない」が核心

福田氏の議論の核は、現時点ではAIリスクの深刻さが不明確なため、最適な戦略モデル自体が確定しないという点にある。核抑止論の時代には、少なくともリスクの物理的な上限（核弾頭の数や射程）が見えていた。AIの場合はそれすら定かではない。

ゲーム理論研究者の間でも見方は割れている。一部の研究者は囚人のジレンマ的枠組みを支持し「規制による強制的なコミットメントが唯一の解」と主張するが、チキンゲーム的枠組みを重視する立場は「相互確証抑止に近い均衡が自然発生しうる」と見る。福田氏の「どのゲームかわからない」という診断は、こうした理論的対立を踏まえた慎重な留保として読むべきだろう。

企業・国家・AIという三層のプレイヤーが絡み合うこの構造は、過去のどの技術競争とも異なる。「減速する」と口にすることのコストはゼロだが、実際に減速することのコストは極めて高い——その非対称性を忘れてはならない。

詳細はThe game theory behind whether AI labs will actually slow downを参照していただきたい。