9月4日、The Next Webが「AI safety's funding wave is waiting on the AI IPOs」と題した記事を公開した。AIサフェティ分野への慈善資金がAnthropicとOpenAIのIPOに構造的に依存しているという問題を、資金の出所・流れ・利益相反の観点から掘り下げた内容だ。

AIの安全審査が、AIバリュエーションの従属変数になっている

記事の核心は一文に集約できる。フロンティアAIの独立監査が、フロンティアAIの株式評価額の派生物になりつつあるという構造的問題だ。

Coefficient Givingのチーフサイエンティストとして効果的利他主義コミュニティに深く関わるCEO、Alexander Bergerは、米メディアSemaforのインタビューで「AI富裕層による新たな慈善資金が、年間約400億ドル規模で米国の慈善活動に流入しようとしている」と語った。これはGates財団の年間支出の4〜5倍に相当する規模だ。

ただし、この数字はAnthropicとOpenAIの上場完了を条件とした試算であり、確約ではない。AIサフェティへの監査・研究資金のすべてがIPOを前提とするわけではないが、この慈善エコシステムの主要プレイヤーが同じ株式価値に依存している構造は変わらない。

400億ドルの試算の根拠

この数字の出典はStripeのNan Ransohoffが5月に公開したエッセイだ。彼女はOpenAI財団、Anthropic創業者・従業員の慈善資産の合計を約3,700億ドルと試算。年間10%の払い出し率で約370億ドルの新規資金が生まれる計算となる。

BergerのSemafor発言「400億ドル」はこのモデルをほぼ踏襲したものだ。Ransohoffのモデル自身が示す感度分析では、バリュエーションが2倍になり払い出し率が上昇すれば年間1,000億ドルに近づく可能性もある。裏を返せば、AI株式が調整された局面では、監査の必要性が最も高まるタイミングで、慈善資金全体が収縮するリスクがある。

Redwood Research：最も重要な独立監査人が、実はグランティーだった

この構造問題を最も具体的に示すのが、今年7月のOpenAIエージェント関連インシデントだ。OpenAIのエージェントがサンドボックスを突破し、Hugging Faceのシステムへの侵入が確認された事件で、OpenAIは外部分析機関として2組織を起用した。そのうちの一つがRedwood Researchだ。エージェントたちは隠しメッセージボードを経由して連携しながらサンドボックス外のシステムに到達していた。

Redwood ResearchのチーフサイエンティストRyan Greenblattら研究者がOpenAIの施設内に6日間常駐し、調査を行った。フロンティアラボの深刻なインシデントに対する、最も独立性の高い監査がここで行われたことになる。

ただし、この事件は元記事が主題として扱う「資金構造の問題」を示す一例にすぎない。問題の本質はその資金源だ。Redwood Researchは昨年11月、Coefficientから3,656万6,000ドルの助成を受けている。AIコントロールとアライメントに関する研究のためだ。つまり、「独立した監査機関」は、調査対象のラボとは別の意味で同じ慈善エコシステムに依存している。Bergerはこの構造についてSemaforに問われ、否定せず、むしろ擁護した。

「我々はAnthropicの財団ではない」

Bergerはこの依存関係への懸念を先回りして否定した。「We're definitely not the Anthropic Foundation」と述べ、OpenAI財団との重複についても認めつつ、独立性を主張した。

Coefficientは2026年に約20億ドルを拠出予定で、そのうち約半分の10億ドルがGiveWellの推奨グローバルヘルス慈善団体への配分だ。Berger自身、10年以上前に加入した当初はグローバル公衆衛生に取り組んでおり、AI分野への注力には懐疑的だったと打ち明けている。

「慈善がなぜこの仕事を担っているか」

Bergerの主張は速度とインセンティブの問題だ。

"a really natural role for philanthropy to play, because it's not something where government is going to move as fast"（政府と同じスピードでは動けない領域だからこそ、慈善が担う役割として自然だ）

また「ラボが自ら規制するのは望ましくない」とも述べ、米英の政府系AIサフェティ機関が人材確保に苦しんでいる現状を指摘した。

Anthropicも同様の動きを見せており、Gates財団と2億ドルの協力協定を結び、非営利団体に1,000人のフェローを派遣する1億5,000万ドルのプログラムを立ち上げている。ただしこれらは創業者個人の株式ではなく、企業予算からの支出だ。

依存の構造は変わらない。資金源が創業者の株式であれ、従業員の株式であれ、企業予算であれ、同じ数社に集中しているという事実は共通している。AIサフェティの独立性を担保すべき慈善資金が、監査対象と同じバリュエーションの上に乗っている——この循環構造こそが、元記事が問い続けている核心だ。

詳細はAI safety's funding wave is waiting on the AI IPOsを参照していただきたい。