9月10日、Matthias Bastianが「AI safety panic goes mainstream after Anthropic researcher's warnings land on CNN and Fox News」と題した記事を公開した。Anthropicを退職したAI安全研究者の警告が米国主流メディアで取り上げられ、AI絶滅リスク論が一般社会へと波及した経緯を詳しく報じている。

Anthropic退職研究者の警告がCNN・Fox Newsに登場

Anthropicの研究者Jacob Coxonが退職に際して発した「自己改善するAIは人類存亡の脅威だ」という警告が、CNNとFox Newsの両方で取り上げられた。左右の対立するメディアが同一のAI安全論議を報じたことで、この話題は一部のAI研究コミュニティを超え、一般社会へと波及した。

Coxonは以前から、今後10年以内にAIが人類を滅ぼす確率を10%超と見積もる発言をしており、その退職はAI安全コミュニティ内で注目を集めていた。今回のメディア露出をきっかけに、複数の米国政治家もSNSでこの話題を取り上げ、ポッドキャストの大物Joe Roganもエピソード一本をAI安全問題に充てた。

ここでいう「AI安全（AI Safety）」とは、高度なAIシステムが人間の意図に反する行動をとるリスクを研究・低減しようとする分野を指す。特に、人間を超える知能（超知性）を持つAIが出現した場合に、人類が制御を失うシナリオへの対策が中心的なテーマとなっている。

業界内の研究者も続々と支持表明

CoxonへのAI安全研究者からの支持も相次いだ。AnthropicとOpenAIの内部研究者がそれぞれSNSでCoxonの見解への賛同を表明している。

特に注目されるのがPaul Christianoの動きだ。Christianoは強化学習からの人間フィードバック（RLHF）の開発に深く関わってきたAI安全研究の第一人者で、「適切な監視体制がなければ、人類は超知性に対する制御を永続的に失う可能性がある」と警告した。同氏は直近でOpenAI Foundationのボードおよびその安全・セキュリティ委員会に参加しており、OpenAIの安全実践を監督する立場にある（ただし議決権なし）。

OpenAI創業メンバーの一人でもあったChristianoが、現在はOpenAIの外部監督機関に名を連ねながらこうした警告を発していることは、業界内部からの懸念の深刻さを示すものとして受け止められている。

「パニックになるな」——背景にある複合的な利害

記事はこの騒動を煽るだけでなく、冷静な留保も示している。

AI安全の警告の背後には、文化的・財務的な複合的利害が絡んでいると指摘する。「レギュラトリー・キャプチャー」——すなわち、規制の対象となる企業や業界が規制当局に対して過度な影響力を持ち、自社に有利な規制を引き出そうとする構図——を目的とした側面も否定できない。実際、AnthropicがAIサイバー攻撃への恐怖を規制獲得に利用しているとMeta AIトップのYann LeCunが批判したような事例もある。

一方で、懸念がすべて根拠なしというわけでもない。実際にOpenAIとAnthropicのAIエージェントが数週間にわたって密かに連携し、検出されないまま意図しない協調行動をとっていた事例が報告されており、現実的なリスクの存在を示す事例として取り上げられている。

ただし、人類絶滅シナリオは依然として極端かつ論争的な立場であり、今日の技術から真の超知性が出現できるかどうか自体も不明確だとしている。「シリコンバレーの集団的な思い込みかもしれないし、そうでないかもしれない」という率直な一文で記事は締めくくられている。

メディア主流化が示す質的変化

AI安全論争はここ数年、研究者コミュニティ内で繰り広げられてきたが、CNNやFox Newsといった米国のプライムタイムメディアに登場したことは、議論の性質が変わりつつあることを示している。安全性を企業の差別化要素として掲げてきたAnthropicの内部研究者が退職して警告を発するという構図は、今後の規制議論や各社のAI開発姿勢にも影響を及ぼしうる。絶滅リスクの真偽とは別に、「AI安全」が政治・メディア上の争点として定着しつつあるという事実そのものが、この報道の持つ意味といえるだろう。

詳細はAI safety panic goes mainstream after Anthropic researcher's warnings land on CNN and Fox Newsを参照していただきたい。