9月26日、Matthias Bastianが「Another Google Deepmind researcher quits, says building superintelligent AI soon is "inherently irresponsible"」と題した記事を公開した。タイトルに含まれる「Another（またも）」という語が示す通り、Google DeepMindからは以前にも安全性への懸念を理由とした著名研究者の離脱が起きており、今回はその流れに連なる新たな退職事例となる。今回退職したRobert O'Callahanの証言は、単なる個人の決断にとどまらず、業界内部に広がる「声なき懸念」の存在を浮かび上がらせている。
「自分の仕事をもう正当化できない」
退職したのは、ニュージーランドのGoogle DeepMindでテクニカルエキスパートを務めていたRobert O'Callahanだ。彼のブログ投稿「Goodbye Google」がその詳細を明かしている。
O'Callahanが担当していたのはチップ設計ツールの開発で、AIをより安価かつ高速にするための貢献をしてきた。しかし彼はその仕事を「もはや正当化できない」と判断し、職を去った。
彼の主張の核心はこうだ。「現在のAIの変化のスピードは速すぎる」、そして「近い将来のASI（人工超知能）を目指すことは本質的に無責任だ」。
超知能AIからのリスクを「現実的だが不確実なもの」と位置づけつつ、以下のような複合的なリスクを列挙している：
- 認知的降伏（cognitive surrender）：AIへの依存によって人間が思考を放棄すること
- AI起因の精神症状・孤独感：チャットボットとの過度な関係がもたらす心理的影響
- 権力の集中：AIが特定の企業や個人への支配力を強める構造的問題
- 経済的混乱：雇用や金融市場への影響
- サイバーセキュリティリスクとアカウンタビリティの欠如
これらを総合して、O'Callahanは「AIの害が便益を上回る」と見ている。
「同僚の多くも懸念を持っているが、公言しない」
こうした内部からの異議申し立ては、O'Callahanが初めてではない。Google DeepMindをはじめとする主要AI研究機関では、安全性への懸念を公にして去った研究者が過去にも複数存在する。だからこそ元記事タイトルが「Another（またも）」という語で始まっている。にもかかわらず、組織の内側に踏みとどまり沈黙を選ぶ人間が大多数を占め続けている現状がある。
その点で特に重要な指摘は、「DeepMindの同僚の多くが同様の懸念を持ちながら、公の場でほとんど発言しない」というO'Callahan自身の証言だ。これは業界内部の空気感を直接示す言葉であり、退職声明の域を超えた「内部告発」的な意味合いを持つ。
AI安全性をめぐる懸念が繰り返し著名研究者の退職という形で表面化してきた一方で、組織内に残る大半の研究者が沈黙を選んでいる構造は、この問題の根深さを示している。
彼は今後、「明確に人間のためになる」（unambiguously pro-human）仕事をしたいと述べている。
「ドゥーマリズム」と政治的文脈
O'CallahanはEliezer YudkowskyとNate Soaresによる論考「If Anyone Builds It」をリンクしているが、「超知能AIは必然的に破滅をもたらす」という主張を全面支持するわけではないとも断っている。
Yudkowskyらは**Effective Altruism（効果的利他主義）**と関連する人物として知られている。この思想運動は、証拠と理性に基づいて「最大の善」を追求することを掲げ、AI安全性をその重要課題の一つと位置づけてきた。
さらに政治的な文脈も加わっている。Axiosの報道によれば、米ホワイトハウスのメモがEffective Altruismをカルト的な周縁グループと位置づけ、AnthropicのCEOであるDario AmodeiをAI「ドゥーマリズム」（終末論的悲観主義）の象徴として名指しで批判しているという。
AI安全性への懸念を訴える声が、技術的・思想的議論を超えて政治的レッテル貼りの対象になりつつある現状を示す動きだ。こうした政治的圧力の存在が、組織内に残る研究者たちの沈黙をさらに後押ししている可能性もある。
まとめ
業界内部からのAI懸念表明は今や珍しくないが、O'Callahanのケースが示すのは単なる「退職声明」ではない。自分が作ったツールがAIを加速させることへの直接的な自責と、組織内に沈黙する多数の懸念者が存在するという証言が重なり合い、問題の構造的な深さを浮かび上がらせている。AIの開発速度と安全性をめぐる議論が、業界外の政治とも絡み合い始めている今、こうした内部からの声がどう受け止められるかは注視に値する局面にある。
詳細はAnother Google Deepmind researcher quits, says building superintelligent AI soon is "inherently irresponsible"を参照していただきたい。
