8月8日、Matthias Bastianが「Fields Medalist who published a paper on AI-driven human extinction now works for OpenAI」と題した記事を公開した。AIによる人類絶滅シナリオを学術論文で正面から論じたフィールズ賞受賞者が、OpenAIのAI安全性チームに加わった。「リスクを警告した研究者が最大手AI企業に入る」という逆説的な構図が、AI安全性研究の現在地を鮮明に映し出している。

絶滅リスクを論じた数学者がOpenAIへ――その逆説的な意味

Jacob Tsimerman（ジェイコブ・ツィマーマン）は2025年にフィールズ賞を受賞したトロント大学所属の数論学者だ。フィールズ賞は4年に1度、40歳以下の数学者に授与される数学界最高の栄誉であり、その受賞者がAI企業の安全性部門に加わること自体が異例の出来事といえる。

さらに注目すべきは、Tsimermanが入社以前にAIが人類の絶滅に寄与しうるシナリオ（omnicide events）を論じた論文を発表していた点だ。「オムニサイド（omnicide）」とは、特定の集団ではなく人類全体の絶滅を引き起こしうる事象を指す概念で、Tsimermanはその論文の中でAIが高度な自律性を持った場合に人間の制御が及ばなくなるリスクや、意図せず人類に壊滅的な影響を及ぼしうる経路について論じている。論文はarxivで公開されており、学術的な文脈でAIの実存的リスクを取り上げた研究として注目を集めた。

絶滅リスクを正面から論じた研究者が、そのリスクの主要な発生源ともなりうる企業の安全性チームに自ら加わる——この構図は、AI安全性研究における人材の動き方として象徴的だ。

「数学者にはここで貢献できることが多い」——Tsimerman自身の言葉

Tsimermanは入社にあたり、その動機を率直に語っている。「AIは極めて変革的な技術であり、社会は安全性への取り組みにはるかに多くのリソースを割くべきだ」というのが彼の基本的な立場だ。

加えて、数学者としての専門性がAI安全性研究に直結するという確信も示している。「AIシステムは現在も主に経験則的な手法で動いており、実際にどう機能するかについての理論的な保証がほとんどない。数学者にはここで貢献できることが多い」と述べた。

この発言は、Tsimermanの専門領域である数論がなぜAI安全性に接続されるのかを示す重要な文脈を含んでいる。数論は整数や素数の構造を厳密な証明によって解き明かす分野であり、「なぜそう動くか」を形式的に保証する思考様式そのものが、ブラックボックス化したニューラルネットワークの挙動を理論的に説明・制約しようとするAIアライメント研究や解釈可能性（interpretability）研究と親和性を持つ。経験則ではなく証明によって信頼性を担保するという数学的アプローチが、AI安全性の理論的基盤構築に貢献しうるとTsimermanは見ている。

一方、こうしたAIリスクをめぐる議論には根強い対立もある。The Decoderが以前「AI終末論者は絶望のカルトを生み出している」と題した記事で取り上げたように、著名な研究者の間でもAI実存的リスクの深刻さについては評価が大きく分かれている。Tsimerman自身は「パニックは正しい反応ではないが、リスクを誠実に評価する必要がある」という立場であり、扇動的なドゥームズデイ論とは距離を置いている。

数学AIの現在地：「近い将来、AIが人間を超える」

Tsimermanは、AIが近いうちに数学研究において人間を超えるパフォーマンスを発揮すると確信しているという。現在のAI数学ツールがすでに高度な定理証明や数式操作を実行できる段階にあることを踏まえれば、この見方は単なる楽観論ではなく、現場の研究者としての実感を反映したものだ。

一方、DeepMindのCEOであるDemis Hassabisはやや慎重な見方を示している。最近のAIの数学分野における進歩を「前進ではあるが、まだ根本的なブレークスルーではない」と評価した。彼が比較の基準として挙げたのが、DeepMindのAlphaGoが2016年の囲碁対局で人間のプロが予測できなかった一手を放った「Move 37」だ。

数学における「Move 37」相当のブレークスルーとは何か——Hassabisによれば、それはミレニアム懸賞問題（クレイ数学研究所が各100万ドルの賞金を懸けた7つの未解決問題）を解くことだという。リーマン予想やP≠NP問題など、数学者が100年以上取り組んできた問題群だ。現時点でのAIはこれらの問題を解くには至っていないが、Hassabisは「できない理由が見当たらない」とWSJのインタビューで語っている。

まとめ：純粋数学とAI安全性研究の交差点

フィールズ賞という数学の頂点に立つ人物が、AIリスクの深刻さを自ら論文で示した上でOpenAIに加わる。この動きは、AI安全性研究が単なるエンジニアリングの問題ではなく、理論的・数学的な厳密さを必要とする分野として認識されつつあることを示している。

純粋数学の証明的思考がAIの挙動を理論的に保証するアプローチに貢献できるとすれば、Tsimermanのような数学者の参入はOpenAIの安全性研究体制に質的な変化をもたらす可能性がある。

※編集部の考察：数論のような抽象数学がAI安全性研究に直接応用されるには相当の飛躍があることも事実であり、Tsimermanが具体的にどのような研究課題に取り組むのかは現時点では明らかになっていない。その実績と動向を引き続き注目したい。

詳細はFields Medalist who published a paper on AI-driven human extinction now works for OpenAIを参照していただきたい。