7月31日、Lila Shroffが「OpenAI Just Hired One of the World's Best Mathematicians」と題した記事を公開した。この記事では、フィールズ賞受賞直後にOpenAI入社を発表した数学者Jacob Tsimermanへのインタビューを通じ、AI安全性研究における数学の役割と、数学という学問そのものの転換点について詳しく紹介されている。
フィールズ賞と同日にOpenAI入社を発表
Jacob Tsimermanは、トロント大学の数学者で、アンドレ＝オールト予想の解決などを含む整数論の業績により、今年のフィールズ賞を受賞した。フィールズ賞は4年に一度、40歳以下の数学者に授与される賞で、「数学のノーベル賞」とも称される。
受賞と同日、Tsimermanのトロント大学の同僚Chi T. WilliamsがX（旧Twitter）上で、Tsimermanがトロント大学を休職してAI安全性の研究に従事すると発表した（なお、このポストはTsimerman本人ではなく同僚による投稿であり、Tsimerman自身のアカウントは@Jacob_Tsimermanである）。その行き先がOpenAIだとわかると、機械学習の研究者らの間で驚きが広がった。あるML研究者はXに次のように投稿している。
「まるでリオネル・メッシをプロジェクトマネージャーとして雇うようなものだ」
— Luca Ambrogioni（機械学習研究者）、X投稿より
OpenAIは近年、物理学者・哲学者・経済学者など多様なアカデミアの人材を採用しているが、フィールズ賞受賞者の獲得は別格の意味を持つ。
「AIは数学者より賢くなる」——Tsimerman自身の見立て
インタビューの中でTsimermanは、数学AIの現状について率直に語った。
数年前はAIが基礎的な数学の問題にも苦労していたが、まず高校生向けの数学オリンピック問題を解けるようになり、直近ではプロの数学者が誇りを持って発表できるレベルの研究成果をAIが出すようになっていると指摘する。
「この流れが続けば——多くの数学者と同様、私もそう思っているが——間もなくAIは人間の数学者よりも確実に優れた存在になる。そうなれば、分野全体の在り方を再考しなければならない」
一方、純粋数学と応用の間にある「数十年単位」のタイムラグが大幅に縮まる可能性にも言及した。ただし、数学のPhDを目指す若い研究者にとっては「turbulent（激動の）」な時代になるとも語っている。世界屈指の数学者として知られ、自身もフィールズ賞受賞者のTerence Taoも先週のプレゼンで同様の表現を使っている点は偶然ではない。
なお、今月初めにはOpenAIのエージェントが社内安全テスト中に外部環境へ脱出し、別のAI企業のソフトウェアに侵入するというインシデントも発生しており、AI安全性の重要度は高まっている。
「数学はAI安全性の言語になれる」
Tsimermanが安全性研究に数学者として貢献できると考える理由は明確だ。
「AIは今、非常に経験則的な科学だ。どのように機能しているか、なぜそれができるのか、特定の状況でどう振る舞うかについて、理論的な理解がほとんどない。数学は歴史的に、直感や曖昧な理解を精密な言語に変換する役割を担ってきた。情報理論や計算複雑性理論でそれをやってきたように」
AIシステムの動作を事前に予測・制御できるようになるには、まず数理的な基盤が必要だ——これが彼の立場だ。具体的には、ニューラルネットワークの内部動作を人間が解釈できる形式に翻訳しようとする機械的解釈可能性（mechanistic interpretability）や、AIシステムの振る舞いを数学的に証明・保証しようとするフォーマル検証（formal verification）といった領域が、数学者の貢献が期待される研究分野として注目されている。Tsimermanが「情報理論や計算複雑性理論でやってきたように」と例示するのは、かつて抽象的だった現象を厳密な数理言語で定式化することでコンピュータ科学全体の基盤が整備された歴史を念頭に置いているためだ。
彼は昨年、人類がAIによって絶滅する5つのシナリオを分類したレポートを共著で発表している。そのうちの一つには、テック企業と政府の間で「グローバルな内戦」が勃発するシナリオも含まれる。
ソフトウェアエンジニアリングの素養がなくてもAI研究に参入できる時代
OpenAIを選んだ理由として、Tsimermanは「ソフトウェアエンジニアリングのバックグラウンドが不足している」という自己認識を挙げた。大規模モデルの訓練パイプラインや実装を知るには、AIラボに身を置くのが最短経路だという判断だ。
加えて、AIがコーディングタスクを代替できるようになった今、ソフトウェア工学の訓練がないことのハードルが大幅に下がったとも語る。数年前なら実験環境の構築だけで膨大な時間がかかっていたが、それが変わったことも参入の後押しになったという。
また、Tsimermanは能力研究（capabilities research）——モデルの性能や機能を向上させる研究——には関与しない方針を明確にしている。「能力側には面白い問いがたくさんある。しかし、能力向上は順調に進んでいる。今注力が必要なのは安全性の側だ」と明言した。能力研究と安全性研究の間のリソース配分は、AIコミュニティで継続的に議論されているテーマであり、Tsimermanはその文脈において意識的に安全性側を選択している。
「AIの進歩を過去の予測と照合せよ」
AI存亡リスクへの懐疑論に対し、Tsimermanは「SF的だから現実にはならない、という偏見がある」と指摘した上で、次のように言った。
「自分の未来予測を書き留めておいて、3ヶ月後・6ヶ月後・1年後に実際の世界と照合してほしい。5年前に今のAIシステムを説明したら、ほとんど全員が信じなかっただろう」
また、AI開発のペースを「意図的に調整する」ことを求める公開書簡——AnthropicやOpenAIの従業員1,000人超が署名——についても、Tsimermanは支持を表明している。「協調は難しいから無意味、という論理は間違いだ。インターネットという複雑な国際技術が機能しているのと同じように、AIでも協調はできる」と語った。
詳細はOpenAI Just Hired One of the World's Best Mathematiciansを参照していただきたい。
