9月12日、The Decoderが「Leading mathematicians fear AI is making their field dumber, and warn the rest of us is next」と題した記事を公開した。フィールズ賞受賞者らが連名でAI産業と数学の目標は「深刻にミスアライン(misaligned)している」と共同声明を発表し、AIが数学の本質的な目的を損なっていると警告したことを詳しく紹介している。
フィールズ賞受賞者らが共同声明
数学界の最高栄誉であるフィールズ賞(Fields Medal)の受賞者を含む著名な数学者たちが、共同声明を発表した。AI産業の目標と数学者の目標は「深刻にミスアライン(severely misaligned)している」という主張が核心だ。元記事では署名者として複数のフィールズ賞受賞者の名が挙げられているが、「25人」という具体的な署名者数については元記事の記載をあわせて確認されたい。
近年、大規模言語モデル(LLM)の数学能力は急速に向上し、「多くの数学分野で長年未解決だった重要な問題を解けるレベル」に達している。AI企業はこうした難問をベンチマーク攻略の対象として扱っており、それが数学という学問とそのコミュニティを傷つけている、と声明は主張する。
声明に署名した数学者の一人、テレンス・タオ(Terence Tao)は以前からAIが数学の根本的な危機を引き起こしうると警告していた人物だ。ほかにもピエール・ドリーニュ(1978年受賞)、ペーター・ショルツェ(2018年)、マリーナ・ヴィャゾフスカ(2022年)、セドリック・ヴィラーニ(2010年)らが名を連ねる。
「問題を解くこと」は目的ではなく手段だ
声明の最も核心的な主張はここにある。
数学における有名な未解決問題は「知識の地平を測るための標識であり灯台」として機能してきた。誰かが解を発見したとき、重要なのは答えそのものではなく、そこに至るまでの新たな思考の枠組みだ。数学者たちはその思考を解体し、講演や議論、簡略化という「長く骨の折れるプロセス」を経て、それを数学の体系へと組み込んでいく。
AIはこのプロセスを短絡させる。声明の言葉を借りれば、「問題を解くことは、概念的理解と洞察という一次目標を達成するためのツールであり代理指標に過ぎない」。マシンスピードで答えを量産することは、「新しいアイデアに命を吹き込むどころか、肥沃な土壌を破壊する」可能性がある。
さらに実務的な問題もある。AIが生成した解は、「適切な論文化、新手法の抽出、先行研究の引用」が伴わないまま発表される。これは「深刻な帰属・剽窃問題」を引き起こすと声明は指摘する。
この声明の背景には、具体的な出来事がある。2人の数学者とOpenAIの間で論争が起きたのだ。ミレニアム懸賞問題(Clay Mathematics Instituteがそれぞれ100万ドルの賞金をかけた7つの未解決問題)の部分的な解法をめぐり、OpenAIが研究者を出し抜いて先に発表しようとしたという疑惑だ。この一件は、AI企業と数学者コミュニティの間にある目標と倫理観のズレを象徴するものとして、声明の文脈に直接結びついている。
脅威は数学にとどまらない
署名者たちが「知的労働全般への脅威」と呼ぶように、問題は数学の外にも広がる。
多くの分野で、長年の訓練は「最終的な答えや成果物を生み出すだけでなく、理解を深め、新たな問いやアイデアを生み出す能力を育てる」ものだった。AIが「その労働の成果を直接生み出す」ようになると、この二つの目的が切り離されてしまう。
教育現場ではすでにギャップが現れている。宿題はAIでこなせるが、試験では禁止されている。この二つの場面のパフォーマンス差は拡大し続けており、2万6000人規模の研究では、AIの学習コストが表面化するまでに2年かかることが示されている。
NATOの特殊作戦大学が最近発表した研究論文が指摘した「認知的コモンズの悲劇(tragedy of the cognitive commons)」も類似の構造だ。各企業がAIでエントリーレベルの仕事を代替することで効率を得る一方、専門知識の侵食コストは業界全体の人材プールに分散される。数学界が今まさに目の当たりにしているのは、それが一つの分野で凝縮して起きている姿だ。
AIの活用を否定しているわけではない
声明はAIの全否定ではない。AIは「真の数学的研究と理解を強化・加速する可能性を持っている」と認めており、数学という職業がAIに適応していかなければならないことも認識している。
ただし「この変化が最終的に分野に利益をもたらすか、破壊的な影響を持つかは、新技術を管理する人間の判断に大きくかかっている」と声明は述べる。
数学コミュニティ、ツールを開発する企業、そして「あらゆる形の知的労働で同様の問題に直面する社会」に対して、この問題への緊急対応を求めている。
詳細はLeading mathematicians fear AI is making their field dumber, and warn the rest of us is nextを参照していただきたい。