9月16日、Henry Cohnが「The technical debt of AI-generated mathematics」と題した記事を公開した。寄稿先はフィールズ賞受賞者・テレンス・タオのブログであり、数学者・エンジニア双方から広く読まれるこの場に、MITの数学者・Henry CohnがAI生成数学の「技術的負債」問題を正面から論じたエッセイを寄せた。AIが未解決問題の答えを出力できる時代に、「理解なき解答」はコミュニティに何をもたらすのか——その問いが本稿の核心にある。
「解けた」は始まりにすぎない
数学において本質的な価値は「答えを得ること」ではなく「理解すること」にある、というのがHenry Cohnの出発点だ。
この視点は一見当たり前に見えるが、AI時代において極めて重要な問いを含んでいる。AIが未解決問題の答えを出力できるとして、その答えがコミュニティに理解され、内面化されなければ、それは「言葉が並んでいるだけ」に過ぎない、とCohnは述べる。
実例として挙げられているのが望月新一によるABC予想の証明だ。Cohnは望月を優秀な数学者として評価しつつも、「仮に証明が正しいとしても、数学コミュニティがそれを理解できず、望月自身もそのギャップを埋められていない以上、影響力は限定的だ」と指摘する。難解さは、意図がどれだけ善意であっても、進歩をほぼゼロにする。
もう一つの対照例として、Maryna Viazovskaによる球充填問題の解決が挙げられている。Cohn自身が長年挑んでいたこの問題をViazovskaに解かれたにもかかわらず、「人類の理解が豊かになり、自分も貢献できる新しい方向が開けた。誰にとっても明らかなプラスだった」と述べている。
AIが生む「数学スロップ」問題
Cohnが「math slop（数学スロップ）」と呼ぶのは、AIが生成しがちな次のような出力だ。なお"slop"は「粗悪なもの・残飯」を意味する英俗語であり、品質の低いAI生成コンテンツを指す文脈で近年広く使われている。
- 不必要に複雑な計算
- 脈絡のない場当たり的な手法
- 動機づけが不明確な論証
- 整理されていない構造
事実として正しく、新規のアイデアを含む場合でさえ、こうした出力は「読む側に多大な苦痛を与える」とCohnは述べる。ゼロから解くよりは楽かもしれないが、「例外的に不快で時間のかかる作業」になりうる。
人間の数学者も作業初期はスロップ状態になることがある。しかしその状態で放置しないよう努力するのが規範だ。AIはその規範を持たない。
ソフトウェアエンジニアリングの「技術的負債」との対比
Cohnはこの問題を技術的負債の概念で鮮明に整理している。
動作はするが設計が粗雑なコード、ドキュメントが不十分なシステム——それらは後に誰かが清算しなければならないコストを積み上げる。AIが生成した数学のスロップも同様に、コミュニティが将来支払うべき負債を作り出す。
ただし、数学における負債はソフトウェアのそれより厄介だとCohnは指摘する。技術的負債を抱えたプログラムは少なくとも動く。しかし数学においては、「答えが存在する」という事実だけでは、理解が伴わない限りほとんど価値を生まない。
かつては負債を作り出す側と清算する側がほぼ同一だったため、社会的な抑止力が働いていた。しかし今は誰でもボタン一つでスロップを生成できる。ボタンを押すことは貢献ではない、とCohnは明言する。貢献とは、その出力をどう扱うかにある。
何をすべきか
「AIで未解決問題を解いてインターネットに投稿し、放置する」行為に対し、Cohnは「他者に後片付けの作業を押し付けているのと同じだ」と指摘する。それでも貢献を主張したいなら、以下のような責任を引き受けるべきだとしている。
- 分野の研究者と対話し、理解の橋渡しを試みる——単なる公開ではなく、専門家とのコミュニケーションが不可欠だ
- 生成に至ったプロセスを共有する——出力だけでなく、どのようなアプローチで導いたかを記録することで、他者が検証・再利用しやすくなる
- 特殊な計算リソースを持っているなら、理解のためにそれを活用する——生成だけでなく、検証・整理にもリソースを投じることが求められる
- AIを使ってさらに詳細を引き出すことを試みる——生成物を出発点として、AIを活用しながら理解を深める反復プロセスが有効だ
万能な解法はないが、「公開する価値があると判断した以上、責任を持って取り組む価値もある」というのがCohnの結論だ。
なお、Cohnは無責任なAI活用を一律に批判しているわけではない。「AIを活用しながらも、成果物をきちんとドキュメント化した非数学者と交流した経験があり、AIが数学への貢献者を広げている側面は明らかに良いことだ」とも述べている。
詳細はThe technical debt of AI-generated mathematicsを参照していただきたい。
