数学界が警告！AIの急速な進化がもたらす「数学の終わり」の足音

AIの技術革新が止まりません。最近では数学者の間から、AIが数学的知性の領域を急速に浸食していることに対する懸念の声が上がっています。論理的な証明から複雑な問題解決まで、AIが人間の数学者を追い越そうとしている現状について、専門家たちはかつてないほどの警戒を強めています。

しかし、この宣言では数学は単に正しい答えを出すための機械以上のものだと主張している。

数学にはそれ以上の何かがあるのかもしれないけど、間違いなく最も重要なのはその部分だよ。科学への助成は好きだけど、それはナードのための雇用対策プログラムだからじゃない。

今のところの漠然とした予測だけど、5年後には大学の助成金を使った数学研究でLLMがガンガン使われるようになる。でも、25年前のスーパーコンピュータ・クラスターみたいに、他の誰にも手が出せないような代物になるんじゃないかな。

加速主義者は、人間による適切な帰属や証明検証が失われることは、衰退しつつある分野における無意味な短期的なあがきだと主張するかもしれないね。

数学は、1990年代のチェスと同じように、人間と機械がパフォーマンスを最大化する時代に突入しようとしているようだ。でも、将来的に優秀な数学者ですら（今のチェスのように）機械の中の雑音に過ぎなくなる未来を想像してみてほしい。AIが人間の介入なしに証明を生成し検証する未来。数学そのものが人間の理解を超えてしまうような世界だ。

そんな未来が来たとき、若手の数学者がこうした発展によって能力を伸ばせなくなることに何の意味があるんだろう？ おそらくないだろうね。プログラミングも同じ問題を抱えている。AIが能力の階段を駆け上がっていく中で、シニアエンジニアとしてのスキルを磨く機会を持つ人が減ることに、果たして意味があるのか？ 多分、そうでもないはずだ。

数学（や科学）の研究の多くは、好奇心主導で始まりながらも、時折一般社会に巨大な利益をもたらすという不思議な性質を持っている。

緊急で実用的な問題も中にはある。個人的には、直接的で実用的な問題であればあるほど、研究コミュニティはAIの使用を肯定する傾向があると感じる。

最近のAIの進歩で気に食わないのは、本来そうじゃない方向の問題に手を出していることだ。エルデシュ数に絡むような問題こそ、人々が純粋に楽しみのために解こうとする「役に立たない」種類の問題だし、若者が経験を積んで自信をつけるための登竜門でもあるからね。

こういう問題を自動的に解いてしまうのは、研究の長期的な健全性にとってはプラスじゃないと思う。少なくとも当面の間は、人々にこの分野に興味を持ってもらい、スキルを磨いてもらいたいわけだしね。こうした進歩、特にその提示の仕方は、若者の意欲を直接的に削ぐものだよ。

「テクノロジー業界は商業的な論理に従って動いているが、それは数学の価値観とは相容れないものだ」とコロンビア大学のマイケル・ハリス教授は語る

元物理学者であり、現在はデータサイエンティスト兼エンジニアをやっている身として断言できるけど、商業的な利益こそが数学研究と研究者を突き動かしているんだよ。

数学は問題を解決するためのツールだ。数学者の中にはツールを使うプロセスそのものを愛する人もいるだろうけど、商業的に役立つツールを開発させるために数学者の注意を引きつけているのは、間違いなく商業的な論理だよ。

人間（数学者）がここで適応することを期待するのが、なぜ間違いなの？ AIはすでに人間には見つけられなかった問題の解決策を提示し始めている。文化なんてものは、価値がなくなるまでは価値があるものだよ。

これと、生成AIが登場した時に不満を言っていたアーティストや作家たちとの間に共通点を見出す人は他にいない？ 多くの人はAIが多くの業界にもたらす破壊的な影響を、自分に直接被害が及ぶまで実感できていないんだと思う。まさに「個人の物語（https://en.wikipedia.org/wiki/Personal_fable ）」のスケール版だね。

10年以上前に私が数学の道ではなくOSSの世界へ深くのめり込んだ理由の一つは、そっちの方が圧倒的にアクセスしやすかったからだ。あらゆるものにドキュメントがあって、何かがうまくいった時とそうでない時のフィードバックが直接得られた。疑問の多くにはStack Overflowに答えがあったし、Rust（2015年当時はまだStack Overflowでの存在感は薄かったけど）に参加した時は、代わりに答えてくれるコミュニティがあった（数学の世界にはそれがなかった）。

AIは数学の世界を以前よりずっとアクセスしやすいものに変えてくれる。講義の証明で分からないことがあれば、ただ聞けばいい。もちろん盲信はできないけど、根本的には素晴らしいことだよ。

それが良いことだとは思うけど、当然ながら研究の世界も含めて、文化や行動様式を大きく変えなきゃいけないということも意味しているね。

ソフトウェアエンジニアリングの世界も多かれ少なかれ同じ状況で、変化の真っ只中だ。でも現時点では、数学を知っていてLLMを使える人は、数学を知らずにLLMを使っている人よりも優れている、というのは真実だと思う。少なくともソフトウェア開発においてはね。

AIが解決する興味深い問題の裏には、人間なら絶対やらないような本当にくだらないミスが山ほど隠れている。ある日はワンショットの魔法の8ボールみたいな出力に感嘆する一方で、ある日はAIが生成するあまりの愚かさにイライラすることもある。今のLLMの形態で、その「長い尻尾」の愚かさが解消されるのかどうかは、まだ分からないね。

十分な信頼性さえあれば、自動化は何であれ良いことだと考えている。ずいぶん昔に本を手書きで写すのをやめてその技術は失われたけど、今や誰もそれを気にしないし、複雑な計算を手作業でできなくても、計算機やコンピュータに頼ればいいのと同じだ。

現段階では、AIは代替する能力を失っても安全だと言えるほど信頼できるものじゃない。

失敗モードはよくネタとして笑い話にされるけど、個人的にはそれこそが私たちが最も注目すべき点だと思うよ。