Terence Tao Warns of “Proof Indigestion” as AI Mathematics Accelerates
A report says Fields Medalist Terence Tao has urged AI companies to slow down their pursuit of mathematical breakthroughs, arguing that machine-checked proofs are advancing faster than human interpretation, peer review and textbook integration. It also reports that OpenAI has formed an independent Mathematics and AI Advisory Group at the Institute for Advanced Study, while stating that the group will not advise on OpenAI’s internal mathematical progress.
Why it matters: The debate highlights a growing mismatch between generating formally valid proofs and turning them into shared, human-understandable mathematical knowledge.
< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">
2026-10-06 15:59:17 来源:量子位
Jay 发自 凹非寺
量子位 | 公众号 QbitAI
不er,陶哲轩咋成AI减速派了??
是的,就是那个曾经最爱AI、逢人就安利AI工具的男人,一夜之间,漂移到了AI数学的对立面。。。
SAIR最新演讲,陶哲轩正式向模型公司开火:
简直是疯了,AI公司无休止地加速,却对那之后会发生什么一无所知。
必须慢下来。完全没理由这么快,一点理由都没有。
更关键的是,感受到危机的,远不止陶哲轩一人。
而且陶哲轩还算反应比较淡定的。
你的菲尔兹奖得主Cédric Villani,在看到OpenAI拿下千禧难题后,直接瘫软了。。。
我大受震撼……
简直跟世界末日一样,这是数学界有史以来从未见过的浩劫。
但我往前翻了下发现,仅仅在3个月前,这哥们对AI的态度还是嗤之以鼻啊。
LLM根本没有智能,连洗车问题都会答错,只不过是统计学复读机。
洪水是一视同仁的。
面对光速迭代的大模型,即便站在人类智能金字塔尖的天才数学家们,也终于感受到了核弹爆炸的威力。
(bushi)
从拥抱到谨慎
太魔幻了家人们。
要知道,就在几个月前,陶哲轩还是最受硅谷推崇的「AI课代表」——
查文献、写代码、画示意图到辅助计算……早早把AI嵌入了自己的科研工作流。
也特别愿意给大家分享自己的方法论,以及最近拥抱AI的感悟和心得。
2026年3月,他在IPAM会议上公开呼吁同行别太死板,称当前AI在数学和理论物理领域已经**“ready for primetime”**,能省去大量的无用功。
同月接受《MIT科技评论》专访时,陶哲轩更是兴奋地断言:
数学正经历一场哥白尼革命。
今年春节前,我们也采访过陶哲轩。当时他有句话让我印象特别深刻:
未来,甚至连初中生都能借助AI+Lean的方式,对数学前沿研究做出贡献。
在陶哲轩那时的蓝图里,数学将迎来一次前所未有的创造力井喷,未来一片光明。
结果半年过去,画风突变。
SAIR最新演讲中,陶哲轩直接公开喊话模型公司:
别解数学问题了。
这又不是啥世界危机,慢一点!
陶哲轩最新演讲
所以,陶哲轩究竟在反对些什么?
AI帮人类把几百年没解开的世纪难题做出来了,难道不是天大的好事吗?
关于这点,陶哲轩打了一个比喻,非常精妙——
未解决的数学问题就像灯塔。
大多数人出海不是为了灯塔所在的地方,但灯塔是照亮了整片海域与地貌,让人们能够安全航行。
长期以来,公众普遍认为数学家的职责就是解决困难的数学猜想。
但解决了又有啥用呢?
基本没啥直接的实用价值,治不了癌症、攻克不了核聚变……
相比医学、能源专业,数学可以说相当是纯粹的基础研究了,完全由人类的好奇心驱动。
无论是给孩子出的思考题,还是千禧难题,它们本身,从来不是终点。
真正珍贵的是,是在研究问题的过程中,沿途建立起来的工具、理论框架和洞见。
陶哲轩表示,一个数学证明正常的完整生命周期,通常有五个环节:
- 提出解答:未经验证的提议
- 机械验证:形式化证明语言如Lean检查通过
- 阐释工作:把生硬的推导翻译成人能看懂的语言
- 同行评审:大家一起消化,成为整个行业的共识
- 写入教科书:融会贯通,启发下一代学生
看到问题所在了吗?
AI模型如今在第一步「生成解答」和第二步「Lean形式化验证」上疯狂加速,但后面三步——
理解、消化、写教科书,进度几乎为零啊。。。
AI在不停地碾压重大猜想,但没有任何人做报告,没有人写论文。
甚至连按下回车键生成证明的人,都搞不明白刚刚发生了什么。
结果就是一场前所未有的知识拥堵。
人类突然生产出大量证明,却没有人理解,没有人发表,没有人解释。
这就像20世纪初的交通状况:原有的街道是为行人和马车设计的,汽车突然被发明并直接涌入同一条街道,结果造成了全面的拥堵与瘫痪。
陶哲轩称之为Proof Indigestion(证明消化不良)。
但陶哲轩补充道,这可能也不是模型公司的本意,他们想干也没办法。
AI做不了洞见,因为洞见不可验证,刷不了分,很难被当做目标函数训练。
但说实话,我寻思,人类理解不了好像也没啥关系吧?
AI公司做它的题,数学家继续埋头做研究,不管怎么说发展速度肯定会比之前快。
但陶哲轩指出,长此以往,这会埋下巨大的隐患——
1、智子危机,数学家创造力丧失。
新的数学问题与前沿方向,往往诞生于撰写教材体系时的查漏补缺,或是人类在漫长思考与摸索过程中的偶然发现。
AI 呢?直接跳向最终答案,彻底抹杀了这种漫步式探索所带来的偶发灵感与新领悟。
2、数据污染。
现在的AI为什么数学这么厉害?因为它们吞噬了人类几个世纪以来写在教科书里的精华,那些被无数数学家反复打磨、消化透彻的高质量数据。
不过,如果未来整个学术界充斥着海量AI生成、人类无法理解的证明,下一代AI再去吃这些数据训练,会发生什么?
没人知道。
生物学里有个著名的「克隆小鼠」故事。
用体细胞克隆出一只小鼠,再用这只克隆小鼠的细胞继续克隆,一代一代往下克隆……
但问题是,克隆技术本身就有损耗 ——
每次克隆,端粒缩短、表观遗传印记丢失、体细胞突变累积等问题都会叠加。
迭代代数越多,这些缺陷积累得越严重,最终后代会出现发育异常、存活率下降,甚至根本活不下来。
这也是为什么陶哲轩觉得,AI公司就这样一股脑把证明丢出来,非常不负责任。
我们必须慢下来。这个速度太疯狂了,完全没有理由这么快,一点理由都没有。
而关于陶哲轩的态度转变,其实也早已草蛇灰线。
一直有在讨论AI数学相关风险,只不过被OpenAI「截胡」千禧难题这茬一搞,终于将问题摆到了台前——
亲自牵头成立「复仇者联盟」(bushi)、联合Peter Scholze、邓煜以及Pierre Deligne等25位菲尔兹奖得主联名写了一封公开信,炮轰OpenAI等模型公司。
菲尔兹奖得主联名写了一封公开信大致意思就是说,AI公司不能把数学打benchmark刷,这种做法与数学界追求的目标,是严重错位的。
数学研究真正珍贵的是推导过程中的「认知摩擦」。
光靠大力出奇迹量产True/False ,会毁掉思想生长的土壤。
这之后,陶哲轩又在个人网站上写了好几篇博客,详细探讨过这个问题。
OpenAI回应了
模型公司这边,也有新动态。
面对25位菲尔兹奖得主的集体抗议,始作俑者OpenAI,终于给出了官方回应——
宣布成立一个设在普林斯顿高等研究院(IAS)的独立顾问小组——「数学与人工智能顾问小组」(Advisory Group on Mathematics and AI)。
名单阵容极其豪华,包括Edward Witten、Timothy Gowers、Martin Hairer、Melanie Matchett Wood、Camillo De Lellis等一众数学界与理论物理界的顶级大佬。
OpenAI表示,这个小组将为新兴研究成果的审查和传播提供建议,帮助评估成果的重要性,协调传播方式。
但是。。。
我仔细看了下OpenAI的官方声明,发现里面白纸黑字写着这样一句话:
顾问小组将不负责就数学上的内部进展提供建议。
神了。
你可以提建议,可以帮我们PR……
但想要阻碍我人类之光、模型双子星OpenAI的IPO之路?
门都没有。
当然这是意料之中的,AI公司肯定不会关心咱们的秋招春招。
管你啥数学研究,管你啥菲尔兹奖得主的,都是我IPO的一环,全部跟程序员坐一桌去吧!
不过,我翻了下评论区,发现了一个更有意思的点——
好像就连网友,也没啥人共情数学界的啊。。。
全是幸灾乐祸的,玩梗玩得不亦乐乎。
AI面前,天才也没啥特别的。
而最扎心的,莫过于这串灵魂三问——
画家倒下时,陶哲轩在哪?
作家倒下时,陶哲轩在哪?
程序员倒下时,你陶哲轩,又在哪?
参考链接:
[1]https://www.youtube.com/watch?v=PZRb6NIki2w
[2]https://t.co/QCMFLFlIv8
版权所有,未经授权不得以任何形式转载及使用,违者必究。
How we got here
- OpenAI’s 28-Day Push Starts With GPT-6 Speed Claims and User Skepticism量子位(原生 RSS) · OpenAI
- Instinct’s AI assistant bet puts trust ahead of model benchmarks虎嗅 AI · OpenAI
- Christian Szegedy:AI将重塑数学研究新智元 · OpenAI
- OpenAI Brakes on Agent Safety as Meta Keeps Pushing虎嗅 AI · OpenAI
- OpenAI's Tibo Sottiaux pledges 28 days of daily improvements or a full reset品玩 实时要闻 · OpenAI
- Meta and Microsoft cut back on Claude, pushing their own coding tools机器之心 · OpenAI