AI 已经把想法生成的成本降到了几乎为零——就像互联网把通信成本降到了几乎为零一样。AI 最擅长的那件事,恰恰不再是科学的瓶颈了。
这是陶哲轩在使用了一年AI后的最新观点。
著名播客主持人 Dwarkesh Patel 与陶哲轩最新对谈来了,整个视频持续接近1个半小时,想看原视频请自行搜索:Terence Tao – How the world’s top mathematician uses AI
陶哲轩坦言自己用上 AI 之后,核心的数学工作其实没有变快多少。它让论文更丰富、更广泛,但不更深入。解决数学问题最难的部分,还是用笔和纸。但AI和人的协作正在发生快速变化,无法预测。
那 AI 到底在改变什么?人类数学家又还剩下什么?陶哲轩在这场对话里,给出了一些出人意料的答案。
以下是完整对谈
开普勒是一个高温大语言模型
Dwarkesh: 今天,我与陶哲轩对话,他无需介绍。
陶哲轩,我想先请你重新讲述一下开普勒发现行星运动定律的故事,因为我认为这将是讨论 AI 与数学的一个很好的切入点。
陶哲轩: 我一直对天文学有业余兴趣。我喜欢早期天文学家如何研究宇宙本质的故事。
开普勒是在哥白尼的工作基础上进行研究的,而哥白尼又是在阿里斯塔克斯的工作基础上。哥白尼非常著名地提出了日心模型,即不是行星和太阳围绕地球转,而是太阳位于太阳系的中心,其他行星围绕太阳转。
哥白尼提出行星的轨道是完美的圆形。他的理论符合希腊人、阿拉伯人和印度人在几个世纪里得出的观测结果。
开普勒在学习中了解了这些理论,他注意到哥白尼预测的轨道大小比例似乎具有某种几何意义。他开始提出,如果你把地球的轨道用立方体包围起来,包围立方体的外接球几乎与火星的轨道完美匹配,以此类推。
当时已知有六颗行星,它们之间有五个间隙,而正好有五种完美的柏拉图立体:立方体、四面体、二十面体、八面体和十二面体。于是他有了这个理论,他认为这绝对美丽——你可以在行星球体之间内接这些柏拉图立体。
它似乎很符合,在他看来,上帝对行星的设计与柏拉图立体的数学完美相匹配。他需要数据来证实这个理论。
当时只有一个真正高质量的数据集存在。第谷·布拉赫,这位非常富有、古怪的丹麦天文学家,成功说服丹麦政府资助这个极其昂贵的天文台。实际上,那是一座整个岛屿,他在那里用肉眼对火星和木星等所有行星进行了数十年的观测,至少每个天气晴朗的夜晚都在观测。
他是最后一位肉眼天文学家。他有所有这些数据,开普勒可以用这些数据来证实他的理论。
开普勒开始与第谷合作,但第谷对数据非常嫉妒。他一次只给他一点点。开普勒最终偷走了数据。他复制了数据,不得不与布拉赫的后代发生争执。他确实得到了数据,然后他发现,令他失望的是,他美丽的理论不太奏效。数据与他的柏拉图固体理论相差大约 10%。
他尝试了各种调整,移动圆圈的位置,但都不太奏效。但他在这个问题上工作了多年,最终他找到了如何利用数据来计算出行星实际轨道的方法。那是一项极其聪明、天才的数据分析工作。
然后他发现轨道实际上是椭圆而不是圆形,这让他很震惊。于是他得出了行星运动的两个定律:椭圆定律,以及相等面积扫过相等时间的定律。
十年后,在收集了大量数据之后——最远的行星如土星和木星对他来说最难计算——他终于得出了这第三定律,即行星完成轨道运行的时间与到太阳距离的某个幂成正比。这就是著名的开普勒三大运动定律。
他对这些定律没有解释。这完全是由实验驱动的,一个世纪后牛顿才给出了能够同时解释这三个定律的理论。
Dwarkesh: 我想尝试的一个观点是,开普勒是一个高温大语言模型。牛顿提出了为什么行星运动三大定律必须成立的解释。当然,正如你所说,开普勒发现行星运动定律或计算不同行星相对轨道的方式是天才之作。
但在他的职业生涯中,他只是在尝试各种随机关系。事实上,在他写下行星运动第三定律的书中,这只是《世界的和谐》中的一个旁注,这本书只是关于所有这些不同行星如何具有不同和谐的书。地球上饥荒和苦难如此之多的原因是因为地球是 mi-fa-mi,这是地球的音符。
所有这些都是随机的占星术,但其中包含了平方-立方定律,告诉你周期与行星到太阳距离的关系。正如你所详述的,如果你把它加上牛顿的 F=ma 和向心加速度方程,你就会得到平方反比定律。于是牛顿推导出了这个。
但我认为这是一个有趣的故事,因为我觉得大语言模型可以做这种尝试随机关系二十年的事情,其中一些毫无意义,只要有一个可验证的数据库,比如布拉赫的数据集。"好吧,我要尝试关于音符、柏拉图物体或不同几何形状的随机东西,我有一种偏见,认为这些轨道的几何形状有某种重要的东西。"然后有一件事奏效了。只要你能验证它,这些经验规律就能推动真正的深度科学进步。
陶哲轩: 传统上,当我们谈论科学史时,想法生成一直是科学中最受重视的部分。一个科学问题包含许多步骤。你必须确定一个问题,然后你必须确定一个值得研究的好问题。然后你需要收集数据,找出分析数据的策略,并提出假设。在这一点上,你需要提出一个好的假设,然后你需要验证。然后你需要撰写并解释。
有十几个不同的组成部分。我们庆祝的是这些想法生成的尤里卡天才时刻。开普勒肯定不得不经历许多想法,其中一些不起作用。我敢打赌有很多他甚至根本没有发表,因为它们就是不合适。这是过程中的重要部分,尝试各种随机的东西,看看它们是否有效。
但正如你所说,它必须与同等数量的验证相匹配,否则就是垃圾。
我们庆祝开普勒,但我们也应该庆祝布拉赫,因为他勤奋地收集数据,其精确度是任何先前观测的十倍。那额外的一位小数的准确度对开普勒得出他的结果至关重要。
他使用欧几里得几何和他当时能使用的最先进数学来将他的模型与数据匹配。所有方面都必须发挥作用:数据、理论和假设生成。
我不确定现在假设生成是否还是瓶颈。自那以后,科学已经改变了。
传统上,科学的两大范式是理论和实验。然后在 20 世纪,数值模拟出现了,所以你可以进行计算机模拟来测试理论。最后,在 20 世纪末,我们有了大数据。我们进入了数据分析时代。
现在很多新进展实际上是由分析海量数据集驱动的。你收集大型数据集,然后从中提取模式来推导思想。这与科学过去的工作方式有些不同,过去你是做几个观测或有一个突如其来的想法,然后收集数据来测试你的想法。那是经典的科学方法。现在几乎反过来了。你先收集大数据,然后试图从中得到假设。
开普勒可能是最早的数据科学家之一,但即使他也不是从第谷的数据集开始然后分析它。他有一些先入为主的理论。似乎这越来越不是我们取得进展的方式,只是因为数据如此庞大和有用。
Dwarkesh: 哦,有意思。我觉得你描述的 20 世纪科学实际上非常符合开普勒身上发生的事情。他确实在 1595 年和 1596 年提出了多边形和柏拉图物体理论——但它们是错的。然后几年后,他得到了布拉赫的数据,只有在尝试了二十年的随机东西之后,他才得到了这个经验规律。
实际上感觉布拉赫的数据有点像某种大规模模拟数据库,现在你有了数据,你可以不断尝试随机的东西。如果没有那个,开普勒就会在那里写关于和谐和柏拉图物体的书,而实际上没有什么可以验证的。
陶哲轩: 数据极其重要。我想做的区分是,传统上,你先提出假设,然后用数据来测试它。但现在有了机器学习、数据分析和统计学,你可以从数据开始,通过统计学得出以前不存在的规律。
开普勒的第三定律有点像这样,只不过不是有布拉赫的一千个数据点,开普勒只有六个数据点。对于每颗行星,他知道轨道长度和到太阳的距离。有五六个数据点,他做了我们现在称之为回归分析的事情。他给这六个数据点拟合了一条曲线,得到了平方-立方定律,这很惊人。
但他很幸运,这六个数据点给了他正确的结论。这不足以真正可靠。后来有一位天文学家,约翰·波得,他采用了相同的数据——到行星的距离——受开普勒启发,他预测到行星的距离形成了一个偏移的几何级数。他也拟合了一条曲线,只不过有一个点缺失了。火星和木星之间有一个大缺口。他的定律预测有一颗缺失的行星。
这有点像怪人的理论,但当赫歇尔发现天王星时,天王星的距离完全符合这个模式。然后谷神星在小行星带被发现,它也符合这个模式。人们非常兴奋,认为波得发现了这个惊人的自然新定律。但后来海王星被发现了,它差得很远。基本上这只是个数字巧合。
有六个数据点。也许开普勒没有像前两个定律那样强调他的第三定律的一个原因是,直觉上,即使他没有现代统计学,他也知道用六个数据点,他必须对结论持一定的保留态度。
Dwarkesh: 为了更明确地问你关于这个类比的问题,如果将来我们有越来越聪明的 AI 呢?我们会有数百万个 AI,它们可以出去寻找所有这些经验规律。听起来你认为科学中的瓶颈不是找到更多相当于每个领域的行星运动第三定律的东西,以便以后有人说,"哦,我们需要一种方法来解释这个。让我们推导出数学。这就是平方反比引力定律。"
陶哲轩: 我认为 AI 已经将想法生成的成本降低到几乎为零,这与互联网将通信成本降低到几乎为零非常相似。这是一件了不起的事情,但它本身并不能创造丰裕。现在的瓶颈不同了。我们现在处于这样一种情况:人们突然可以为给定的科学问题生成数千个理论。现在我们必须验证它们,评估它们。
这是我们必须改变科学结构才能真正解决这个问题的事情。传统上,我们建立围墙。在过去,在 AI 垃圾出现之前,我们有业余科学家有自己的宇宙理论,其中很多价值很低。我们建立了这些同行评审出版系统来过滤并试图分离出高信号的想法来测试。
但现在我们可以大规模生成这些可能的解释,其中一些是好的,很多是糟糕的,人类评审员已经被压得喘不过气来。许多期刊报告说,AI 生成的投稿正在淹没他们的投稿。
能够用 AI 生成各种东西是很好的,但这意味着科学的其他方面必须跟上:验证、验证和评估哪些想法实际上推动了学科发展,哪些是死胡同或红鲱鱼。这不是我们知道如何大规模做的事情。
对于每一篇单独的论文,我们可以让科学家进行辩论,并在几年内达成共识。但当我们每天生成一千个这样的东西时,这就行不通了。
Dwarkesh: 有一个非常有趣的问题。如果你有数十亿个 AI 科学家,不仅你如何衡量哪些是真正进展,而且你如何……这实际上是人类科学不得不面对并设法解决的问题,我实际上不确定我们是如何解决这个问题的。
假设在 1940 年代,如果你在贝尔实验室,有这些新技术出现。脉冲编码调制,如何传输信号?如何数字化信号?如何通过模拟线路传输它们?有关于工程约束和细节的各种论文,然后有一篇提出了比特的概念,这对许多不同领域都有影响。你需要某种系统能够看着它说,"好吧,我们需要把它应用到概率上。我们需要把它应用到计算机科学上,"等等。
在未来,AI 正在提出这种统一概念的下一个版本。你如何在数百万篇可能确实构成进展但具有更少一般统一思想的论文中识别它呢?
陶哲轩: 很多都靠时间的考验。许多伟大的想法在首次提出时实际上没有得到很好的反响。只有在其他科学家意识到他们可以将其进一步发展并应用到他们自己的……深度学习本身在很长一段时间内都是 AI 的一个小众领域。完全通过数据训练而不是通过第一性原理推理来获得答案的想法非常有争议,只是花了很长时间才开始取得成果。
你提到了比特。还有关于计算机架构的其他提议,而不是今天通用的零一。我想有三进制,三值逻辑。在一个平行宇宙中,也许会出现不同的范式。例如,Transformer 是所有现代大语言模型的基础,它是第一个真正足够复杂以捕捉语言的深度学习架构。但它不一定是那样的。可能是某种其他架构是第一个做到这一点的,一旦被采用,它就会成为标准。
评估一个给定的想法是否会有成果很难的一个原因是,它取决于未来。它还取决于文化和社会,哪些被采用,哪些不被采用。
数学中的十进制数字系统非常有用,比罗马数字系统好得多。但同样,十没有什么特别的。这个系统对我们有用是因为其他人都用它。我们已经将其标准化。我们已经围绕它建立了所有的计算机和数字表示系统,所以我们现在被它困住了。有些人偶尔推动使用十进制以外的其他系统,但惯性太大了。
这不是你可以孤立地看待任何给定的科学成就并给它一个客观评分而不了解过去和未来的背景的事情。所以它可能永远不是你可以像对更局部的问题那样进行强化学习的事情。
科学史上经常发生这样的情况:当一个新的理论出现时,事后看来我们意识到它是正确的,它似乎会做出要么没有意义的推论,因为它们是错的,我们后来意识到为什么它们是错的,要么它们是正确的,但在当时看起来极不可信。
正如你所说,阿里斯塔克斯在公元前 3 世纪就有了日心说。古代雅典人说,"这不可能,因为如果地球围绕太阳转,我们应该看到当我们围绕太阳运行时恒星的相对位置发生变化,而唯一不会发生这种情况的方法是如果它们离我们太远以至于你注意不到任何视差,"这实际上是正确的推论。
但有时推论是不正确的,我们只需要提升到更好的理解水平。莱布尼茨会责备牛顿,不同意牛顿的引力理论,理由是它意味着超距作用,他们不知道机制,而牛顿本人也对惯性质量和引力质量是同一个量感到震惊。所有这些东西后来都被爱因斯坦解决了。但这仍然是进步。
所以对于 AI 的同行评审系统来说,问题是:即使你可以证伪一个理论,你如何注意到它相对于以前的东西仍然构成进步?通常,最终正确的理论最初在很多方面更差。哥白尼的行星理论比托勒密的理论更不精确。地心说已经被发展了一千年,他们做了许多调整和越来越复杂的临时修正,使其越来越精确。哥白尼的理论简单得多,但精确度差得多。直到开普勒,它才比托勒密的理论更精确。
科学总是一个进行中的工作。当你只得到部分解决方案时,它看起来比一个不正确但不知何故已经完成到可以回答所有问题的理论更差。正如你所说,牛顿的理论有大谜团。他们有质量的等效性和超距作用,这些直到几个世纪后才用概念上非常不同的方法解决。
通常,进步不是通过增加更多理论,而是通过删除你脑海中的一些假设来实现的。地心说坚持如此之久的一个原因是我们有这种想法,认为物体自然想要保持静止。这是亚里士多德的物理学概念,所以地球在运动的这个想法……为什么我们都没有摔倒?一旦你有了牛顿的运动定律——运动中的物体保持运动等等——那么它就有意义了。
从概念上讲,意识到地球在运动是一个非常大的飞跃。它感觉不像在运动。像达尔文的进化论这样的最大进步,是物种不是静态的这个想法。这并不明显,因为你在有生之年看不到进化。嗯,现在我们实际上可以了,但它看起来是永久和静态的。
现在我们正在经历哥白尼革命的认知版本,我们曾经认为人类智能是宇宙的中心,现在我们看到有非常不同类型的智能,具有非常不同的优势和劣势。我们对哪些任务需要智能、哪些不需要的评估必须重新排序。试图将 AI 纳入我们关于科学进步以及什么是困难、什么是容易的理论中,我们正在挣扎。我们必须问我们以前从未真正问过的问题。或者也许哲学家问过,但现在我们都必须面对它。
Dwarkesh: 这让我想起一个我一直很好奇的话题。你提到了达尔文的进化论。有一本书,爱德华·多尔尼克的《钟表宇宙》,涵盖了我们正在谈论的这个时代的很多历史。他在里面有一个有趣的观察。《物种起源》出版于 1859 年。《自然哲学的数学原理》出版于 1687 年。所以《物种起源》比《原理》晚两个世纪。
从概念上讲,达尔文的理论似乎更简单。有一位与达尔文同时代的生物学家,托马斯·赫胥黎,他读了《物种起源》,他说,"怎么没想到呢。"没有人对《原理》这样说,责备自己没有在引力上击败牛顿。所以有一个问题,为什么花了更长时间?很大一部分原因似乎是你在说的。自然选择的证据在某种意义上是压倒性的,但它是累积的和回顾性的,而牛顿可以说,"这是我的方程式。让我看看月球的轨道周期和它的距离,如果它对得上,那么我们就取得了进步。"
卢克莱修实际上在公元前 1 世纪就有物种适应环境的想法,但直到达尔文才真正有人谈论它,因为卢克莱修不能运行一些实验来强迫人们注意。
我想知道,回顾过去,我们是否最终会看到在具有这种紧密数据循环的领域取得更多进展,在那里你可以很容易地验证它们,即使它们在概念上要困难得多。
陶哲轩: 科学的一个方面是,它不仅仅是创造一个新理论并验证它,而是将其传达给他人。达尔文是一位了不起的科学传播者。他用英语写作,用自然语言。我说得像——
Dwarkesh: 不用 Lean。
陶哲轩: 我必须摆脱我的技术思维定势。他用简单的英语说话,不用方程式,他综合了许多不同的事实。进化的碎片在过去已经被研究出来了,但他有一个非常引人注目的愿景。同样,他仍然缺少东西。他不知道遗传的机制,他没有 DNA。但他的写作风格有说服力,这帮助很大。牛顿用拉丁语写作。他发明了全新的数学领域来解释他在做什么。他也来自一个科学家更加保密和竞争的时代。学术界仍然有竞争,但在牛顿时代更糟糕。他保留了一些他最好的见解,因为他不想让竞争对手获得任何优势。他也是一个有点不愉快的人,据我所知。
直到牛顿之后几十年,其他科学家用简单得多的术语解释了他的工作,它们才广泛传播。阐述和论证、创造叙事的艺术也是科学的一个非常重要的部分。如果你有数据,它会有帮助,但人们需要被说服,否则他们不会进一步推动它,或者不会进行初始投资来学习你的理论并真正探索它。
Dwarkesh: 这是另一件很难进行强化学习的事情。你如何给你的说服力打分?嗯,有整个营销部门试图做到这一点。也许 AI 还没有被优化来说服人是件好事。
陶哲轩: 科学有一个社会方面。尽管我们为自己有客观的一面而自豪,那里有数据、实验和验证,我们仍然必须讲故事并说服我们的科学家同行。这是一个软绵绵的东西。它是数据和描绘叙事的结合,它是一个关于空白的叙事。即使是达尔文,正如我所说,他的理论中有一些他无法解释的部分。但他仍然可以论证,在未来,人们会发现过渡形式,他们会找到遗传机制,他们确实找到了。我不知道你如何以如此精确的方式量化这一点,以至于你可以开始进行强化学习。也许这将永远是科学的人性化一面。
演绎过剩
Dwarkesh: 我从阅读和观看你关于宇宙距离阶梯的内容中得到的一个收获是,许多领域的演绎过剩可能比人们意识到的要大得多。如果你只是对如何研究一个问题有正确的见解,你可能会惊讶于你对世界还能了解多少。我想知道你认为这是你在研究的特定历史时期天文学的特殊产物,还是仅仅基于现在照射到地球的数据,我们实际上可以推断出比我们碰巧知道的更多?
陶哲轩: 天文学是最早真正接受数据分析和从他们拥有的信息中榨取每一滴可能信息的科学之一,因为数据是瓶颈。收集天文数据仍然非常困难。天文学家在从少量数据痕迹中提取各种结论方面是世界级的,几乎像福尔摩斯一样。
Dwarkesh: 我听说对于很多量化对冲基金来说,他们首选的雇员是天文学博士,实际上。他们也出于其他原因对从各种随机数据位中提取信号非常感兴趣。
陶哲轩: 我们确实探索不足如何从各种信号中提取额外信息。只是随便举一个研究例子,我记得…