为什么LLM可能无法引发科学革命

关键信息

Zahavy 用爱因斯坦关于感官经验、直觉跃迁到公理、再到演绎的发现循环来解释科学发现，并借用 Charles Sanders Peirce 的演绎、归纳和溯因三分法来定位缺口。他认为语言模型可以处理归纳和普通溯因，但无法完成更难的那一步——创造没有现成语言模板的解释，也就是他所说的“操控式溯因”。

资讯摘要

这篇文章讨论了 Google DeepMind 的 Tom Zahavy 在一篇题为《LLMs can't jump》的立场论文中的观点：语言模型不足以单独引发科学革命。Zahavy 以爱因斯坦对发现过程的描述为基础，认为发现是一个从感官经验出发、经过直觉跃迁形成公理、再通过逻辑演绎得到可检验结论的循环。为了说明当前 AI 的能力边界，他又借用了 Charles Sanders Peirce 关于演绎、归纳和溯因的经典框架。按照 Zahavy 的说法，语言模型已经很擅长归纳，也能完成普通溯因，也就是从已知候选解释中选出最合理的那个。

它们在演绎方面也进展迅速，像 AlphaProof、Gemini 和 GPT-5 已经能在国际数学奥林匹克问题上达到金牌水平。可是，真正的瓶颈在于他所说的“操控式溯因”，即创造一种以前没有语言模板、也没有现成候选的因果解释或理论。文章认为，爱因斯坦提出相对论时就需要这样的跃迁，因为当时水星近日点的异常太小，尚不足以迫使人们推翻牛顿物理，而相关的实验证据又是多年后才出现。文章最后暗示，具身系统或世界模型可能更适合完成这种跃迁，因为它们可以把想法建立在模拟经验之上，而不只是文本模式之上。

资讯正文

语言模型无法引发科学革命，但世界模型或许可以

语言模型能否引发一场科学革命？在一篇题为《LLMs can't jump》的立场论文中，Google DeepMind 的 Tom Zahavy 认为不能。它们缺少创造真正新事物所需的认知机制。

Zahavy 以阿尔伯特·爱因斯坦在写给朋友 Maurice Solovine 的一封信中勾勒的框架来构建他的论证。爱因斯坦写道，发现是一个循环：感官经验会促成向公理的直觉性“飞跃”，而从那里，逻辑推演会产生可检验的结论。公理是一种理论中未经证明的基础性假设。

AI 处理了三种推理中的两种

为了准确指出缺口所在，Zahavy 借用了哲学家 Charles Sanders Peirce 的一个经典区分。Peirce 将所有推理都按其如何连接规则、个案和结果来分类。

演绎是从固定规则中推导出必然成立的结论，就像运行一个会产生可证明正确输出的程序。归纳则是在数据中发现模式：观察一千只白天鹅，然后概括出所有天鹅都是白色的。溯因则是创造性的飞跃：它发明一个原因来解释某个出人意料的现象。

Zahavy 认为，关键瓶颈就在第三种形式上，而且他还把它划分为两个层次。普通溯因是在一组已知候选解释中选出最可能的那个，就像医生根据症状匹配某种疾病。语言模型可以做到这一点，他承认。更难的版本则是他所说的“操纵性溯因”：为一个尚不存在语言模板的原因进行发明。他认为，这才是科学发明的真正瓶颈，而机器做不到。

论文认为，归纳和演绎都已经触手可及。语言模型在统计模式识别方面已经表现出色，而在形式化推导上也正在迅速攻克。像 AlphaProof、Gemini 和 GPT-5 这样的系统，如今在国际数学奥林匹克竞赛题目上已经能拿到金牌级分数。Zahavy 甚至承认，如果把爱因斯坦的假设作为起点，语言模型大概也能推导出广义相对论。但首先把这些假设形成出来，完成通向它们的那次操纵性飞跃，仍然是瓶颈。

Zahavy 用这套理论本身来说明，为什么机器难以完成这种飞跃：AI 模型通常通过将预测与现实进行比较，并根据误差——也就是预测与结果之间的差距——进行调整来学习。如果没有可检测的误差，系统就无从着手。而 Zahavy 认为，这正是爱因斯坦当时面对的处境。

在爱因斯坦工作的那个年代，并不存在数据危机。牛顿物理学已经被极其精确地证实。唯一已知的异常是水星轨道上一个微小的偏移，它被归因于一颗假想中的隐藏行星“Vulcan”。Zahavy认为，若是一个以优化为驱动的 AI，它没有任何理由去推翻物理学。按这种论证逻辑，它会像当时的天文学家一样，发明一颗额外的行星来解释那点小偏差，而不是重新思考空间和时间。支持爱因斯坦理论的数据，比如 Eddington 对光线偏折的测量，是在理论提出多年后才出现的。

跃迁需要一个身体

那么，是什么样的“操控性溯因”促成了爱因斯坦走向他的公理？Zahavy 指向爱因斯坦的“最快乐的想法”：一个自由下落的观察者不再感受到重力。这个洞见来自具身模拟，爱因斯坦在 ذهن里演练一种物理感受，而不是埋头推演方程。他设想一位物理学家身处太空中的加速电梯里，并由此得出结论：从内部看，加速度与重力是不可区分的。

Zahavy 将此与阿基米德作类比。传说中，阿基米德并不是通过计算发现浮力原理，而是在踏入浴缸时感受到水位上升的物理体验，从而有所领悟。在这两种情况下，某个基础性原理浮现出来，而当时的语言体系中尚不存在这种原理。

语言模型恰恰缺少这种感官锚定。Zahavy 将它们比作哲学家 John Searle 提出的“中文屋”——一个著名的思想实验：一个人按照规则手册摆弄中文字符，却并不理解任何一个词。语言模型在某种程度上也只是以同样的方式摆弄物理学符号，却无法接触赋予这些符号意义的物理经验。

Sakana 的 AI Scientist 和 Deepmind 的 AlphaEvolve 能令人印象深刻地自动化科学工作流。但 AI Scientist 只是重新组合已有概念，而 AlphaEvolve 虽然优化能力惊人，却需要一个清晰的误差信号，供它一步步缩小。爱因斯坦从未拥有那种信号。Zahavy 认为，这两个系统都无法完成跃迁，进入一种全新的思想框架。

作为通向溯因的路径的世界模型

作为一种可能的前进方向，Zahavy 指向了与物理一致的世界模型。他在这里划出了一条界线：像 Veo 这样的生成视频模型，只是在预测最可能出现的下一帧。一个下落的苹果之所以会继续下落，并不是因为模型理解了重力，而是因为在训练数据里，“继续下落”是最常见的延续。这仍然只是模式匹配。

另一方面，像 Genie 这样可由行动控制的世界模型，允许智能体在模拟中主动干预，并进行反事实实验，比如在 ذهن里剪断电梯缆绳。这样的“合成实验室”或许能提供所需的反馈回路，使新公理得以被发明，即便此时还不存在任何语言模板。

来源与参考

1. 原始链接
2. Language models can't spark scientific revolutions, but world models might