何时应认可人工智能的科学发现

关键信息

Anthropic报告的结果并不是新的DNA序列，批评者认为，识别基因簇或重复序列，远比确定该生物系统的实际功能容易。哥本哈根大学生物学家马里奥·罗德里格斯·梅斯特还表示，他的团队此前已经发现了这一模式，并质疑Anthropic的系统是否从他与Claude的对话中获知相关信息；Anthropic否认了这一说法。

资讯摘要

Anthropic宣布，该公司在年初建立了一个分子生物学实验室，由Claude代理阅读并提出关于困难生物学问题的猜想，再由人类科学家开展实验。公司称，这个实验室的首次发现来自950个代理，它们在21小时内分析了大规模DNA序列集合。代理没有找到全新的序列，而是在一种已知酶周围标记出一个此前未被编目的重复模式。Anthropic认为，这一模式让人联想到最终促成CRISPR发现的研究，但文章强调，这种相似性并不能证明该模式具有重要功能。

一些生物学家批评了这一说法，认为识别异常序列模式只是较容易的部分，真正的发现应当包括弄清这个生物系统究竟做什么。争议进一步扩大，因为哥本哈根大学的马里奥·罗德里格斯·梅斯特表示，他的团队此前已经发现了相同模式，并怀疑Anthropic是否从他与Claude的对话中获得了这一信息；Anthropic否认了这种可能性，而梅斯特表示将停止使用Claude。文章认为，人工智能公司坚持宣称其系统能够自行发现科学成果，容易制造“突破或失败”的二元标准，从而掩盖将数十万候选对象缩小到少数可研究对象，以及指导实验等真实而有价值的科研工作。

资讯正文

我们何时才能说人工智能发现了科学新知？

上周三，Anthropic宣布，公司今年早些时候启动了一座分子生物学实验室。在那里，Claude代理会阅读有关棘手生物学问题的资料并提出推测，而人类科学家则根据它们提交的报告开展实验。Anthropic表示，这座由人工智能驱动的实验室已经取得了首项发现。

要理解Anthropic所说的这套系统究竟做了什么，可以想象你正在翻阅一座藏有数百万条DNA序列的图书馆。这些序列来自科学家对越来越多的生物进行测序。迈向突破的一步，或许是找到一条特殊的序列，它可能编码着一种有趣的酶。接下来，你还需要弄清楚这种酶的作用，以及最终如何操控它来完成某些有用的事情。

Anthropic表示，其由950个代理组成的系统经过21小时找到的并不是一条全新的序列。相反，这些代理标记出了一个围绕已知酶反复出现的模式；Anthropic称，这种特定模式此前尚未被编目。不过，如果你读过Anthropic的公告，就会觉得这支代理大军确实发现了值得关注的东西。公告称，这一模式“令人联想到”促成基因编辑技术CRISPR的某种模式，而CRISPR“已经改变了科学和医学”。

这些说法激怒了一些生物学家。其中一位生物学家发布的一篇广泛传播的帖子后来得到了制药公司Eli Lilly董事长兼首席执行官的认可。帖子称：“找到一组奇怪的基因和重复序列，往往是容易的部分。困难之处，也是产生真正发现的地方，在于弄清楚这个系统究竟做什么。”换句话说，这些代理帮助完成了一些实验室里的繁重基础工作。但这并不能称为一项发现。

这提醒我们，即便人工智能完成了令人印象深刻的事情——例如在仅凭人眼难以察觉的大量生物学数据中找到某种模式——结果本身也未必构成科学突破。对人工智能而言具有新颖性的东西，对生物学家来说可能是常规的、并不令人意外的，或者根本没有那么重要。

更让问题变得模糊的是，《纽约时报》报道说，哥本哈根大学生物学家Mario Rodríguez Mestre上周末表示，他的团队早已发现了这一特定模式。Mestre在工作中经常与Claude聊天，他怀疑Anthropic的团队是否从这些对话中获取了信息。Anthropic否认了这一点，但Mestre表示，无论如何，他都将停止使用Claude。

问题的一部分在于，人工智能公司并没有简单地把自己的系统描述成科学家可以使用的工具，例如显微镜或超级计算机。它们坚持认为，这些人工智能系统正在自行做出发现。但在一些人看来，这种做法与科学实际运作的方式并不相容，因为新知识通常产生于协作，以及一套不断扩充的工具体系。

这也让人们在真正的进展出现时变得更加怀疑。将 20 万个候选对象逐步筛选到少数几个值得探索的对象，绝非易事；这属于正当的科学工作。即使有人类协助引导，并最终由人类开展实验，一个通用聊天机器人能够完成这项工作这一事实本身也值得关注。但一旦评判标准变成 Claude 是否亲自做出了发现，所有这些就都成了支持争论某一方或另一方的证据，而这场争论只有两个答案：突破，或者失败。

一旦我们开始根据 AI 是否做出了发现来评判它，即便它看起来确实取得了胜利，人们也很容易继续改变标准。本月早些时候，OpenAI 表示，其自主团队代理已经破解了数学领域一个价值百万美元的问题。但仅仅几周后，我的信息流里几乎每一位 AI 怀疑论者都在分享一篇文章，质问真正重要的是否是那个数学问题本身。

需要明确的是，那篇文章并没有说 OpenAI 的解法是错误的。相反，文章认为，这一特定结果可能并不是数学家最关心的结果。再加上一位数学家指责这些模型可能未经署名就使用了他的一些研究成果，结果人们留下的印象就变成了：要么 OpenAI 作弊了，要么这个解法反正也不重要。或者两者都是。

这正是撰写文章批评 Anthropic 那项公告的生物学家 Lucas Harrington 所担忧的一部分。他在文章结尾提出了一个建议：他说，AI 公司现在就应该“把标准定得高一些，这样当 AI 真正发现一种全新的生物学机制时，所有人才能意识到这件事有多么重大”。但在 OpenAI 的 Sam Altman 和 Anthropic 的 Dario Amodei 争相压过对方风头之际，提高 AI 科学突破的标准，可能是他们最不在意的事情。

来源与参考

1. 原始链接
2. When can we say AI made a scientific discovery?