迈克尔·乔丹批评人工智能末日叙事是道德表演
The Decoder··作者 Matthias Bastian
关键信息
乔丹称人工智能公司的监管诉求是“戏剧表演”，并认为当“超级智能”主导公共讨论时，它更像科幻概念。他尤其批评 Geoffrey Hinton 关于复制大脑的论证，同时认为 Yoshua Bengio 更重视失控智能体群等具体安全问题。
资讯摘要
机器学习先驱、加州大学伯克利分校荣休教授 Michael I. Jordan 在接受《解放报》采访时，严厉批评了当前的人工智能末日叙事。如今，他在巴黎的 Inria 工作，并负责一个市场与学习研究职位；他说，最近围绕人工智能的公共讨论令他“非常沮丧”。他回顾称，自己早在 2019 年就警告过，宽泛使用“人工智能”一词会制造歇斯底里的舆论，而讨论后来又从人工智能升级到 AGI，再升级到“超级智能”。乔丹还将科技公司要求监管的做法斥为一种表演，认为这些公司一方面塑造负责任的形象，另一方面又希望控制监管规则。
对于包括 Anthropic 研究员 Jacob Coxon 在内的年轻员工辞职事件，他认为这是一种吸引关注的道德表演，并未真正推动实用的安全工作。乔丹表示，私下把极端情景当作科幻话题讨论并无不可，但让它们主导公共讨论，会损害技术发展、年轻研究人员以及国家的决策心态。他还认为 Geoffrey Hinton 关于复制人工大脑并由此产生指数级智能的论证并不可信，但相较之下更认可 Yoshua Bengio，因为后者关注失控智能体群等具体安全问题。
资讯正文
机器学习先驱 Michael I. Jordan 将 AI 末日论斥为“宏大的道德说教表演”
Science 杂志在 2016 年称 Michael I. Jordan 是“最具影响力的计算机科学家”。如今，他称有关 AI 存在性威胁的警告纯属科幻。在一次内容广泛的采访中，他批评了末日论者、公司创始人以及天真的年轻研究人员。
Jordan 是加州大学伯克利分校的名誉教授。在接受法国《解放报》采访时，他强烈反驳了 AI 末日论。现年 70 岁的这位机器学习先驱如今全职供职于位于巴黎的法国国家数字科学与技术研究院（Inria），并领导该机构新设的“市场与学习”讲席。谈及今年夏季围绕 AI 的讨论时，他称其“令人无比沮丧”。
早在 2019 年，Jordan 就曾警告人们不要鲁莽地滥用“AI”一词。“不是只有我一个人这么说。当时显而易见，这会造成我们现在看到的这种歇斯底里，”他说。“你们也看到了后来发生的事：AI 这个词还不够，于是人们开始谈 AGI，现在又变成了‘超级智能’……”
以“道德说教表演”为名的辞职
Jordan 将 AI 公司要求监管的做法斥为“表演”，认为这是一种在说“看，我们是好人”的方式，同时这些公司“又希望完全控制监管它们的方式”。
在 Jordan 看来，Anthropic 年轻研究员 Jacob Coxon 的辞职就是一个典型例子。Coxon 的辞职在 9 月初引发了围绕“AI 末日”情景的一轮集体歇斯底里。Jordan 说，这些公司的许多年轻员工“其实并不是工程师”。“他们来自人文学科、哲学或其他领域。他们 25 岁，天真，不做工程工作，也从未在大型公司工作过——那种公司会以严谨的方式，为真实的人开发真正的产品。”
他们“聚在一起，有点像 20 世纪 20 年代巴黎咖啡馆里的人，谈论这些宏大的科幻理念”。他们辞职时知道自己会引起关注。“这让他们觉得自己很有道德优越感，也让别人把他们视为非常重要的人物。他们声称自己放弃了金钱，但实际上，他们早已有了股票期权。”Jordan 认为，整件事是“一场宏大的道德说教表演，并没有服务于它声称要追求的真正目标。这里有大量的天真，而这又与某种犬儒主义相伴而生……”
超级智能属于科幻领域
Jordan 说，“超级智能”是“一个科幻术语”，“我所见证的大部分相关讨论都属于科幻范畴”。偶尔讨论一些牵强的情景并无妨。“私下里把它当作科幻话题讨论，没问题。但当它成为主流话语时，就会造成非常、非常大的伤害。它会伤害技术发展、年轻人，也会影响各国的思维方式。”目前，美国总统 Trump 正在向美国科技精英推动这一术语，而后者也乐于配合。
Jordan 尤其严厉地批评诺贝尔奖得主 Geoffrey Hinton，后者一向喜欢提出大胆主张，但这些主张并不总能经得起检验。他说：“Geoffrey Hinton 从未创建过一家为真实人群提供真实服务的公司。Hinton 认为，我们已经弄清了大脑的运作方式，并且可以在硅片中复制它；因此，我们可以随意复制出无数个大脑，再把所有这些副本学到的东西结合起来，从而获得某种指数级增长——然后你看，超级智能就出现了。这一论证中的每一步都不可信。这里已经属于科幻的范畴了。”
他对 Yoshua Bengio 的态度稍微宽容一些。“Yoshua 有点不同；他会采取行动，做一些直接关注安全的问题。”Bengio 的警告往往针对当前 AI 技术的缺陷，例如智能体群失控并不断升级。
Jordan 认为 OpenAI 智能体入侵 Hugging Face 的事件属于糟糕的工程实践。“在化学工程领域，我们绝不会为了看看事情会糟糕到什么程度，就允许爆炸发生。”OpenAI 当时“进行的是相当愚蠢的实验：让智能体随心所欲，并鼓励这种行为”。随后，末日论者很乐意把这件事渲染成可怕的故事。“我的天，这些智能体已经有自我意识了，它们正试图找到摧毁人类的方法。”Jordan 认为，这同样是科幻小说。
万亿美元押注数据中心
Jordan 认为，对数据中心的大规模投资“只是一场巨大的押注，但我们完全不知道它是否会带来回报”。LLM 已经足以胜任自然语言任务，而投入数万亿美元建设数据中心未必能带来更多收益。“相反，我们往往希望根据本地知识，在某个特定领域加入一些专业知识。但做到这一点并不需要庞大的数据中心，尤其是在使用开放权重模型并将其集成到公司中的情况下。”
来源与参考
收录于 2026-10-14