别把人工智能炒作误当成科学突破

关键信息

据文中所述，网络安全专家主要将这些黑客事件视为未采用成熟安全实践的失败；数学家则质疑相关成果的新颖性、署名归属和研究行为。文章还解释了编程和数学为何适合作为人工智能展示领域：它们的输出通常可以自动验证，因此更容易调试系统，也更容易被宣传为广泛智能。

资讯摘要

文章将最近几个月描述为人工智能宣传异常密集的时期。四月底，Anthropic 宣称其 Claude Mythos 模型发现软件漏洞的能力优于大多数安全专家；随后发生了 OpenAI–Hugging Face 黑客事件，Anthropic 和 Meta 也披露了类似的模型相关事件。之后，Anthropic 宣布取得一项数学突破，OpenAI 也很快对其 Astra 聊天机器人提出了类似说法。最初感到震惊的数学家后来认为，Astra 的成果并没有宣传中那么新颖，一些人还指责 OpenAI 存在研究不当和剽窃问题；纽约大学教授 Tristan Buckmaster 的一份声明也对成果归属提出了严重质疑。

文章指出，网络安全专家对这些黑客故事的理解，与其说是模型失控并开始建立文明，不如说是企业疏忽和安全实践薄弱的表现。文章还认为，关于危险超级智能即将出现的警告，更多建立在超人类主义、优生学意识形态和推测性想象之上，而不是严谨的科学或工程实践之上。数学和编程之所以受到特别关注，是因为它们常被视为人类高层次智力的象征，而且结果通常可以验证，使企业能够把经过优化的演示包装成通用智能的证据。文章支持数学家要求政策制定者咨询独立专家、而不是依赖企业新闻稿或流行报道，并认为科技公司的速度与紧迫感叙事可能误导官员和公众。

资讯正文

过去几个月，围绕人工智能的炒作可谓接连不断。4月底，Anthropic 声称，其模型 Claude Mythos 在发现软件漏洞方面的表现优于大多数安全专家。随后发生了 OpenAI 与 Hugging Face 的黑客攻击事件，此后 Anthropic（自豪地）和 Meta（不情愿地）披露了涉及其模型的类似事件。

紧接着，Anthropic 声称其一个模型取得了数学突破；很快，OpenAI 也声称自己取得了数学突破。最近，Anthropic 工程师 Jacob Coxon 在宣布离开公司时走红网络，他声称，Anthropic 和 OpenAI 正在“径直冲向能够自我改进的超级智能，并拿我们的生命下注”。

媒体对这些事件的报道大多激动而急切，经常重复这些公司的拟人化叙事——这种叙事旨在将它们的软件描述成不仅强大，而且即将实现“通用人工智能”。那么，事情的真相究竟是什么？我们是在见证一系列规模巨大、将改变文明的技术突破，还是只是在看一场营销活动？

在所有这些事件中，企业大张旗鼓地进行宣传（在非法黑客攻击事件中则将其包装成忏悔式声明），同时伴随着媒体的密集报道。然而，一旦相关领域的专家有时间仔细审视事情经过，一个截然不同的故事就会浮现，只是这个故事得到的媒体关注要少得多。

就这些“黑客攻击”事件而言，网络安全专家表示，问题更多在于 OpenAI 的疏忽，以及其未能采用基本且成熟的安全实践，而不是什么“模型失控”或“AI 代理正在创造文明”。

至于数学成果，数学家最初曾被 OpenAI 的新闻稿“震惊”：该公司宣称，其最新聊天机器人 Astra 解决了“至少十年来一直悬而未决、且主要结果毫无进展”的问题。但他们后来意识到，这些结果并没有“像最初看起来那样新颖”。此后，数学家指责该公司存在研究不当行为和抄袭，并再次强调，Astra 并没有实现什么“深刻的智力飞跃”。仅仅几周后，OpenAI 又声称自己取得了数学突破。就在两天前，纽约大学 Courant 研究所数学教授 Tristan Buckmaster 发表了一份爆炸性声明，暗示 OpenAI 窃取了他人的工作，并对其进行不当署名。

关于危险的超级智能即将出现的说法，并不建立在良好的科学或工程实践之上。相反，它们是建立在超人类主义、优生学意识形态，以及对未来想象中的数字人类抱有一厢情愿的幻想之上的叙事。

值得思考的是，为什么计算机编程和数学会成为应用大型语言模型及相关技术时备受关注的领域。它们不仅常被视为人类智力成就的巅峰，而且涉及这样一类问题：一旦提出答案，就可以对其进行验证。前一个特性有助于人工智能炒作者兜售这样一种理念：他们正在用机器构建一切。后一个特性则让数学和编程问题更容易被用来调试和优化系统，因为系统的输出（可能的词语序列或计算机代码片段）可以被评估，而不必付费让数据工人逐一查看并标注每个输出。

数学家尤其警告，不要让企业以这种方式利用他们的领域。数百名数学家签署的一份声明称，“科技行业目前存在强烈的商业动机，促使其夸大自身产品的能力”，并呼吁政策制定者“在制定政策决策时咨询包括数学家在内的专家，而不是依赖新闻稿或媒体对数学成果的流行报道”。

我们呼应这一呼吁，并指出，科技公司制造出的速度与紧迫感幻觉，同样是一种误导政策制定者和公众注意力的伎俩。遗憾的是，这种伎俩有时确实奏效，例如参议员 Bernie Sanders 提出了一项善意但最终被误导的立法，试图阻止“人工超级智能”的发展。

把它们描述为“超级智能”或“失控模型”，实际上是将能动性赋予产品，而不是赋予打造这些产品的公司。这种框架一方面将这些公司的产品包装成“超越人类的”，另一方面也帮助这些公司逃避对自身行为的问责。

OpenAI 因制造入侵另一家公司的恶意软件而应受起诉时，新闻稿、新闻媒体、媒体名人和立法者却把“失控模型”说得仿佛它们是自行采取行动。研究人员本应被追问：他们所在的公司为何习惯性地剽窃学者的成果，或未经同意就使用客户数据训练模型；然而，公众的想象力却被引向另一个方向——担心虚构的超级智能机器到来后，未来可能会发生什么。

人工智能行业甚至声称，广受欢迎且跨党派的数据中心反对运动，是在“转移注意力”，让人们忽视对这些公司正在打造的、即将到来且令人恐惧的“超人类”机器进行监管的努力。按照人工智能行业的说法，我们更应该担心一个虚构的机器之神，而不是担心这些数据中心所加剧的气候灾难、居住在附近的人所遭受的哮喘、为这些数据中心提供补贴的公众不断上涨的电费，或是被改道用于冷却它们的水资源。

我们不至于愚蠢到根据营销宣传来做决定，也不至于屈服于企业压力、仓促地做出这些决定。政策制定者和社区要作出明智的决策，就需要留出时间听取独立专家的意见，并将企业的说法置于具体背景中加以理解。这个炒作之夏所能带来的最佳结果，或许就是政策制定者和公众学会先深吸一口气，坚持保持怀疑，并在下一次类似的炒作卷土重来时，认清它的本质。

来源与参考

1. 原始链接
2. Don’t be fooled by this summer of AI hype