数学家警告人工智能生存风险已迫在眉睫

关键信息

据报道，这封信称前沿模型在三个月内于多个数学领域达到顶尖人类数学家的水平，并声称它们解决了若干开放研究问题，其中包括一道千禧年大奖难题。所提供材料没有给出对这一非同寻常说法的独立证实，因此不应将其视为获得正式认可的解答；报道还称这些签署者均不隶属于人工智能公司。

资讯摘要

42名数学界学者向英国皇家学会会长发出公开信，要求这一英国科学机构提醒政府、媒体和公众关注先进人工智能可能造成的生存风险。签署者包括菲尔兹奖得主 Martin Hairer、Peter Scholze 和 Wendelin Werner，报道还称其中无人隶属于人工智能公司。公开信称，OpenAI 和 Anthropic 的领先模型在三个月内取得了显著的数学进展，解决了若干开放研究问题，并在许多数学领域达到顶尖人类数学家的水平。报道还转述了信中的说法，即人工智能模型已经解决七道千禧年大奖难题中的一道，而且可能很快解决第二道，但文章没有提供独立证据或正式验证。

数学家们最担忧的并非数学研究本身，而是类似的能力增长可能出现在网络安全、自主武器控制、生化制剂开发和定向虚假信息等领域。他们认为，人工智能实验室提出的生存风险超过10%的估计不应被简单斥为炒作。他们警告说，如果等到危险能力被广大公众清楚认识后才采取行动，政策制定者可能已经没有足够时间应对。

资讯正文

这难道是现实版的《不要抬头》吗？顶尖数学家正就先进 AI 带来的生存风险发出警告。在一封致英国皇家学会会长的公开信中，42 位数学领域的会士敦促这家英国科学院向政府和媒体发出警示。签署者包括菲尔兹奖得主 Martin Hairer、Peter Scholze 和 Wendelin Werner。他们均与 AI 公司没有关联。

在三个月内，OpenAI 和 Anthropic 的领先模型已经解决了多项尚未解决的研究问题，其中包括七大千年大奖难题之一（注：第二个很可能很快也会被解决）。信中称，这些模型如今在数学的许多领域已达到“顶尖人类数学家的水平”，并且“很有可能在同样短的时间内发展出超越人类的能力”。

不过，促使他们发表这封信的并不是 AI 对数学的影响。该团体警告称，在网络安全、自主武器控制、生物和化学制剂研发以及定向虚假信息传播等领域，“我们必须假定其能力的变化速度将与此相近”。他们写道，AI 实验室对生存风险高于 10% 的估计“绝不能被斥为‘炒作’”。“等到更广泛的公众明显意识到事态时，采取行动可能已经太迟了。”

来源与参考

1. 原始链接
2. 42 leading mathematicians warn that AI existential risk is real and urgent