菲尔兹奖得主加入 OpenAI 负责 AI 安全

关键信息

Tsimerman 表示，AI 是一种极具变革性的技术，社会应当投入更多精力到安全上。他还认为数学家能发挥很大作用，因为 AI 系统目前仍主要依赖经验方法，关于其工作机制的强保证还很少。

资讯摘要

Jacob Tsimerman 是多伦多大学的数论学者，也是一位刚获得菲尔兹奖的数学家，他将加入 OpenAI，专门从事 AI 安全工作。文章把这件事描述为前沿 AI 实验室吸引顶尖数学家的一个典型例子。Tsimerman 认为，AI 是一种极具变革性的技术，社会需要投入更多力量来确保其安全。 他指出，数学家可以做出很大贡献，因为当前 AI 系统仍主要依靠经验测试，而不是基于对系统工作机制的强理论保证。

报道还提到，他去年发表过一篇关于“omnicide events”的论文，这个词指的是 AI 可能促成人类灭绝的情景。文章同时说明，这种观点在专家之间仍有争议，而 Tsimerman 也强调，正确的态度不是恐慌，而是诚实评估风险。 他还表示，自己确信 AI 很快就会在数学研究上超越人类。文中还引用了前 DeepMind CEO Demis Hassabis 的看法：他认为 AI 在数学上的最新进展很重要，但还没有达到类似 AlphaGo 著名“Move 37”那样的根本性突破；如果 AI 能解决 Millennium Prize Problems 这样的重大难题，才更像是决定性的里程碑。

资讯正文

曾发表一篇关于 AI 驱动的人类灭绝论文的菲尔兹奖得主，如今在 OpenAI 工作

多伦多大学数论学者、刚刚获奖的菲尔兹奖得主 Jacob Tsimerman 正在加入 OpenAI，从事 AI 安全工作。他表示，AI 是一种极具变革性的技术，社会需要在安全方面投入更多努力。他认为数学家可以作出很大贡献，因为 AI 目前仍主要依赖经验性方法运行，而对于这些系统究竟如何工作，几乎缺乏任何保证。

Tsimerman 去年还发表了一篇关于“omnicide events”的论文，这类情景指的是 AI 可能会促成人类灭绝。专家们对这一立场存在争议。Tsimerman 说，恐慌并不是正确的反应，但我们需要诚实评估这些风险。他确信，AI 很快就会在数学研究方面超越人类。

前 DeepMind 首席执行官 Demis Hassabis 也对 AI 最新的数学进展发表了看法。他认为这些进展是进步，但还算不上像 DeepMind 的 AlphaGo 传奇性的“第 37 手”那样的根本性突破。要达到那一步，AI 需要攻克诸如千禧年大奖难题之类的问题。OpenAI 的新模型 Astra 在这些问题上也未能成功，但这或许只是时间问题。"我看不出有什么理由不行，"他说。

来源与参考

1. 原始链接
2. Fields Medalist who published a paper on AI-driven human extinction now works for OpenAI