OpenAI的数学顾问计划加剧信任危机

关键信息

OpenAI表示，AGMAI保持独立，不接受公司的资金或技术支持，成员可以公开质疑OpenAI、发表建议，并提出公司未主动请求的意见。不过，该组织不会建议OpenAI如何安排内部数学研究进度；成员Martin Hairer表示，成员只承担因提前接触研究成果而产生的标准保密义务。

资讯摘要

OpenAI在数学领域取得了一些引人注目的进展，但在宣布这些进展时屡次处理失当。如今，公司试图通过数学与人工智能咨询组（AGMAI）修复与数学家之间受损的信任。该组织于9月21日在加州大学洛杉矶分校数学家Terence Tao的博客客座文章中宣布成立，由九名顶尖数学家组成。按照公开说明，AGMAI将就新成果的审查和传播向OpenAI及其他前沿人工智能实验室提供建议，同时保持独立，并可以公开批评相关公司。

然而，OpenAI更高调的发布方式导致许多数学家和外界人士误以为AGMAI是由OpenAI任命的机构。AGMAI网站的说法进一步加深了这种印象：OpenAI最初曾联系部分最终成员，讨论成立咨询委员会，随后这些数学家决定独立组建该组织并邀请其他成员加入。AGMAI成员Martin Hairer强调，该组织不受OpenAI雇用，也没有获得公司的资金、技术或其他支持，但他承认整个发布过程令人沮丧且十分紧张。该组织面临的第一个重大任务，是协助协调发布一款尚未公开模型产生的大量额外成果，而研究人员已经担心这场潜在的人工智能数学突破浪潮会对整个领域造成什么影响。

资讯正文

OpenAI 一再碾压数学家

在混乱的短短几个月里，OpenAI 展现出了两种令人惊叹的一致性：在数学领域取得令人印象深刻的突破，然后在宣布这些突破时犯下极其严重的错误。如今，OpenAI 正试图做得更好。不知怎的，它连这件事也搞砸了。

OpenAI 修复与数学界之间破裂关系的最新尝试，是向一个由顶尖从业者组成的新独立咨询小组寻求意见。数学家们在接受 The Verge 采访时——其中包括该小组的一名成员——将此事描述为一场混乱且令人困惑的闹剧，带有 OpenAI 此前仓促涉足数学领域时的许多典型特征，这表明该公司并没有从过去的错误中吸取多少教训。而该小组接到的第一项任务也相当艰巨：帮助协调发布 OpenAI 声称其尚未发布的模型所产生的数十项更多成果。对于这一即将席卷而来的突破浪潮可能给数学领域带来的影响，研究人员已经产生了深深的忧虑。

9 月 21 日，一批著名数学家在 UCLA 数学教授 Terence Tao 的博客上发表客座文章，宣布成立“数学与人工智能咨询小组”（Advisory Group on Mathematics and Artificial Intelligence，AGMAI）。Terence Tao 是菲尔兹奖得主，也是公开批评 AI 公司在数学领域行为方式的直言不讳者。该小组原定由 9 名处于各自领域顶尖位置的杰出数学家组成，并作为一个独立机构运作。文章称，该小组将独立于 OpenAI，并向 OpenAI 及其他前沿 AI 实验室提供建议，“审查和沟通新出现的成果”。OpenAI 在自己的公告中反复强调该小组的独立性，称成员可以公开质疑公司、发布他们的建议，并就公司未曾征求的问题提供指导。OpenAI 还强调了该小组影响力的边界，指出该小组“不会负责就如何安排我们在数学领域的内部进展速度向我们提供建议”。

但许多数学家，当然还有数学界之外的大多数人，都是通过 OpenAI 声势大得多的宣传活动才了解到这个小组的。

结果，人们普遍困惑于 AGMAI 是否真的独立，抑或正如 The Verge 在公告发布后几天采访的几位数学家所认为的那样，它其实是某种由 OpenAI 任命的机构。这种印象并非完全没有道理，因为 AGMAI 的网站称，该组织是在 OpenAI 接触其后来的一些成员、询问他们是否愿意成立一个咨询委员会后组建的；随后，这些成员决定独立开展工作，并邀请其他人加入。目前仍不清楚 OpenAI 最初接触的是这 9 名成员中的哪些人。

AGMAI 成员、伦敦帝国理工学院和洛桑瑞士联邦理工学院（EPFL）数学教授 Martin Hairer 在一间阶梯教室里通过视频电话接受 The Verge 采访时，特别强调该组织独立于 OpenAI。尽管他承认，OpenAI 最初接洽一些数学家是该组织成立的直接契机，但他表示，该组织没有从 OpenAI 获得任何资金、技术或其他形式的支持，其成员也没有签署任何限制其言论或行动的协议，唯一的例外是为提前接触研究成果而必须遵守的标准保密要求。

对于 Hairer 来说，这段时间显然忙乱不堪。他形容此前几天的经历“非常令人沮丧”且“紧张”。“我们不为 OpenAI 工作，也没有从他们那里领取报酬，整个组织完全独立。”他说。Hairer 表示，该组织同样愿意与其他前沿 AI 实验室合作，并且已经开始与其中一些实验室接触，不过他拒绝透露具体是哪些机构。

尽管如此，Hairer 似乎对 OpenAI 宣布双方关系的方式感到恼火。在随后争议不断之际发布的一篇博客文章中，Hairer 承认，如果认为 AI 公司不会试图利用该组织的参与为自身造势，那就太天真了。鉴于该组织的成立，部分原因正是 OpenAI 此前对数学突破成果处理得极其糟糕，这一风险自然成为关注焦点。OpenAI 对一个著名千禧年大奖难题的解决方案，很快演变成围绕成果归属、抢先发布以及该公司如何对待数学家的争执，因此数学界自然心存疑虑。

Hairer 承认，OpenAI 的公告对于帮助这个刚成立的组织确立独立性几乎毫无助益。AGMAI 要帮助数学家应对与 AI 公司之间日益复杂棘手的关系，就必须赢得数学界的信任。“他们措辞的方式确实没什么帮助。”Hairer 说。他指出，该公司的用词十分“谨慎”，“如果逐字仔细阅读，他们说的内容并没有什么错误。”“他们显然拥有非常出色的公关人员。”他笑着说。

整个过程——从公告发布、组织成立，到与数学界沟通——都给人一种仓促拼凑起来的感觉。上周三被问及 AGMAI 的计划时，Hairer 笑着说：“所以，我们，嗯，你知道，两天前才刚刚开始。因此，我们并没有什么宏大的总体规划。”

这种紧迫感或许源于 OpenAI 手中掌握着一批研究成果，而且显然迫切希望尽快将其公布。OpenAI 表示，在解决 Navier–Stokes 千禧年大奖难题后，其尚未公开的内部“模型如今已经解决了数学领域绝大多数分支中超过 100 个长期悬而未决的开放问题”。

为避免再次陷入公关灾难，OpenAI 才不惜费力，试图组建一支由全球顶尖数学家组成的顾问团队。然而，它一边大肆宣传还有数量如此庞大的成果等待发布，一边承诺会以负责任的方式处理这些成果，反而更加凸显出 OpenAI 在数学界是多么格格不入的局外人。

OpenAI 不断碾压数学家

“任何学术界人士都不会这样做，”康涅狄格大学数学教授 Álvaro Lozano-Robledo 说。“我不会到处说，‘哦，我已经证明了所有这些东西，但我不知道该拿它们怎么办。’”

他认为，OpenAI 的其他一些表态中也存在类似的脱节。例如，OpenAI 的 Laurance Fauconnet 曾告诉 The Verge，该公司在另一个千禧年大奖难题上“取得了重大进展”。“没有数学家会站出来这么说，”Lozano-Robledo 说。“要么你已经解决了它，要么你还在尝试。”

Lozano-Robledo 说，他希望 OpenAI 与 AGMAI 接触，是为了认真回应数学家的担忧，但他强调，这意味着 OpenAI 应当成为研究群体中负责任的一员。这不仅仅是把研究结果丢到公众面前，然后继续往前走——许多数学家认为，OpenAI 对最近的研究成果就是这么做的。The Verge 接触的研究人员抱怨说，相关论文写得很差，而且几乎没有与围绕该发现的既有文献展开交流；所有这些都让人难以理解一项成果的重要性，也使关键工作的贡献者无法获得应有的认可。有时，公司会在论文发布后悄悄修改文件，以弥补其中的不足，却不宣布修改，也不留下清晰的改动记录。The Verge 在该公司于 8 月初宣布“数学与理论计算机科学领域的十项进展”时注意到了这一点；Hairer 也单独描述过一些情况：公司似乎会因批评而“偷偷地”修改论文。“这也会让人变得偏执，对吧？”Hairer 说，并将这种做法称为“粗制滥造”，是“真的很糟糕、很马虎的学术工作”。

与其他领域的 AI 垃圾内容一样，制造这些内容的人很少是承担处理成本的人。Lozano-Robledo 将 AI 生成的数学解答洪流称为整个群体的“负担”，而他认为，AI 公司从根本上误解了这一点。“负担在于，他们正在生成一个解答，”他说，但解答本身往往不如伴随解答而来的理解重要。在人类数学中，这两者传统上是相辅相成的，而 AI 似乎正在改变这一点。

AI 公司或许能够产出令人印象深刻的结果，但它们仍然需要人类数学家来厘清一项成果究竟有多重要。“他们需要我们的专业知识，”Lozano-Robledo 说。“他们需要我们来认可并庆祝那个解答。”

对于 The Verge 接触的其他数学家来说，这种负担要私人化得多。几周以来，OpenAI 一直在暗示另一个千禧年大奖难题，并表示已经准备好了 100 多项针对一些显然很重大的问题的结果，却几乎没有透露这些结果究竟是什么。在过去几次公告、尤其是 Navier-Stokes 相关公告引发动荡之后，这种不确定性营造出了一种紧张氛围。许多研究人员表达了担忧：他们投入了数年、甚至数十年职业生涯的问题或研究领域，可能会成为下一个被砍掉的目标，被一家他们怀疑正把这件事当作上市前宣传噱头的公司突然“解决”。

“他们只是在助长人们的疑虑，让人猜测他们究竟可能已经证明了什么。”Lozano-Robledo说。他指责这家公司“助推了这股狂热”，加剧了许多数学家的恐惧：自己的研究领域可能会成为下一个被颠覆的对象。“比如，他们说‘我们几乎又解决了一个千禧年难题’，那他们说的究竟是哪一个其他千禧年难题？这句话在数学领域根本说不通。”这位研究人员强调，如此大肆张扬的做法根本不是数学通常的研究方式。

对于苏格兰圣安德鲁斯大学数学教授Colva Roney-Dougal来说，围绕OpenAI的不确定性已经深刻影响了她对自己工作的看法。“知道很快可能会有‘大量’成果被公布，这让人多少有些煎熬。”她说，“这样的成果越多，我正在进行的工作，或者我的学生正在进行的工作，就越有可能突然变得无关紧要。”

快速发展的步伐让Roney-Dougal陷入一种格外奇特的学术十字路口：“因此，我不知道自己究竟应该尽可能快速地发表论文，还是被动等待看看这些成果是什么，或者继续像往常一样工作。”她说。

Hairer非常清楚这种焦虑。他说，研究人员可能受到的冲击，是他将自己的名字加入一份菲尔兹奖得主名单的原因之一。这些得主正试图应对他们所称的人工智能公司与数学界目标“严重错位”的问题。他也意识到，OpenAI可能会利用他以及其他知名AGMAI成员的参与来为自己谋利，尤其是在普通公众面前。

“那就随他们去吧。”他说。Hairer表示：“他们不会以这种方式损害我在数学界的声誉。从某种意义上说，他们说什么我并不真正关心。但我真正担心的是整个数学界。”

来源与参考

1. 原始链接
2. OpenAI keeps bulldozing mathematicians