美中考虑就AI开展正式会谈

关键信息

计划讨论的议题包括模型的意外行为、自主武器系统，以及非国家行为体利用开源工具发动攻击。此前在乔·拜登任内于2023年启动的一轮会谈几乎没有产生具体成果，不过双方在2024年同意，核武器使用决策应由人而不是AI来做出。

资讯摘要

据文章援引《华尔街日报》报道，美中正在考虑就人工智能举行正式会谈。相关讨论可能会成为5月14日至15日在北京举行的特朗普与习近平峰会的一部分。美国方面由财政部长斯科特·贝森特牵头，中方目前则由财政部副部长廖岷参与。报道说，双方考虑的不是一次性接触，而是定期举行会议。会谈议程预计将聚焦AI风险，包括模型出现意外行为、自主武器系统，以及非国家行为体利用开源工具发动攻击的可能性。

文章指出，美中之间的第一轮AI会谈始于2023年、发生在乔·拜登任内，但几乎没有产生具体成果。曾主导当时谈判的Rush Doshi表示，北京派出的不是技术机构而是外交部，这限制了会谈能够达成的内容。双方在2024年确实达成了一项共识：核武器使用决策应由人来做，而不是由AI来做。文章还提到，两国正在讨论建立AI热线。

资讯正文

美国和中国正在探讨就人工智能举行正式会谈，《华尔街日报》报道说。这个议题可能会在定于5月14日和15日在北京举行的唐纳德·特朗普与习近平峰会上被提起。美方由财政部长斯科特·贝森特牵头讨论，而中方迄今则由财政部副部长廖岷参与。

两国计划定期举行会议，讨论人工智能模型的意外行为、自主武器系统，以及非国家行为者利用开源工具发动攻击等风险。

首轮人工智能会谈于2023年在乔·拜登执政期间启动，但几乎没有取得什么具体成果。根据当时负责谈判的拉什·多希所说，北京派出的是外交部，而不是技术机构，这限制了会谈能够取得的成效。双方还在2024年就一项原则达成一致：关于核武器使用的决定应由人类作出，而不是人工智能。两国之间的一条人工智能热线也在讨论之中。

来源与参考

1. 原始链接
2. The US and China are considering formal talks on AI