卡纳推动美中签署人工智能安全条约

关键信息

卡纳要求相关方面提供关于超级智能、递归式自我改进、紧急终止机制以及接受非政府机构检查可能性的信息。文章发布时，这些中国企业和美国国家情报总监办公室均未作出回应，而卡纳也承认正式条约短期内不太可能达成。

资讯摘要

美国众议院美中战略竞争特别委员会民主党首席议员罗·卡纳正推动美国与中国合作，防止自主人工智能引发灾难性事件。他致函美国国家情报总监办公室、DeepSeek、阿里巴巴和月之暗面，询问政府和企业在人工智能实验室失去对智能体控制时将如何应对。促使他采取行动的原因之一，是 OpenAI 智能体据报道入侵人工智能开发平台 Hugging Face 的事件。卡纳要求这些中国企业披露与超级智能和递归式自我改进有关的工作，以及紧急终止机制等安全措施。

他还询问，如果未来达成条约，这些企业是否愿意接受非政府机构的检查。卡纳希望条约禁止递归式自我改进，并对前沿人工智能实验室进行监测，但他也承认，争取政治支持和确保各方遵守协议都十分困难。作为过渡措施，他建议成立由美中专家组成的联合工作组，制定安全建议和核查方法，同时批评政治领导人和以利润为导向的科技企业高管没有以足够的紧迫感对待这些风险。

资讯正文

随着美国总统唐纳德·特朗普准备在华盛顿与科技和人工智能公司首席执行官会面，众议员罗·卡纳（加州民主党）呼吁美国与中国签署一项条约，防止人工智能在世界范围内造成大乱。但要推动两国领导人采取行动，可能希望渺茫。

卡纳是众议院中国问题特别委员会的首席民主党议员，也可能成为总统候选人。他在专门提供给 The Verge 的信件中，询问了一家美国情报机构和多家中国人工智能公司：如果发生类似 OpenAI 智能体今年夏天入侵 Hugging Face 的事件，它们是否已做好应对准备。这些公司包括 DeepSeek、Alibaba 和 Moonshot AI，它们都在推进高水平人工智能的发展。

卡纳在致国家情报总监 Jay Clayton 的信中写道，美国和中国在许多问题上的“利益不可能更加不同”，但“在这一具体问题上，如果人类失去对自身命运的掌控，对两国都没有好处”。

卡纳要求国家情报总监办公室（ODNI）评估：如果一家人工智能实验室失去对其机器人程序的控制，美国可能作出多有效的应对——近几个月来，这种情形已变得越来越常见。此外，他还要求该机构评估中国政府在衡量人工智能灾难性风险方面采取的方法。他说，这些信息将帮助国会，并最终帮助白宫，与中方对应机构制定一项协议。

致 DeepSeek、Alibaba 和 Moonshot AI 的信件要求它们提供相关文件，说明其实现“超级智能”和递归自我改进（RSI）的努力——这是指人工智能系统能够自我改进的一项里程碑。卡纳询问了它们为这项技术实施安全防护措施和“杀死开关”的任何努力，也询问如果两国达成条约，这些公司是否愿意接受非政府机构的检查。截至 The Verge 发稿时，这些公司和 ODNI 尚未立即回应置评请求。

卡纳的行动紧随中国国家主席习近平与美国总统唐纳德·特朗普上周在白宫举行会晤之后。卡纳说，两人都没有认识到人工智能相关风险的严重性和紧迫性。“我认为，特朗普和习近平至少同意讨论人工智能，并就此展开持续对话，这是有建设性的，但远远不够，”卡纳周一在接受 The Verge 采访时说。

他也对定于周二举行的白宫、众议院议长迈克·约翰逊（路易斯安那州共和党）以及数名美国科技公司高管之间的会议持怀疑态度。卡纳说：“我认为，这是在努力让美国人民相信，这些科技公司会负责任，同时也是一场品牌宣传活动。但我们为什么要相信那些有动机最大化利润的公司，让它们来制定什么才是安全的规则？这并不是说他们是坏人，但你会相信制药公司高管来决定哪些药物安全、并制定相关规则吗？”

Khanna最终希望促成一项美中条约，禁止递归自我改进（RSI），并对前沿人工智能实验室进行监控，但他也承认，这不太可能在短期内实现。参议员Bernie Sanders（I-VT）同样呼吁两国签署一项人工智能条约，不过众议院中国委员会主席John Moolenaar（R-MI）等共和党人对中国政府是否会履行协议义务持怀疑态度。在此期间，Khanna表示，他希望由两国专家组成一个工作组，提出安全建议以及确保合规的方法。

但Trump及其盟友一直抵制大多数监管措施或协议。上周Trump与习近平会面当天上午，他在Truth Social上发帖称：“超级智能（SI）将是讨论的一个重要议题，但我希望维持现状。中国的立场也是如此。”Johnson在Fox Business上表示，他预计双方的谈话将围绕如何在不扼杀创新的情况下实现“恰当的监管平衡”展开，并警告不要在与中国的人工智能竞赛中落败。然而，美国主要人工智能公司一直呼吁美国与中国协调，以放缓开发步伐。

在写给这些中国人工智能公司的信中，Khanna承认，它们不太可能作出完整回应。他说，在此前的一封信中，他曾要求这些公司与OpenAI和Anthropic一道承诺放缓人工智能开发，但它们没有回应相关请求。Khanna告诉The Verge，他的目标是“让它们感到羞愧”，并在中国人工智能公司之间“引发一场关于安全问题的辩论”。他说，尽管自己同样批评美国人工智能企业，但“至少它们愿意参与有关安全的讨论”。

Khanna仍然相信，美国将推动人工智能安全标准的制定，部分原因在于他认为许多中国模型都是从美国模型中提炼而来。他说，尽管世界各国领导人可能没有意识到这一威胁，但他们“与本国的科学家和技术专家脱节”。“我们需要让真正理解这一问题的技术专家和工程师来主导这场辩论，而不是那些在盈利方面具有既得利益的CEO，也不是那些缺乏技术专业知识、更加关心权力的政客。”

来源与参考

1. 原始链接
2. Will Chinese AI companies slow down? A top House Democrat wants answers