前DeepMind政策主管警告AI军备竞赛风险

关键信息

Harding表示，从国际合作转向竞争对立的转变，受到2022年11月ChatGPT发布、疫情期间“世界重新被边界分割”的感受，以及俄乌战争的共同推动。她特别指出，特朗普政府时期的民族主义AI言论和出口管制提议，已经显示出军备竞赛叙事正在影响政策。

资讯摘要

Verity Harding曾在2016年至2020年担任Google DeepMind全球公共政策负责人，她认为人们谈论AI的方式，正在直接影响各国政府的行动。她在接受WIRED采访时表示，当她当年向包括Barack Obama和Emmanuel Macron在内的政治领导人简报时，AI政策仍建立在国际合作与共同理解技术的基础上。随着时间推移，讨论重心却逐渐转向实验室之间的竞争，例如Anthropic与OpenAI之间的较量，以及美国与中国之间的地缘政治对抗。Harding认为，“AI军备竞赛”之所以成为主流隐喻，是因为它听起来清晰有力，但实际上会缩小思考空间，并鼓励更危险的应对方式。

为反驳这种叙事，她策划了文集《Reframing the AI Arms Race》，其中包括历史学家Lawrence Freedman和日本政客Taro Kono等人的观点。该文集主张，如果把AI看作致命武器，就可能削弱确保技术安全、并让其利益更公平分配所需的国际合作。Harding还警告说，小国如果接受这种军备竞赛框架，可能会被迫在两个超级大国之间选边站队，即使这未必符合自身利益。她认为围绕AI的民族主义言论和出口管制，已经说明这种最坏情形正在影响政策走向。

来源与参考

1. 原始链接
2. This Former DeepMind Exec Thinks the AI Arms Race Could End in Disaster