OpenAI与Anthropic敦促英国监管前沿人工智能
WIRED AI··作者 Ben Gartside
关键信息
英国人工智能安全研究所只有在公司提供访问权限时才能测试前沿模型，官员承认该体系目前完全依靠自愿合作，也无权阻止模型发布。英国军情五处负责人Ken McCallum另行警告，人工智能可能提高现有或新型生物武器带来的危险。
资讯摘要
英国商业、创新、科学与贸易委员会举行了一场证据听证会，邀请了四家前沿人工智能公司的高管、四名前员工兼举报人以及英国高级公务员。Anthropic欧洲负责人Liam Booth-Smith表示，公司一直认为必须制定具有约束力的规则，仅靠自愿承诺是不够的。OpenAI副总裁Tom Duff Gordon也支持法定监管框架，但态度更谨慎，并提出应从强制事故报告开始，同时推动国际公约。Google DeepMind的Owen Larter则强调标准，Meta的Rob Sherman则指出英国已经拥有现行监管机构。
委员会主席Liam Byrne表示，听证会旨在揭示这些大型人工智能公司之间的分歧，并说明不能依赖自愿自律。就在同一时期，英国军情五处负责人Ken McCallum警告，人工智能被滥用于生物武器可能成为特别严重的威胁。随后，英国公务员承认，英国人工智能安全研究所依赖公司和外国政府的合作，无法阻止危险模型发布，也不负责授予安全认证或批准。OpenAI还明确表示，英国获取其部署前模型的渠道与美国对应机构CAISI的合作有关。
资讯正文
OpenAI 与 Anthropic 告诉英国议员：监管我们
由跨党派议员组成的商业、创新、科学与贸易委员会于周二举行了取证听证会，出席者包括四家前沿 AI 公司、四名后来成为举报人的公司前员工，以及英国高级公务员。
在被问及 Anthropic 是否认为如今需要一个关于 AI 安全的法定框架时，该公司欧洲区负责人 Liam Booth-Smith 告诉委员会：“规则应当具有约束力。”他说，Anthropic “始终认为，应当对企业制定具有约束力的规则，仅靠自愿承诺是不够的”。
OpenAI 副总裁 Tom Duff Gordon 的态度较为谨慎，但仍表示支持法定框架和国际公约。他说，“有些要素应当是强制性的”，首先应从事故报告开始。他表示：“我们认为，把前沿 AI 风险的一切都建立在自愿承诺之上，并不是一个好的长期方案。”
然而，他们的竞争对手并不打算跟进。在被直接问及是否支持法定框架时，Google DeepMind 的 Owen Larter 表示：“我们要做的是聚焦标准。”Meta 的 Rob Sherman 则指出英国现有的监管机构，并告诉议员，他们“并不是在一张白纸上起草规则”。
这场听证会揭示了监管问题上业已存在的分歧，将 AI 领导者之间相互冲突的做法载入了英国议会记录。特别委员会主席 Liam Byrne 表示，将这一分歧暴露在另一个司法管辖区内正是此次行动的目的。听证会结束后，他向 WIRED 表示，委员会的目标是“揭示地球上一些最富有企业之间存在的巨大意见差异”，并表明“不能依赖自愿的自我监管”。
四名高管就 AI 安全向委员会作证的同时，几百米之外，英国安全部门负责人正在发出有关 AI 危险的警告。
MI5 主任 Ken McCallum 在年度威胁报告中警告称，生物武器遭滥用是 AI 带来的重大威胁之一。McCallum 表示：“这种情况尚未成为现实，但在各种滥用情形中，我最为重视的是，AI 可能改变现有甚至全新生物武器所带来的风险级别。”
针对这一评论，Byrne 告诉 WIRED：“MI5 负责人在白厅的一处地点警告生物恐怖分子可能获得极其危险的能力提升，而在白厅另一处地点，内阁办公室常务次官却基本承认我们针对 AI 的监管制度是自愿性的——这已经说明了你需要知道的一切。”
在取证听证会的最后阶段，公务员向委员会承认，当前制度的强制力非常有限。英国 AI 安全研究所（AISI）会在前沿模型发布前进行测试，但只有在企业选择将模型交给该机构时才会进行。
AISI 主任 Henry de Zoete 承认，该研究所完全依赖企业和外国政府的合作，才能获得访问权限。负责管理 AISI 的内阁办公室最高级公务员 Cat Little 被追问整个制度是否都是自愿性的。她回答：“目前，是的。”
当被问及如果 AISI 判断某个模型过于危险、但某家公司仍执意发布会发生什么时，de Zoete 承认，AISI 无法阻止对方这么做。
“我们并不是在进行风筝标志认证。”de Zoete 说。这里的“风筝标志”是英国对安全认证的称呼。“我们不会对任何类型的模型说可以或不可以。”他补充道：“这些公司要么是美国公司，要么是中国公司，它们正在构建处于前沿水平的模型……在这种情况下，作为英国，我们能做的也就这么多。”
这些前沿领域的高管也明确表示，英国能否获取模型取决于华盛顿。“我们会在部署前向 CAISI 提供模型。”OpenAI 的 Duff Gordon 说。他所指的是 AISI 的美国对应机构。“我们将继续在部署前向英国的 AISI 提供模型……只要美国政府允许我们这样做，我们就会继续这样做。”
Anthropic 的 Booth-Smith 让英国官员清楚地看到了现有安排中的矛盾。“很遗憾，当时我们无法向英国 AISI 提供对 [Mythos 5.1] 的完整、不受限制的访问权限……那是美国政府需要回答的问题。”他说，随后补充道，AISI 目前已经可以访问该模型。
听证会还听取了四名前实验室研究人员的证词，其中包括 OpenAI 前员工 Daniel Kokotajlo。“我认为不能相信这些公司会自我监管。”他对议员们说。2024 年末离开 OpenAI 的 Steven Adler 表示，他“对整个行业的安全文化没有信心”。Geoffrey Irving 说，各实验室认为自己陷入了一场政府不会介入、而它们也无法退出的竞赛。“这两点都是错的。”他说，“它们完全可以停下来。”
听证会结束后，Byrne 告诉 WIRED，他所在的委员会现在将投入大量时间，研究英国作为人工智能领域中等强国的未来道路。他希望部长们利用英国即将担任的 G20 轮值主席国身份，并与随后接任主席国的韩国合作，促成一项不依赖现任白宫的国际公约。“G20 主席国任期会长于特朗普担任美国总统的任期。”他说。
他补充道：“风险增长的速度，已经超过了我们的安全机制所能控制的速度。”
来源与参考