Anthropic争议升级，AI出口管制受关注
MIT Technology Review AI··作者 James O'Donnell
关键信息
文章提到，亚马逊CEO Andy Jassy据称曾向政府官员警告Fable可能带来危险，这凸显了此事背后的政治和商业利益。文章也质疑Anthropic提供托管访问是否真的算“出口”，暗示政府的措施可能面临法律审查。
资讯摘要
文章回顾了Anthropic在4月的首次警告：Mythos在编程方面强得足以带来全球性的网络安全威胁，因此公司只向一小批网络安全专家开放访问。到了6月9日星期二，Anthropic发布了经过修改、并称对公众更安全的Fable。几天后的星期五，美国联邦政府通知Anthropic，称Fable本身构成国家安全威胁，并对该发布实施出口管制。Anthropic随后在数小时内撤销了两个模型的访问权限。
文章认为，这次事件与其说是周密的AI安全方案，不如说更像是针对一个高能力代码模型的仓促政治反应。文章还指出，这一做法未必经得起法庭审查，因为目前并不清楚通过Anthropic服务让人访问Fable，是否真的算“出口”。除了眼前的冲突之外，文章还说这一事件已经在促使一些人对美国AI公司失去信任。文章甚至警告说，如果政策制定者认为依赖中国AI模型也会带来国家安全风险，下一轮政策反弹可能会转向使用中国模型的美国公司。
资讯正文
这篇报道最初刊登于《The Algorithm》，这是我们关于人工智能的每周新闻简报。想第一时间在收件箱里收到类似报道，请在此订阅。
如果你这个夏天正惬意地过着、却还不知道 Anthropic 最近与美国政府的这场争执，先来回顾一下：4 月，该公司表示它已经打造出一款名为 Mythos 的 AI 模型，这款模型在处理代码方面强到足以对全球网络安全构成威胁。Anthropic 随后向一小批网络安全专家开放了访问权限，好让他们看看自己将要面对什么。接着，在 6 月 9 日星期二，该公司发布了一个经过修改的版本 Fable，并表示它对公众来说更安全。而在那个星期五，联邦政府告诉这家公司，它对国家安全构成威胁，并对这一新版本实施了出口管制。几个小时后，Anthropic 撤销了对这两个模型的访问权限。
多年来，担心人工智能会带来灾难性后果的人——通常被笼统地称为“末日论者”——一直表示，这项技术对人类构成威胁，并提出了政府应如何干预其发展的方案。这些末日论者如今终于等来了政府的干预——不是因为生物武器或失控的 AI，而是因为一个基本上只是特别擅长写代码的 AI 模型。到目前为止，这一结果看起来与其说像一项安全计划，不如说更像一种表面化的反应。
对于过去几天里促成政府采取如此激烈行动的经过，有很多值得剖析之处；值得注意的是，是亚马逊首席执行官安迪·贾西向政府官员表示 Fable 会很危险（亚马逊既投资了 Anthropic，也在开发自己的竞争性 AI 模型）。这项政府禁令也有可能只是短暂的，最终经受不住法律审查（例如，目前并不清楚 Anthropic 向 Fable 提供访问权限是否真的算作“出口”了它）。
但连锁反应已经开始出现。
首先，这让很多人不再愿意依赖美国 AI 公司。法国政客布鲁诺·勒塔约将其描述为一个“警钟”，应当促使欧洲加大 AI 建设力度。但把巴黎打造成人工智能版硅谷的任何设想——在 Anthropic 模型被关停后，许多其他欧洲领导人也纷纷鼓吹这一点——都被一个大问题所复杂化：那就是中国。
来自中国的开源模型非常强大，而且极其便宜，还可以被下载到任何人的服务器上运行，不受任何规则或限制。（这使它们对那些不想因为白宫的一项决定就被切断访问权限的公司极具吸引力——但对网络罪犯同样极具吸引力，而 Anthropic 希望通过在模型中加入安全护栏来阻挡的，正是这类人。）
包括美国和欧洲在内的公司，最终可能会认为使用中国模型更简单，这一点从中国初创公司智谱股价的飙升中就能看出。顺着这个趋势往下想，政府下一次会不会做出更激烈的决定，宣布美国公司使用中国模型会对国家安全构成威胁？我不会把这种可能性排除在外。
其次，关闭对 Anthropic 模型的访问，可能会让这个国家更容易受到网络安全攻击，而不是更不安全。多位领先的网络安全专家在致政府的一封公开信中也表达了这一观点，他们写道，使用 Anthropic 的模型正在帮助研究人员准备防御措施，而且该公司的模型并不比其他那些广泛可用的领先模型更危险。这就是把“不扩散”概念应用到软件上的风险——试图像控制核武器所用的铀那样，去控制和限制危险的 AI 模型。
第三个值得关注的问题，是美国立法者将如何反应。别忘了，在 Anthropic 先前就五角大楼能否以及如何使用其模型与政府发生争执之后，一批新法案随即被提出，用来界定军事 AI 的边界。
眼下，塑造 AI 如何被使用的最大力量来自这些公司和白宫。关于出台更多联邦层面的 AI 监管，外界已经讨论很多，而且民调显示，大多数美国人希望看到这类监管。立法者仍在摸索是否要就儿童如何使用聊天机器人制定规则，而对于政府应在多大程度上审核 AI 模型的安全性，也远未形成明确答案。但白宫每采取一次激烈行动，对监管的压力就会随之上升。
显而易见，当政府对 AI 的态度像风一样变化时，预测就很难。特朗普总统上任时，抛弃了那套关于如何让 AI 安全的限制性规则，并承诺不再阻碍科技公司。如今，白宫已经在春季和夏季各一次称这家最有价值的 AI 初创公司对国家安全构成风险。秋天又会怎样？
来源与参考