Anthropic 与政府冲突及出口管制后果
MIT Technology Review AI··作者 James O'Donnell
关键信息
文章指出，Anthropic 曾向少数网络安全专家展示 Mythos，因为该公司认为这款模型在发现软件漏洞方面可能非常有用。文章还提到，这次关停可能会面临法律审查，因为向客户提供模型访问权限是否算作“出口”并不明确。
资讯摘要
这篇文章把 Anthropic 与美国政府的最新冲突概括为三个后续影响，并强调这些影响不只关乎公司本身。Anthropic 在 4 月表示，其名为 Mythos 的模型在编程方面强到足以构成全球网络安全威胁，因此只向少数专家开放测试。到了 6 月 9 日星期二，公司发布了经过修改、并称对公众更安全的版本 Fable。几天后的星期五，联邦政府则认定该模型威胁国家安全，并对其实施出口管制。随后，Anthropic 在数小时内撤回了这两个模型的访问权限。
文章认为，政府的做法更像是一次粗暴的 AI 安全干预，而不是精心设计的“防扩散”政策。它还指出，这次行动据称部分源于 Amazon 首席执行官 Andy Jassy 向政府官员提出的担忧；Amazon 既投资 Anthropic，也在开发自己的竞争性 AI 系统。文章表示，如果监管机构无法证明让客户使用该模型就等同于“出口”软件，这项禁令可能在法律上站不住脚。尽管如此，这一决定已经在 AI 生态中引发连锁反应。
其中一个影响是，一些人可能会因此不再愿意依赖美国 AI 公司，尤其是在服务可能因政府命令而随时被关闭的情况下。法国政客 Bruno Retailleau 将此称为一个“警钟”，认为欧洲应当推动更多本土 AI 能力建设。但文章也指出，这一愿景会受到中国开源模型的冲击，因为这些模型既便宜又强大，还可以下载安装到用户自己的服务器上运行，不受额外规则或护栏约束。
这就形成了一个矛盾：对希望保持自主可控的企业来说，中国模型可能更有吸引力；但对网络犯罪分子来说，它们同样有吸引力。文章进一步推测，如果美国和欧洲公司转而使用中国模型，政府未来也许会把这种选择本身视为国家安全问题。第二个值得关注的后果，是封禁 Anthropic 模型可能让美国更容易遭受网络攻击，而不是更安全。文章援引网络安全专家公开致信政府的观点，称这些模型帮助防御者提前准备，而且与其他广泛可用的前沿模型相比并没有明显更危险。第三个观察点是美国立法者会如何反应，因为 Anthropic 上一次与政府围绕国防部如何使用其模型发生冲突后，国会曾提出一系列法案来界定军事 AI 的使用边界。
资讯正文
这篇报道最初刊登于《The Algorithm》，这是我们关于人工智能的每周新闻简报。想第一时间在收件箱里收到类似报道，请在此订阅。
如果你这个夏天正惬意地过着、却还不知道 Anthropic 最近与美国政府的这场争执，先来回顾一下：4 月，该公司表示它已经打造出一款名为 Mythos 的 AI 模型，这款模型在处理代码方面强到足以对全球网络安全构成威胁。Anthropic 随后向一小批网络安全专家开放了访问权限，好让他们看看自己将要面对什么。接着，在 6 月 9 日星期二，该公司发布了一个经过修改的版本 Fable，并表示它对公众来说更安全。而在那个星期五，联邦政府告诉这家公司，它对国家安全构成威胁，并对这一新版本实施了出口管制。几个小时后，Anthropic 撤销了对这两个模型的访问权限。
多年来，担心人工智能会带来灾难性后果的人——通常被笼统地称为“末日论者”——一直表示，这项技术对人类构成威胁，并提出了政府应如何干预其发展的方案。这些末日论者如今终于等来了政府的干预——不是因为生物武器或失控的 AI，而是因为一个基本上只是特别擅长写代码的 AI 模型。到目前为止，这一结果看起来与其说像一项安全计划，不如说更像一种表面化的反应。
对于过去几天里促成政府采取如此激烈行动的经过，有很多值得剖析之处；值得注意的是，是亚马逊首席执行官安迪·贾西向政府官员表示 Fable 会很危险（亚马逊既投资了 Anthropic，也在开发自己的竞争性 AI 模型）。这项政府禁令也有可能只是短暂的，最终经受不住法律审查（例如，目前并不清楚 Anthropic 向 Fable 提供访问权限是否真的算作“出口”了它）。
但连锁反应已经开始出现。
首先，这让很多人不再愿意依赖美国 AI 公司。法国政客布鲁诺·勒塔约将其描述为一个“警钟”，应当促使欧洲加大 AI 建设力度。但把巴黎打造成人工智能版硅谷的任何设想——在 Anthropic 模型被关停后，许多其他欧洲领导人也纷纷鼓吹这一点——都被一个大问题所复杂化：那就是中国。
来自中国的开源模型非常强大，而且极其便宜，还可以被下载到任何人的服务器上运行，不受任何规则或限制。（这使它们对那些不想因为白宫的一项决定就被切断访问权限的公司极具吸引力——但对网络罪犯同样极具吸引力，而 Anthropic 希望通过在模型中加入安全护栏来阻挡的，正是这类人。）
包括美国和欧洲在内的公司，最终可能会认为使用中国模型更简单，这一点从中国初创公司智谱股价的飙升中就能看出。顺着这个趋势往下想，政府下一次会不会做出更激烈的决定，宣布美国公司使用中国模型会对国家安全构成威胁？我不会把这种可能性排除在外。
其次，关闭对 Anthropic 模型的访问，可能会让这个国家更容易受到网络安全攻击，而不是更不安全。多位领先的网络安全专家在致政府的一封公开信中也表达了这一观点，他们写道，使用 Anthropic 的模型正在帮助研究人员准备防御措施，而且该公司的模型并不比其他那些广泛可用的领先模型更危险。这就是把“不扩散”概念应用到软件上的风险——试图像控制核武器所用的铀那样，去控制和限制危险的 AI 模型。
第三个值得关注的问题，是美国立法者将如何反应。别忘了，在 Anthropic 先前就五角大楼能否以及如何使用其模型与政府发生争执之后，一批新法案随即被提出，用来界定军事 AI 的边界。
眼下，塑造 AI 如何被使用的最大力量来自这些公司和白宫。关于出台更多联邦层面的 AI 监管，外界已经讨论很多，而且民调显示，大多数美国人希望看到这类监管。立法者仍在摸索是否要就儿童如何使用聊天机器人制定规则，而对于政府应在多大程度上审核 AI 模型的安全性，也远未形成明确答案。但白宫每采取一次激烈行动，对监管的压力就会随之上升。
显而易见，当政府对 AI 的态度像风一样变化时，预测就很难。特朗普总统上任时，抛弃了那套关于如何让 AI 安全的限制性规则，并承诺不再阻碍科技公司。如今，白宫已经在春季和夏季各一次称这家最有价值的 AI 初创公司对国家安全构成风险。秋天又会怎样？
来源与参考
收录于 2026-06-23