Amodei澄清Anthropic对开放权重的立场

关键信息

Amodei 将开放权重模型与具有危险能力的模型区分开来，认为不具危险能力的开放权重模型可以成为公共产品，因为它们运行成本低，而且对开发者、企业和研究人员都有价值。他还援引英国 AI 安全研究所的一份报告指出，一旦开放权重发布就无法撤回，并表示正式的全球模型测试机制若要有效，甚至需要 CCP 参与。

资讯摘要

Anthropic 创始人兼首席执行官 Dario Amodei 在周一出面澄清，他认为业界最近对公司在开放权重 AI 模型问题上的立场产生了误解。面对有人猜测 Anthropic 支持美国政府限制中国开放权重模型，甚至支持限制所有开放权重模型，Amodei 明确表示，Anthropic 从未主张禁止开放权重模型。此前，Nvidia 首席执行官 Jensen Huang 在 X 上发布了一封公开信，联名方包括 Hugging Face、Meta、Microsoft、Mistral 等公司，呼吁政策制定者不要对开放权重 AI 模型施加“过早的广泛限制”。虽然这封信没有直接提到中国，但业界讨论的背景，是一些人担心中国 AI 实验室通过蒸馏等方法不断提升能力。蒸馏指的是让一个模型通过大量提示去学习另一个模型的行为和输出方式。

Amodei 认为，开放权重模型和中国相关的风险应当分开看待，他主张没有危险能力的开放权重模型是公共产品，因为它们运行成本几乎只取决于计算资源，而且对企业、开发者和研究人员都有帮助。与此同时，他表示自己更深层的担忧是威权政府可能打造出比美国更强大的 AI，从而获得“永久军事优势”或用于压制本国人民。Amodei 还警告，AI 不仅可能带来网络安全风险，也可能帮助发动生物攻击；在这类情景下，开放权重模型更难加装防护或追踪使用情况，因为一旦发布就无法收回。他还提到，限制中国获取先进芯片、打击蒸馏行为，以及推动全球统一的模型安全测试，可能是更有效的应对方式。

资讯正文

Anthropic 创始人兼首席执行官 Dario Amodei 周一下午回应了业界的一些议论——有人猜测他的公司在某种程度上支持美国政府禁止中国的开权重模型，或者更广泛地说，支持禁止开权重模型本身的努力。

“任何读过我过去文章的人都该知道，我并不认为这种禁令是有用的措施，但让我明确说清楚，免得大家有任何疑问：Anthropic 从未主张禁止开权重模型，”他写道，并特意加重了语气。

他的回应出现在 Nvidia 创始人兼首席执行官 Jensen Huang 周五首次在 X 上发帖之后。Huang 分享了一封公开信，信中 Nvidia 以及包括 Hugging Face、Meta、Microsoft、Mistral 在内的一长串 AI 公司，呼吁政策制定者不要对开权重 AI 模型施加广泛、 “过早的限制”。

尽管这封信并未特别提到中国，但业界争论的焦点一直是指控：中国 AI 实验室的能力之所以不断提升，往往是通过窃取美国同行的知识产权。其中一种方法是蒸馏，即一个 AI 通过大量提示轰炸另一个模型，以学习其运作方式。

Amodei 在周一发布的博客文章中表示，他认为开权重模型与中国构成的威胁属于不同的范畴。 “没有危险能力的开权重模型是一种公共产品：除了运行它们所需的算力之外，它们几乎不产生成本，而且能为企业、开发者和研究人员提供价值。”

Amodei 在文中说，他长期以来一直对 AI 心存担忧，但使用开权重模型的企业，甚至是来自中国的开权重模型，并不在他的担忧之列。

他担心的是，“威权政府”会打造出比美国更强大的模型，以实现“永久性的军事优势”，和/或利用 AI 压迫本国人民。他说，他担心的不只是中国共产党（CCP），但 CCP 是他认为“最有能力”的那个威权政府。

Amodei 还表示，他担心 AI 不仅会带来网络安全攻击，还会带来“生物攻击”。在他看来，开权重模型在这些场景下更危险，因为很难对它们设置护栏或监控其使用。他还援引英国 AI 安全研究所的一份报告指出，一旦开权重模型被发布，就无法再收回。

这与开源倡导者的观点相反：他们认为，让强大的、由单一实体不控制的开放模型可供使用，有助于防御者保护自己。

Amodei 列举了他认为可以挫败中国的行动，包括限制其获取强大芯片的能力（这一直是美国长期以来的政策），以及呼吁对蒸馏进行正式打击。如果美国认定涉及美国模型的 IP 窃取属实，美国曾威胁要对中国实施制裁。

有意思的是，Amodei 还表示，他支持日益增长的、部分由美国主导的努力，即建立一个模型安全测试机构，尤其是在包括中国在内的全世界都同意接受其测试的情况下。

“我认为这个想法实际上已经接近共识：让我感到欣慰的是，特朗普政府在最近几个月也朝着这个方向前进了，而近期行业内提出的一些方案也主张对最有能力的模型进行此类测试，不论其原产国，也不论它们是开放权重还是封闭式模型（同时将能力较弱的模型，如初创公司和学术界的模型，完全豁免），”Amodei写道。

“需要注意的是，要真正奏效，”他补充说，“测试必须是全球性的，这意味着就连中共也必须参与其中。我认为这实际上可能是可行的……在阻止AI生物武器方面，有限合作或许是可能的，因为这同样符合中国的利益。”

来源与参考

1. 原始链接
2. Anthropic CEO Amodei doubles down on open-weight risk stance while insisting he never called for a ban
3. Anthropic's Dario Amodei responds: doesn't oppose open-weight models, but fears Chinese AI | TechCrunch