Anthropic下线双用途AI模型

关键信息

Anthropic表示，Mythos 5既能帮助防御者发现软件漏洞，也能帮助攻击者找出利用方式，公司将其描述为双用途风险。该公司最初只向Project Glasswing联盟内的一个小型联合体提供Mythos Preview，随后又向该群体私下发布Mythos 5，并向公众推出了对生物学和网络安全问题设有限制的Claude Fable 5。

资讯摘要

上周晚些时候，Anthropic在美国政府一项出口管制指令发布后，暂时将其新的Claude Fable 5和Mythos 5模型下线。该指令禁止“任何外国国民”使用这些服务，而Anthropic自周五起一直在与白宫讨论，但目前尚未达成让模型恢复上线的协议。此事发生之际，这些模型的高级能力和大范围开放所带来的安全影响正受到越来越多关注。自Mythos在4月发布以来，Anthropic就表示该模型既能帮助发现软件漏洞，用于防御目的，也能帮助找出利用这些漏洞的方法。Anthropic明确承认，许多先进AI应用都具有双用途特征：同样的能力在网络安全专家和生物研究人员手中可能有益，但落入恶意行为者手中就会变得危险。

为降低风险，Anthropic最初只将Mythos Preview限制给Project Glasswing工作组中的一个精选联盟。随后，Mythos 5也仅向该联盟私下发布，而Claude Fable 5则面向公众开放，但对生物学和网络安全相关问题设置了限制。随后，特朗普政府对这两个模型实施限制，理由是Fable 5的安全防护可能被绕过，从而暴露出Mythos 5的完整能力，并将其视为国家安全风险。WIRED文章认为，这场冲突真正揭示的并不是某一个模型的特殊性，而是更广泛的趋势：来自多家公司的先进AI系统，包括开放权重开发者的模型，不久后很可能都会具备类似的进攻和防御网络能力，甚至这些能力也许已经存在。

资讯正文

上周末，Anthropic在美国政府一项出口管制指令要求禁止“任何外国国民”使用其服务后，下线了其新的 Claude Fable 5 和 Mythos 5 AI 模型。该公司自周五以来一直在与白宫磋商，但至今仍未达成协议，使这些服务能够恢复上线。

自 Mythos 于 4 月发布以来，Anthropic 一直宣称并警告称，这一模型不仅具备发现软件漏洞、帮助防御者修补漏洞的先进能力，也能找出可被不法分子利用的攻击方式。Anthropic 自己在推出 Mythos 5 和 Claude Fable 5 时也指出了这种双刃剑属性。该公司上周在一篇博客文章中写道：“AI 模型的许多高级用途都具有双重用途：在网络安全专业人员和生物学研究人员手中有益的同样查询，如果落入恶意行为者之手，就可能变得危险。”

考虑到这一点，该公司最初将名为 Mythos Preview 的版本只发布给一个精选联盟，作为名为 Project Glasswing 的工作组的一部分。Mythos 5 上周也向该小组进行了私下发布，而 Claude Fable 5 则作为一款 Mythos 级别的模型向公众发布，但对其回答生物学和网络安全相关问题的能力设置了特定限制。

随后在上周末，特朗普政府开始限制这两款模型，因为它认为 Fable 5 的防护栏可以被禁用，从而让用户完全访问 Mythos 5 的能力，据称这使其构成国家安全风险。

不过，专家表示，这场机构之间的冲突只是在拖延或掩盖一个残酷的事实：Anthropic 眼下或许站在了风口浪尖，但整体 AI 能力，以及来自多家公司和开源权重开发者的模型，几乎肯定会在不久的将来具备与 Mythos 5 相似的能力——如果它们现在还没有的话。

来源与参考

1. 原始链接
2. "Dangerous" AI models are coming no matter what