Anthropic撤回Claude 5隐蔽限速计划
The Decoder··作者 Maximilian Schreiner
关键信息
最初引发争议的，不只是限速本身，而是“隐蔽”执行，这被批评者认为是对外部研究者不友好。另一项争议仍然存在：据报道，Fable 5 为运行新的安全分类器需要保留数据，提示词和输出最多会保存30天；如果触发政策违规标记，最长可保存两年。
资讯摘要
Anthropic 因一项计划而受到批评，该计划原本打算在用户可能用 Claude Fable 5 训练竞争性AI模型时，悄悄降低其性能。经过研究社区的强烈反弹后，公司现在已经撤回了这一做法。Anthropic 对 WIRED 表示，自己“做出了错误的权衡”，并为没有把握好平衡而道歉。公司还表示，今后的任何保护措施都将对用户可见，而不是隐藏执行。前白宫AI顾问 Dean Ball 将这一隐蔽方案称为“令人震惊的敌意行为”。
开源创业公司 Prime Intellect 的 Will Brown 则直言，这似乎是在向公众传递一种信息：Anthropic 不相信任何其他人能做AI研究。尽管如此，围绕 Fable 5 的争议并未结束，因为它还要求保留数据来运行新的安全分类器。报道显示，提示词和输出最多会保存30天；如果被标记为违反政策，最长可保存两年。这个要求已经让一些用户却步，其中包括微软。据称，微软已在内部限制该模型，因为除 Fable 5 之外，其他 Claude 模型都运行在零数据保留规则下，而 Fable 5 并不符合这一做法。
资讯正文
Claude Fable 5：Anthropic在悄然限制竞争对手AI研究人员后承认作出“错误权衡”
Anthropic推翻了原先一项本会悄悄削弱AI研究人员性能的政策，但另一项争议仍然存在。
Anthropic原计划在用户尝试训练竞争性AI模型时，悄无声息地降低Claude Fable 5的性能。在研究社区强烈反弹之后，公司现在正在退让。“我们做出了错误的权衡，也为没有把握好平衡而道歉，”Anthropic告诉WIRED。今后，任何保护措施都将对用户可见。
前白宫AI顾问Dean Ball将这种秘密做法称为“令人震惊的敌意”。开源初创公司Prime Intellect的Will Brown则直言不讳地概括了核心批评：“这让Anthropic仿佛在对公众说，‘我们不信任其他任何人来做AI研究。只有我们才应该做AI研究。’”
不过，这并不是围绕Fable 5的唯一争议。Claude Fable 5需要保留数据才能运行其新的安全分类器——提示词和输出会被存储长达30天，如果被标记为存在政策违规，最长可达两年。对一些人来说，这一点就是不可接受的。根据The Verge的报道，微软因此在内部限制使用该模型：虽然所有其他Claude模型都在零数据保留规则下运行，但Fable 5甚至没有出现在微软GitHub Copilot版本的内部模型选择器中。
来源与参考