Anthropic放宽Fable 5生物过滤

关键信息

Anthropic表示，更新后的防护机制仍会在双用途生物问题上保留安全边界，尤其是涉及病毒学合成路径、毒理学武器化以及面向生物威胁的分子设计的请求。该公司还表示，正在建设受信任的访问计划，以便研究人员未来能在受控条件下使用这些受限能力。

资讯摘要

Anthropic更新了Fable 5的生物安全防护，目的是减少过度拦截，因为此前科学家批评该模型会拒绝太多正当请求。公司表示，生物安全过滤器中的误报率已经下降了约85%。在这次调整之前，几乎所有与生物相关的问题都会被拦截并转交给能力较弱的Opus 5。现在，Fable 5可以处理更多日常生物和健康问题，例如解读化验结果、理解症状以及回答医疗问题。Anthropic仍然对其称为“双用途”的主题保持严格限制。

这里包括病毒学、毒理学和分子设计，公司认为这些内容可能让恶意行为者获得其他地方没有的能力。Anthropic解释说，生物风险比网络攻击更难控制，因为一旦病毒被释放，就不能像关闭一项软件服务那样轻易停止，而应对措施也需要时间。公司还引用了情报分析、用户聊天记录中要求生物武器指令的内容、研究人员的警告，以及斯坦福关于AI设计合成病毒的研究，来说明这种威胁并非空谈。Anthropic还表示，正在建立受信任的访问通道，未来研究人员有望在受控条件下使用这些受限的生物功能。

资讯正文

Anthropic放宽了 Fable 5 的生物学限制，但仍对病毒学和毒理学保留防护栏

Anthropic 已将 Fable 5 生物安全过滤器中的误报率降低了约 85%。此前，几乎所有生物学查询都会被拦截并转给能力较弱的 Opus 5，这引来了科学家们的尖锐批评。现在，用户可以用 Fable 5 处理更多生物学任务，例如解读实验室结果、理解症状以及回答医疗问题。

不过，对于病毒学、毒理学和分子设计等“双重用途”话题，限制仍然存在。Anthropic 表示，Fable 5 在这些领域可能会向恶意行为者提供其他地方无法获得的能力。该公司还在建立访问计划，以便研究人员最终能够使用这些受限功能。

Anthropic 的理由是：生物风险可能比网络攻击更难控制。一个已经释放的病毒无法被按下停止键，而且应对措施也需要时间。美国情报机构的一项分析、对请求生物武器指令的 ChatGPT 聊天记录的一次审查、研究人员联合发出的警告，以及斯坦福大学一个使用 AI 设计完全合成病毒的项目，都表明这种威胁是真实存在的，并不只是 Anthropic 一贯的焦虑。

来源与参考

1. 原始链接
2. Anthropic loosens Fable 5's biology restrictions but keeps the guardrails on for virology and toxicology