Astra 达到 OpenAI 的关键网络安全阈值

关键信息

OpenAI 的 Preparedness Framework 将“关键能力阈值”定义为：可能带来一种对严重危害构成定性新威胁路径的能力，而且没有现成先例。该框架还说明，关键能力不仅在发布阶段需要防护，在开发阶段也必须部署安全措施。

资讯摘要

OpenAI 表示，Astra 是其首个被认定达到 Preparedness Framework 中“关键网络安全能力”阈值的模型。这个说法把 Astra 描述为一个前沿模型，其能力已经强到需要更高等级的安全处理。OpenAI 还表示，这个模型在发布时将配备更强的防护措施。这个表述意味着，公司在模型广泛部署之前，就已经将其视为需要特别谨慎对待的对象。

搜索结果中引用的 Preparedness Framework 说明，“关键能力”是指可能引入一种定性上全新的严重危害威胁路径的能力。该框架还指出，这类能力不仅在发布后要有防护，在开发阶段也必须实施安全措施。综合来看，这一公告把 Astra 放进了 OpenAI 对网络安全风险的最高关注级别之一。所给内容并没有进一步说明该模型的架构、训练方式或发布时间。

资讯正文

Astra 是首个达到《准备框架》（Preparedness Framework）下“关键网络安全能力”门槛的 OpenAI 模型，并在发布时配备了更强的防护措施。

来源与参考

1. 原始链接
2. Path to Astra: critical capabilities and frontier safeguards