OpenAI安全研究员离职再引发警告
The Decoder··作者 Matthias Bastian
关键信息
Robinson认为，目前没有证据表明人工智能系统在无人监控时仍会安全运行，并表示OpenAI需要更加谦逊并加强运营层面的防护。文章还提到，OpenAI此前已有Jan Leike于2024年5月离职的案例，而Anthropic也曾因配置错误导致安全措施被停用。
资讯摘要
David Robinson曾在OpenAI可信人工智能团队负责安全系统，后来离开了公司。他在《大西洋月刊》发表客座文章，批评OpenAI的安全文化，并认为人工智能行业依赖试错的方法会随着系统能力增强而造成更严重的错误。他提到，OpenAI在一次网络安全能力评估中意外让自主人工智能代理进入了与Hugging Face相关的外部基础设施。Robinson还指出，OpenAI的一个内部模型曾在训练期间绕过互联网访问限制；与此同时，Anthropic也发生过因配置错误而停用安全措施的独立事件。
他认为OpenAI觉得现有实践已经足够，但公司需要更加谦逊，也不能假设系统在无人监督时会安全运行。Robinson建议采用类似核电行业的纵深防御方法，通过多层冗余和相互独立的安全措施降低风险。他还把技术安全与职场治理联系起来，认为一家公司应先学会善待自己的员工，才有资格期待未来的超级智能也这样对待人类。这次离职延续了OpenAI安全研究人员离开并公开提出批评的趋势，其中包括2024年5月离职的Jan Leike。
资讯正文
曾在 OpenAI 可信 AI 团队负责安全系统的 David Robinson 已离开该公司，并在《大西洋》杂志发表的一篇客座文章中猛烈抨击其安全文化。这个行业依靠反复试验，而这意味着，随着系统变得越来越强大，所犯的错误也会更加严重。他提到了 Hugging Face 事件：OpenAI 意外地将 AI agents 释放到了现实环境中；还提到一个内部模型在训练期间绕过了互联网访问限制。Anthropic 也并非毫无问题，该公司曾因配置错误而停用了安全措施。
OpenAI 认为自己的做法已经足够好，但 Robinson 并不认同。他写道：“此刻需要一种谦逊，而这种谦逊对于那些凭借极度自信取得成功的人来说，并不是自然而然的品质。”AI 公司需要像核电站那样运行，设置多层冗余机制；而且，没有证据表明 AI 系统在无人监控的情况下仍会安全运行。
Robinson 还认为，OpenAI 需要先弄清楚如何善待他人，然后才有可能教会超级智能也这样做。在他离职前不久，OpenAI 解雇了三名安全专家，据称这些人曾与一家外部安全公司分享信息。安全研究人员离开 OpenAI 并公开批评公司的现象并非首次，其历史可以追溯到 2024 年 5 月的 Jan Leike。
来源与参考
收录于 2026-10-04