Anthropic授予METR员工级访问权限开展独立安全审计
ZDNET AI··作者 Radhika Rajkumar
关键信息
评估人员获得的权限大致相当于Anthropic内部风险评估团队的权限，但客户数据、律师与客户之间的保密信息以及模型架构信息等类别被排除在外。Anthropic表示，部分安全信息可能帮助恶意行为者或暴露商业敏感内容，因此无法全部公开。
资讯摘要
Anthropic宣布，将把负责测试前沿模型的非营利组织METR的六名评估人员嵌入公司，并给予他们“员工级访问权限”。这些评估人员已经获得Anthropic提供的硬件和办公空间，还能访问内部工具与系统，其权限大致相当于Anthropic自身风险评估团队的权限。除若干明确类别外，Anthropic员工被鼓励像对待负责对齐风险的同事一样与他们分享信息。被排除的类别包括客户数据、律师与客户之间的保密信息以及模型架构信息。
METR将发布评估结果，Anthropic不能扣留这些结果，但可以在信息敏感时要求删减。该安排延续了首席执行官Dario Amodei此前提出的让非营利组织评估人员进驻实验室的建议，目的是加强前沿人工智能治理。此举正值外界要求强制第三方审查、政府关注人工智能事故与安全漏洞之际，而当前监管仍主要依赖自愿承诺。
资讯正文
ZDNET要点
- Anthropic宣布将向METR评估人员提供“类似员工的访问权限”。
- 在发生多起安全事件后，AI实验室面临日益加大的监管压力。
- 目前法律尚未要求开展第三方测试。
周四，Anthropic宣布，将向第三方非营利机构METR的6名评估人员提供“类似员工的访问权限”。METR负责测试前沿模型。
Anthropic表示，这些评估人员已获得Anthropic提供的硬件和办公空间，并可以访问“与我们自身风险评估团队所能访问的内容大致相当的内部工具和系统”。Anthropic称：“除少数明确定义的类别（例如客户数据、受律师—客户保密特权保护的信息，或有关我们模型架构的信息）外，Anthropic员工都应像对待一名负责对齐风险工作的同事一样，鼓励与他们分享信息。”
METR将公布评估结果，Anthropic不得扣留其中任何内容；但在必要时，Anthropic会要求METR对敏感信息进行删节。
Anthropic首席执行官Dario Amodei曾在9月的一篇博客文章中提议，让METR等非营利组织的评估人员进驻公司。这是他为“放缓前沿发展速度”提出的三项建议之一。
Anthropic在公告中表示，希望对此负责，但“无法公开分享所有与安全工作相关的信息”，因为“其中一些信息可能对恶意行为者有用，或者涉及商业敏感内容，例如算力或训练信息”。这正是METR发挥作用的地方：Anthropic将向其提供对模型和公司信息的“深入访问权限”，而METR将分享其对这些模型所构成风险的结论。
Anthropic补充说：“我们的目标是缩小评估人员对一家前沿AI公司的系统所了解的内容，与该公司自身所了解的内容之间的差距。”
强制开展评估
由于美国AI监管一直未能令许多安全研究人员和安全倡导者满意，测试机构一直建议强制要求对模型进行第三方审查，可以是在模型发布前进行，也可以作为开发流程的一部分开展。
7月提出的一项两党法案《FRONTIER法案》将要求某些AI公司允许“独立验证机构”（IVO）审查其开发流程的安全性。9月中旬，OpenAI对该法案至少表达了部分支持。这是OpenAI首次支持任何拟议中的联邦AI监管措施，尽管该公司有时支持统一的联邦监管，而不是由各州制定彼此不一的AI法律。
此外：你的州有多少工作岗位正因AI而减少？
截至目前，特朗普政府时期的联邦层面监管在很大程度上意味着自愿协议。各大AI实验室已与美国政府签署多项承诺，主动分享对模型的担忧，并与外部审计机构合作，但这些承诺并不具有约束力。这实际上使AI行业只能进行自我监管。
（披露：ZDNET母公司Ziff Davis于2025年4月起诉OpenAI，指控其在训练和运营AI系统时侵犯了Ziff Davis的版权。）
然而，就在昨天，FTC（美国联邦贸易委员会）因担忧消费者可能受到伤害，向 OpenAI 和 Anthropic 发出了传票。此前，政府上周迅速转变态度，表示将开始要求 AI 公司披露安全事故和安全漏洞；这一变化发生在 Anthropic 透露 Claude 曾报告一条虚假的凶杀线索并填写政府表格之后。
在向 Axios 独家发表的一份声明中，Super Intelligence Force（超级智能工作组）表示，AI 公司现在“必须立即披露涉及其模型的事故，并迅速采取果断行动，补救由此造成的任何及所有损害”。该机构的名称源自一个术语：白宫近期的一项指令希望今后用这个术语取代“人工智能”。目前尚不清楚是什么因素促成了这一要求，因为此前前沿实验室的模型在测试期间曾发生过多起受到广泛关注的漏洞事件，而这起事件造成的破坏相对较小。
由于不清楚在 Anthropic 宣布这一消息以及政府改变立场之前，相关方进行了哪些游说活动，因此很难判断 Anthropic 只是在推进自己原有的计划，还是在为未来 FRONTIER Act 的通过抢先布局。
来源与参考
收录于 2026-10-17