Anthropic 授予 METR 类似员工的访问权限

关键信息

METR 此前曾与 OpenAI、Google、Meta 和 Anthropic 等主要实验室合作，重点评估前沿模型的能力与风险。此次安排的访问程度高于传统外部审查，但现有信息没有说明具体系统、权限范围或评估时间表。

资讯摘要

Anthropic 正在落实其加强先进 AI 模型安全防护的承诺。该公司已向非营利机构 METR 授予类似员工的设施和系统访问权限，以便后者独立评估模型风险。METR 目前已有团队进驻 Anthropic 的办公室，并可以访问公司的硬件和内部系统。METR 是一家曾与 OpenAI、Google、Meta 和 Anthropic 等主要 AI 实验室合作的非营利机构。

它的工作是评估前沿 AI 系统的能力与风险，并向公众提供相关信息。随着人们越来越担心高能力 AI 系统可能带来的影响，让第三方评估机构发挥更大作用，已成为 AI 实验室提出的主要具体安全措施之一。这些担忧涉及经济、网络安全以及人类整体可能面临的风险。

资讯正文

Anthropic 已授予外部评估人员“类似员工的访问权限”，以评估其模型所面临的风险。此前，该公司承诺加强安全防护，以应对人们对这项技术可能灾难性失控的担忧。

非营利组织 METR 曾与 OpenAI、Anthropic、Google 和 Meta 等领先实验室合作。如今，METR 已有一支团队进驻这家 Claude 开发商的办公室，并可访问其硬件和内部系统。

随着人们日益担忧能力更强的 AI 系统可能对经济、网络安全乃至全人类造成的危害，第三方评估机构发挥更大作用，已成为各实验室提出的主要具体应对措施之一。

来源与参考

1. 原始链接
2. Anthropic gives outside AI watchdog “employee-like” access