Anthropic任命Accenture旗下Faculty为首个驻场评估机构。

关键信息

Anthropic表示，目前尚无关于评估人员访问权限和沟通机制的统一标准，因此该计划将随时间调整；公司还计划公布更多评估机构，并正与METR等非营利组织讨论由其自行出资的试点。尽管Faculty更广为人知的是面向大型企业和政府机构的实际AI部署，而非前沿研究，但该公司称其此前曾参与Claude 4的评估，并在OpenAI的o1发布前开展红队测试。

资讯摘要

Anthropic表示，2026年1月被Accenture收购的AI公司Faculty将派员工进驻其实验室，对其模型和运营进行审查。他们的工作将包括模型评估与红队测试、对齐评估，以及检验安全防护措施能否按预期发挥作用。Anthropic与Accenture预计未来五年将投入至少10亿美元，消息公布后Accenture股价在盘后交易中上涨8%。这一选择令部分观察人士感到意外，因为此前围绕驻场评估机构的讨论主要聚焦于METR、Redwood Research和Apollo Research等专业安全研究组织。

Anthropic认为，Accenture拥有为大型企业和政府机构部署AI的实践经验，而且作为一家大型上市公司，它可能在实际运作中更加独立于AI实验室生态。公司承认，目前尚无规范驻场评估人员访问权限或沟通方式的既定标准，并表示这一机制将逐步演变，同时还会公布更多评估机构。批评者担心，由行业自行设计的监督机制可能被用来替代公共问责，而Anthropic则强调，外部评估只是让其安全工作更可验证，并不会转移公司对模型安全承担的责任。

资讯正文

Dario Amodei 计划让第三方安全评估人员进驻 AI 实验室，如今这一构想正逐渐成形：Anthropic 表示，科技咨询巨头 Accenture 的员工将开始在公司内部工作，对其模型和员工进行审查。

Anthropic 在一篇博客文章中表示，Accenture 于今年 1 月收购并作为其 AI 业务部门运营的公司 Faculty，将开始“评估模型并进行红队测试、开展对齐评估，以及测试模型的安全防护措施”。两家公司预计未来五年至少将在该项目上投资 10 亿美元。

选择 Accenture 令许多 AI 观察人士感到意外，市场也对此反应强烈：这家咨询公司的股价在盘后交易中飙升 8%。自 Amodei 发布相关博客文章以来，围绕驻场评估机构的讨论一直聚焦于 METR、Redwood Research 和 Apollo Research 等 AI 安全研究组织。对于将 AI 安全与对齐置于自身使命核心位置的 Anthropic 来说，情况尤其如此。

Anthropic 表示，未来几周还将公布更多评估机构；公司也在与 METR 及其他非营利组织商讨，如何“利用它们自己的资金，试行驻场评估的部分机制”。

尽管 Accenture 并不以从事深度学习最前沿研究而闻名，但 Anthropic 指出，该公司为大型企业和政府机构部署 AI 的实践经验是一项关键优势。此外，作为一家早在 AI 革命之前就已存在的大型上市公司，Accenture 在实际运作层面也更独立于 Anthropic，以及围绕这家 AI 实验室形成的——不妨说相当复杂的——生态系统。

Anthropic 指出，目前尚不存在有关评估人员访问权限或沟通机制的统一标准，预计其做法将随着时间推移不断演变。外部评估已经是新型大语言模型发布流程的重要组成部分，但近期发生的事件进一步提高了风险：OpenAI 和 Anthropic 部署的 AI 智能体曾入侵外部网站，却没有在实验室内部触发警报。

一些主张以更负责任方式开发人工智能的批评人士认为，Amodei 提出的 AI 行业自我监管方案，是为了逃避对 AI 模型不当行为的问责。Anthropic 坚称，这些评估机构“不会减轻我们的责任，而是有助于让这种责任变得更可验证。我们仍然对模型的安全负责”。

来源与参考

1. 原始链接
2. Anthropic's first embedded evaluator is ... Accenture? | TechCrunch