创纪录 IPO 考验 Anthropic 的人工智能安全声誉
The Verge AI··作者 Hayden Field
关键信息
Anthropic 是一家公益公司,其长期利益信托(LTBT)旨在帮助公司平衡股东利益与公共利益使命。不过,报道摘录指出,该信托参与董事会治理受到一些限制,包括一名提名人需要创始人批准以及须提前 30 天通知;受托人也可能转而加入公司任职。
资讯摘要
据报道,Anthropic 的 IPO 筹资 813 亿美元,超过 SpaceX 此前的纪录,也为人工智能公司上市树立了重要先例。该公司由曾在 OpenAI 担任研究高管的人员创立,他们表示,Anthropic 会比其他实验室更重视人工智能安全;但如今公司领导层认为,只有在竞争中领先,才能获得追求这一使命所需的资源和算力。报道指出,审慎推进安全工作与竞争所要求的速度之间存在张力,而上市可能使这种张力进一步加剧。Anthropic 采用公益公司架构,董事会应在股东财富与公司的公共利益宗旨之间取得平衡。
其长期利益信托和创始人拥有特别投票权,信托也能遴选部分董事;但摘录指出,创始人批准权、治理委员会的参与以及提前 30 天通知的程序,都会限制信托的影响力。报道还提出,受托人可能受聘加入 Anthropic,这或许会削弱其独立性。一名离职员工认为,当前人工智能发展的速度在通常的市场结构下难以持续;因此,这次 IPO 将检验 Anthropic 的治理机制能否在公司追求规模的同时,切实守护其安全使命。

资讯正文
对 Anthropic 来说,今天是一个新的起点:这场筹备多年的 IPO 超越 SpaceX,成为史上估值最高的 IPO,融资 813 亿美元,并为其他即将上市的 AI 实验室树立了重要先例。但这不仅仅是一个财务里程碑。
Anthropic 的创立理念是:与其他实验室相比,它将安全置于更优先的位置;公司的创始人此前曾离开 OpenAI 的研究高管岗位。然而,随着 AI 竞赛不断加速,Anthropic 的高管强调,公司只有拔得头筹,才能实现这一使命,而这需要大量资金和算力。不难理解,审慎、安全且有计划地开发 AI,可能会与赢得这场竞赛所需的纯粹速度发生冲突。再加上首次公开募股,事情就更加复杂了;而 Anthropic 的领导层几乎可以单方面推动 IPO。这得益于一种旨在保护公司免受股东盈利压力影响的公司架构,但这种架构也削弱了通常用于制衡其权力的机制。
一名前 Anthropic 员工在 IPO 前离职。他表示,他和 Anthropic 的其他人越来越觉得,目前的 AI 开发速度“在正常的市场结构下难以为继”,尤其是在这个强大却几乎不受监管的行业里,各方激励机制并不一致。
多年来,Anthropic 一直宣称自己与其他 AI 公司不同,也比它们更加谨慎。理论上,这种理念也体现在公司的上市计划中。Anthropic 注册为一家公益公司(Public Benefit Corporation),这意味着其董事会有责任在公司使命与股东财富最大化之间取得平衡。正如我的同事 Robert Hart 此前所述,Anthropic 还建立了一套极不寻常的权力结构。
Anthropic 于 2023 年设立的长期利益信托(Long-Term Benefit Trust,LTBT)及其创始人拥有控制性投票权,这意味着即使公司上市,他们也不会被股东投票罢免。一个名为 T 类的特别股权类别赋予一小群受托人——即 LTBT 成员——“选任和罢免 Anthropic 部分董事会成员的权力”。他们不受通常的股东压力影响,理论上可以制衡创始人;他们肩负的使命是:“在我们预期决策后果将远远超出 Anthropic 范围的关键时刻,平衡股东的财务利益与我们的公益宗旨。”
实际情况要复杂得多。例如,LTBT 名义上可以选任 Anthropic 七人董事会中的四名成员,但这四人中有一人实际上需要获得 Anthropic 创始人的批准,因此该信托并未直接掌握多数控制权。此外,提名或罢免董事也有相关规定:LTBT 必须提前 30 天将决定通知公司的“提名与公司治理委员会”。该委员会由三名成员组成:联合创始人 Daniela Amodei(委员会主席)、Netflix 联合创始人 Reed Hastings,以及 Anthropic 投资人 Yasmin Razavi。
尽管 LTBT 成员在 Anthropic 并无“经济利益”,但也没有任何规定阻止 Anthropic 假设性地挖走一名受托人,并支付高额报酬让其为公司工作。前受托人 Mariano-Florentino Cuéllar 于 8 月加入 Anthropic,担任首席全球事务官;OpenAI 过去也曾聘请前董事会成员 Fidji Simo 出任公司高管。The Midas Project 创始人、这家非营利人工智能行业监督组织的负责人 Tyler Johnston 表示,可以设想这样一种情况:如果某位受托人“看起来有点过于积极行动之类的,他们完全可以向这名受托人开出一份数百万美元的实际薪酬方案,条件是退出信托;这也是他们能够对信托施加某种影响的一种方式。”
尽管 LTBT 被宣传为制衡 Anthropic 管理层的机制,但在一些外部观察人士看来,细则并不稳固。科罗拉多大学法学院法学教授、公司治理专家 Ann Lipton 表示:“由于信托在 Anthropic 没有经济利益,理论上它可以通过其任命的四名董事中的三名来行使权力,确保公司坚守使命。人们或许会质疑这种情况发生的可能性有多大。”
此外,Lipton 质疑,即便信托拥有这样的权限,它是否掌握足够信息,能够判断何时该叫停公司的计划或产品。已公布的四位 LTBT 成员并非公认的人工智能专家:他们包括美联储前主席 Ben Bernanke、外交政策分析师 Richard Fontaine、实验物理学家 Christopher Stubbs,以及前 GiveWell 高管 Neil Buddy Shah;后者担任 LTBT 主席。Lipton 说:“我不确定受托人或他们任命的董事是否对人工智能及其发展有足够了解,能够做出这些选择。他们都是声望很高的人,但 Ben Bernanke 对人工智能了解多少呢?”
几位专家将 Anthropic 的 LTBT 与 Altman 被罢免前的 OpenAI 非营利董事会作了比较。Johnston 表示:“长期利益信托的权力,或者说权力的缺失……在某些方面与 OpenAI 非营利组织所拥有的权力相似。”当然,该董事会罢免 OpenAI 首席执行官 Sam Altman 的决定,几天后却促成了 Altman 重返 CEO 一职,以及董事会多数成员辞职并由新人接替。
不过,两者之间有一个显著区别。在 OpenAI 重组之前,其非营利董事会有权在认为必要时介入并指导公司的日常决策;重组之后,董事会仍保留了在安全与保障事项上的这一权力,例如推迟或叫停模型发布。Anthropic 的 S-1 表格显示,LTBT 的主要职责是任命(并可能罢免)某些董事会成员,因此它并不拥有上述两种层级的权限。
相反,Anthropic 的架构更像硅谷青睐的创始人中心式治理模式——类似 Mark Zuckerberg 对 Meta 的掌控,以及 Elon Musk 对 SpaceX 的掌控。
Anthropic 未回应置评请求。
“无论是信托还是受托人,都没有任何决策权……无法干预日常决策,”Future of Life Institute 人工智能与国家安全项目负责人 Hamza Chaudhry 说。“所以,我对 LTBT 在 Anthropic 上市后成为关键治理机制,并没有太大信心。”
这位 Anthropic 前员工表示,公司的创始人实际上是唯一拥有真正决策权的人:“如果有人既了解这些创始人和长期利益信托,又明白决策是如何作出的,还认为长期利益信托拥有任何实质性权力,我会感到惊讶。”他说。这位员工还补充说,受托人一方面“缺乏对创始人进行有效监督的能力”,另一方面也是经过有意挑选的,不会打破现状。
作为一家上市公司,Anthropic 将面临前所未有的压力,需要通过增加收入或筹资来确保资金来源。这意味着,正如多年来行业一直呈现的趋势,昂贵的 AI 安全举措可能会更难证明其合理性;与此同时,推动产品加快发布和商业化的压力也不可避免地会增加。“这个信托与创始人共同掌握着真正的治理权,”Lipton 说。“所以,要么你相信他们会适当地平衡社会各方利益,要么不相信。无论如何,真正制约他们任何社会责任取向的因素,都会是 Anthropic 对资金的需求。”
Anthropic 一直坦承,公司极其需要真金白银,尤其是为了购买更多算力、加快 AI 进步。上周五,在与 JPMorgan Chase 首席执行官 Jamie Dimon 进行的一场直播对谈中,Amodei 说:“算力是公司面临的最棘手的商业难题。如果买得太多,当然可能在财务上过度扩张;如果买得太少,就无法为客户提供推理服务,更重要的是……无法开展研发。”
Anthropic 网站将公司的存在理由概括为一件事:“开展处于安全前沿的 AI 研究并打造相关产品。”但公司也明确表示,要让这项安全承诺切实发挥作用,Anthropic 就需要大量资源,才能维持可持续经营。和其他实验室一样,它一直在追求递归式自我改进——这是业内一项颇具争议且可能危险的里程碑,指 AI 系统能够自主改进,并创造自身的高级版本。“安全不能靠屈居第二来实现,”Anthropic 政策负责人 Sarah Heck 在 9 月表示。
这一解释并未让所有人信服,包括一些 Anthropic 员工。Anthropic 的安全保障研究负责人于 2 月离职,并称“世界正处于危险之中”;该公司研究员 Jacob Coxon 则在 9 月因声称 Anthropic 和 OpenAI 都在“径直竞相打造能够自我改进的超级智能,拿我们的生命作赌注”而成为新闻焦点。同月,另一位 Anthropic 安全研究员离职,转而加入非营利第三方 AI 审计机构 METR。他写道:“AI 公司正走在给社会带来前所未有风险的道路上”;“虽然 Anthropic 没有发生像 HuggingFace 遭到攻击那样严重的事件[该攻击由 OpenAI 智能体发起],但我认为这在一定程度上只是运气使然。”
周三,人工智能安全中心(Center for AI Safety)发表了一份新声明,签署者包括来自 Hugging Face、哈佛大学等机构的知名人士。声明指称 Anthropic“并不是一家安全的 AI 公司”,并试图“以更大的善为名积聚权力”。声明写道:“Anthropic 警告说,递归自我改进的 AI 可能会集中权力并脱离人类控制,却又竞相抢先将其打造出来。公司借助安全品牌形象吸引投资者、员工和公众,即便它已悄然弱化安全承诺,并游说推动有利于自身的监管。”
这位 Anthropic 前员工说,起初他“相信了那套说辞”,认为为了获得安全的结果,Anthropic 必须在 AI 竞赛中拔得头筹;但后来他逐渐失望,意识到争当第一并“不值得付出相应代价”——也就是说,不应由一家公司“单方面”决定追求递归自我改进(RSI)。(Amodei 曾公开表示:“如果不加约束,[RSI] 可能会超出我们理解和控制这些系统的能力,因此必须非常谨慎地推进;如果要推进的话。”)
“私人公司正在打造一种新型智能,它有望变得比人类更强大、对地球的影响力也超过人类,而这些公司受到的监督,在许多方面甚至还不如现在的餐车——这实在荒唐,”这位前员工说。
Anthropic 的网站写道:“说到底,我们所有人之所以在这里,都是为了这项使命。它赋予我们共同的目标,让我们能够迅速协同行动,而不是被相互冲突的目标拉向不同方向。它促成信任与合作,并且是我们做出决策时的最终准则。”问题在于,面对前所未有的压力、需要为约 1.5 万亿美元的完全稀释市值辩护之际,Anthropic 对自身使命的解读是否会改变,以及将如何改变。
来源与参考
收录于 2026-11-20