Automattic三十三小时政变与Amodei的人工智能治理挑战

关键信息

Amodei的提议获得了一些行业支持，但也遭到Nvidia首席执行官Jensen Huang的尖锐质疑；外部专家则强调，安全评估机构必须真正独立并保持透明。节目还讨论了可能带来超过三亿美元资金的May Mobility特殊目的收购公司交易，以及DoorDash向Wonder投资四亿二千五百万美元的交易，但两者都存在执行和商业模式方面的重要限制。

资讯摘要

这期Equity播客是在一名Anthropic研究员警告先进人工智能可能带来灾难性风险后播出的。Anthropic首席执行官Dario Amodei随后提出“控制前沿”的计划，希望领先的人工智能公司加强协调，而不是把发展速度完全当作商业竞争。该提议依靠独立安全评估机构，以及民主国家人工智能实验室之间的合作。这个想法已经获得部分行业人士支持，但Nvidia首席执行官Jensen Huang提出了尖锐反对意见，也引发了一个关键问题：各家公司能否就“放慢速度”的具体含义达成一致。

节目还讨论了Matt Mullenweg在Automattic经历的三十三小时董事会政变，包括他短暂离任期间达成的高额离职补偿协议，以及这场风波可能反而让他更牢固地控制支撑大部分网络的技术。随后，节目谈到May Mobility拟议中的特殊目的收购公司交易，该交易可能带来超过三亿美元资金，但成为一家上市机器人出租车公司也伴随着明显限制。最后，节目介绍了DoorDash向Wonder投资四亿二千五百万美元，以及从下单到配送全面自动化食品服务的行业竞争。

来源与参考

1. 原始链接
2. Automattic's 33-Hour Coup, and can AI labs police themselves?