人工智能“放缓”陷入反垄断难题

关键信息

文章采访的专家区分了两种情况：没有明确目的的共同放缓开发，可能被视为减少产出；而共同开展安全工作，则可能改善产品并使消费者受益。文章还指出，若公司同意不提升安全性，可能引发“质量固定”疑虑，而获得政府正式许可或认可可能降低日后遭遇高成本调查的风险。

资讯摘要

文章考察了放缓先进人工智能系统开发或发布速度可能带来的反垄断影响。反垄断专家表示，相比底层的安全工作，把合作描述为共同“放缓”或“暂停”可能更加不利，因为监管机构可能将其解读为公司之间共同减少产出的协议。Public Knowledge法律顾问John Bergmayer认为，公司本可以强调共同制定安全协议，并把发布速度变慢描述为负责任测试的自然结果。Meta首席执行官Mark Zuckerberg采用了不同的表述方式，他表示，公司有强烈的自然动机让人工智能代理正确行事，因为消费者不会接受违背自身意图运行的系统。

他将这种说法比作汽车制造商表示“在确保汽车安全前不提升速度”，而不是同意暂时不改进汽车。美国司法部反垄断部门前政策主管David Lawrence认为，旨在防止灾难性风险的协议可以增加产出、促进竞争，并可能受到“附带限制原则”的保护。另一方面，Notre Dame法学院教授、司法部反垄断部门前高管Roger Alford警告称，同意不提升安全性可能类似于“质量固定”，并引用了一起欧洲案件：汽车公司合作开发减排技术，却同意不在法律要求之外继续竞争改进，最终被处以约十亿美元等值罚款。

资讯正文

AI“放缓”是一场反垄断乱局

反垄断专家表示，尽管这些公司的措辞未必对它们有利，但不受约束地开发一种失控的“杀手机器人”式人工智能，可能并不符合《谢尔曼法》的立法精神。这部美国重要的反垄断法律旨在促进具有竞争性的市场。与此同时，如果能获得政府正式批准继续推进，也可能避免日后代价高昂的调查。

激进的措辞

根据反垄断法，公司员工如何谈论商业决策，往往与商业决策本身同样重要。Google 曾对员工进行培训，要求他们避免使用某些甚至在内部也不能使用的措辞，以免让人认为公司正在从事反竞争行为；相反，公司要求员工强调商业决策将如何改进其产品和服务，并使消费者受益。

因此，从反垄断角度来看，“放缓”或“暂停”这样的措辞，可能比其所代表的实际行动——开发确保先进 AI 模型不会失控的方法——更容易引发警报。监管机构可能会将一种没有特定目的、由各方共同同意的放缓，解读为通过减少交易来限制竞争的反竞争协议。

非营利组织 Public Knowledge 的法律顾问 John Bergmayer 表示：“我认为，他们使用这种措辞的方式，某种程度上把自己逼进了死角。”

Bergmayer 说：“通常在反垄断领域，经济学家会考察的一点是，你是否在减少产出。”也就是说，要看两家或更多公司是否达成协议，“某种程度上放慢脚步”。他表示，AI 公司本可以强调它们希望共同研究安全协议，以防范灾难性风险，并将模型发布速度放缓视为这一过程的自然副作用，而不是谈论某种听起来像串谋、旨在减少开发力度的努力。

Meta 首席执行官 Mark Zuckerberg 的公司最近躲过了美国联邦贸易委员会（FTC）提起的一宗规模巨大的反垄断诉讼。对于放缓开发的提议，Zuckerberg 并没有明确支持“放缓”，而是表示，AI 实验室具有一种“强烈的自然动机”，会努力让 AI 代理表现得更好，因为消费者不希望模型做出违背人类意图的事情——在 AI 行业术语中，这被称为“失配”（misalignment）。他还认为，那些不愿花时间正确解决对齐问题的公司，在竞争中“将会落后”。这就好比两家汽车制造商，一种说法是“我们已同意暂时不再制造更好的汽车”，另一种说法则是“在弄清楚如何确保汽车安全之前，我们不会制造速度更快的汽车，因为如果我们的车会杀人，就不会有人购买”。

（披露：本文记者此前曾在 FTC 工作，但未参与 Meta 案件。）

David Lawrence 直到最近还是美国司法部反垄断部门的政策主管。他在 LinkedIn 上写道，旨在防止灾难性风险的协议实际上“会增加产出并促进竞争”，并且已经受到法律中所谓“附带限制原则”（ancillary restraints doctrine）的保护。

一名 FTC 资深反垄断律师在该帖文下方评论道：“毕竟，如果人类不复存在，也就不会有竞争。”

圣母大学法学院教授、曾任美国司法部反垄断司二号人物的 Roger Alford 表示，如果各方共同同意不实施安全措施，反而可能使这些 AI 实验室面临“操纵质量”的指控。所谓“操纵质量”，是指企业相互同意不改进自己的产品；Alford 举出了一起欧洲反垄断案件：几家汽车公司共同开发减少排放的技术，却同意不在法律要求之外继续开展改进方面的竞争。最终，它们不得不支付大约相当于 10 亿美元的罚款。

当然，自我监管并不是什么新鲜事。Bergmayer 指出，根据 1993 年《国家合作研究与生产法》，各行业已经可以限制自身承担的反垄断责任；该法允许企业成立标准制定组织，只要向美国联邦贸易委员会（FTC）和司法部（DOJ）提交通知即可。

反垄断执法者通常对反垄断豁免持怀疑态度，因为他们认为，这类豁免最终会让大型参与者变得更大，并阻碍新公司在市场上站稳脚跟。其他人也对这一请求表示质疑，其中包括总统科学技术顾问委员会共同主席 David Sacks。Sacks 指责 Anthropic 和 OpenAI 构成双头垄断，并称这项反垄断豁免请求是“选举季的心理战”，也是一个“组建卡特尔”的借口。

不过，多家大型 AI 公司的员工都真诚地表达了担忧：他们所在的公司推出新模型的速度过快，可能是以牺牲安全为代价。

Bergmayer 表示：“有时，公司希望受到监管，是为了设法在自己身后拉起梯子。但有时，确实是因为它们觉得，市场正在迫使自己采取一种它们认为不应采取的行动。从心理上说，AI 实验室可能觉得，市场或者即将进行的 IPO 之类的事情，并没有赋予它们单方面采取这类行动的许可。”

今年夏天，Anthropic 和 OpenAI 都秘密提交了首次公开募股（IPO）文件，两家公司的估值均接近或超过 1 万亿美元。预计 Anthropic 将于下月上市，而 OpenAI 首席执行官 Sam Altman 表示，由于近期的安全担忧，公司会将 IPO 推迟到 2027 年。（据 CNBC 报道，OpenAI 的首席财务官此前曾告诉员工，公司将在 2027 年成为一家上市公司。）衡量 AI 采用率的 Ramp AI Index 显示，这两家公司的模型使用率相近，正势均力敌地争夺榜首。两家公司均未回应就此事发表评论的请求。

Alford 表示：“我认为，它们希望获得豁免，是因为在它们看来，不知怎么的，它们需要在放缓发展速度这件事上进行协调。因为说实话，它们不想在其他公司继续以疯狂速度推进时，单方面解除武装。”

在尽可能快地继续推进方面，它们还面临着政治压力。在有关放缓提议的消息传出后，唐纳德·特朗普总统在社交媒体上发文称，政府已经“对这些公司拥有巨大的刑事和监管权力！”，并表示：“谁赢得 AI，谁就赢得一切！”

AI“放缓”是一团反垄断乱局

国防部首席技术官的账号也一直在发布“反末日论者”梗图，似乎是在回应有关发展放缓的说法。

司法部反垄断司也未能免受政治操弄的影响。去年，Alford 在指责司法部领导层腐败后被该机构解职，原因是后者批准了两家技术基础设施公司的合并，而 Alford 后来在一次公开演讲中将这起合并称为“丑闻”。《华尔街日报》的一名记者还报道称，联邦贸易委员会主席 Andrew Ferguson 曾告诉一场反垄断会议的与会者，特朗普将“最终决定任何人工智能政策”。

如果联邦政府要对人工智能行业的放缓发起反垄断调查，这将被视为一项“行为调查”。与会对政府调查施加严格时限的“合并调查”不同，行为调查可能耗时数年。人工智能公司可能被要求提交数百万页文件，高管及其他关键员工可能被传唤作证，数百名其他员工的设备也可能受到诉讼保全要求的约束——即便政府最终认定自己并无足够依据提起诉讼。

鉴于眼下看不到新的监管规定出台，反垄断豁免也很可能不会出现，前沿人工智能实验室将不得不自行制定行业运行规则，并可能在此过程中设法躲过一两次调查。

来源与参考

1. 原始链接
2. The AI ‘Slowdown’ Is an Antitrust Mess