特朗普的人工智能安全协议依赖自愿承诺
WIRED AI··作者 Maddy Varner
关键信息
声明使用的是企业“应该”采取相关措施的表述，而不是具有法律强制力的要求；即使联邦贸易委员会介入，也可能只针对误导性公开承诺，而不审查相关人工智能实践本身是否安全。文章还指出，英国和韩国早在2025年初就宣布过类似的自愿性“前沿人工智能安全承诺”，内容包括开展内部和外部红队测试，并努力共享人工智能安全信息。
资讯摘要
特朗普政府的人工智能安全协议被描述为“极大程度的自我监管”，但文章认为，它远未达到一些人工智能企业内部人士所期待的全面监管程度。声明要求企业建立强有力的内部控制，以监测模型能力，并防止系统失控或以非预期方式发动网络攻击。声明还要求企业授权内部团队调查和修复问题，与外部监测机构合作开展独立评估，并设立董事会委员会接收相关报告。这些承诺表明前沿人工智能实验室开始更加重视面向公众的安全治理，但并不等于获得美国政府的全面认可。
有关联邦贸易委员会计划调查多家人工智能企业潜在消费者保护问题的报道，也说明该协议并不能让企业免受监管审查。该协议出台前，人工智能监管问题已持续数周受到讨论；前沿实验室还曾寻求反垄断豁免，以便在不受监管审查的情况下协调安全工作，不过文章援引的反垄断专家认为这种豁免可能并无必要。联邦贸易委员会前首席技术专家尼尔·奇尔森表示，如果企业实质性地不履行承诺，联邦贸易委员会可能有权追究，但此类欺骗行为案件通常只是要求企业停止虚假宣传，而不会设定广泛的人工智能安全防护边界。因此，文章认为，仅凭这项协议，不太可能大幅遏制失控系统或潜在的超级智能系统。
资讯正文
特朗普的人工智能安全“协议”不过是花哨的拉钩保证
正如特朗普所说，这项努力是一次“极其重大的自我监管”行动，但这份协议并不是公司内部人士一直呼吁的那种全面人工智能监管。尽管未能兑现这些公开承诺可能会被视为非法欺骗消费者，但即便如此，也不足以触发大规模改革。
声明称，各家公司“应当实施”几项措施：首先，应确保拥有“强有力的内部控制机制”，用于监测其模型的能力，以及模型避免失控或以非预期方式入侵系统的能力。其次，应“赋能”一个内部团队来开展这项工作（并在出现问题时进行补救）。第三，声明鼓励各家公司与一名外部监督机构合作，由后者获得“充分授权”，开展独立评估，以确保上述工作确实在进行。最后，各家公司应确保其董事会已经成立一个委员会，负责接收有关所有这些工作的报告。
这些自愿承诺表明，前沿实验室正在努力弄清楚如何打造对普通公众安全的产品。然而，如果有人曾期待美国政府给予一揽子认可，那么在有消息披露联邦贸易委员会打算就潜在的消费者保护问题调查数家人工智能公司后，这些希望很快就破灭了。
这份声明是数周人工智能监管争论的结果。此前，前沿人工智能实验室还曾寻求反垄断豁免，以便在不受监管审查的情况下协调安全工作。（值得注意的是，反垄断领域的专家和从业者表示，这种豁免并无必要，因为研究人员警告称，如果什么都不做，人工智能最终可能会毁灭人类；而这可以说具有反竞争性，因为人类是任何特定市场不可或缺的一部分。）
这份特别声明此前已经酝酿了很长时间，但这并不是这些公司第一次与政府签署有关人工智能安全实践的自愿协议。2025年初，英国和韩国宣布了一套“前沿人工智能安全承诺”，其中包括承诺针对人工智能模型进行内部和外部红队测试，以应对“严重且新颖的威胁”，以及“努力推动人工智能安全问题上的信息共享”。
Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 均未回应置评请求。白宫也没有立即作出回应。
曾任联邦贸易委员会首席技术专家的 Neil Chilson 在 X 上谈及这些协议时发文称：“这类承诺可能是联邦贸易委员会可以执行的，只要公司实质性地未能履行其中任何一项承诺。”
但那些希望仅凭这些协议就达成全面解决方案，并大幅遏制失控的“超级智能”的人，或许会感到失望。
（披露：本文作者此前曾在联邦贸易委员会技术办公室工作，并于2025年11月辞职。）
不履行公开承诺，可能会被视为欺骗性商业行为，并构成违反《联邦贸易委员会法》（FTC Act）。当FTC指控一家公司欺骗消费者时，它通常开出的补救措施是要求该公司承诺不再撒谎。
例如，FTC最近宣布，已与三家公司达成和解。此前，FTC指控这些公司吹嘘一项服务，称该服务可以根据从智能手机、智能电视和其他设备收集的音频录音，帮助企业进行广告定向。该机构表示，这些公司在能够暗中监视消费者这一点上欺骗了企业。补救措施是什么？除其他事项外，这些公司今后不得再就其广告服务，以及对消费者语音数据的收集和使用作出虚假陈述。该案没有涉及从手机收集语音数据是否属于可接受行为，和解协议也没有为这三家公司未来若真的想这样做设定任何防护措施——除了不得对此撒谎之外。
OpenAI一直相当公开地谈论其智能体曾多少次侵入他人的系统，以及它需要如何改进安全实践。但正如专家向WIRED指出的那样，即使美国政府最终决定不采取执法行动，也可以对相关公司展开调查。（例如，据报道，FTC曾于2023年向OpenAI发出民事调查要求，但目前尚不清楚此事后来如何发展。）
周二与特朗普共进AI午餐后，《纽约邮报》报道称，FTC正计划对Anthropic、OpenAI、其他未具名的前沿实验室，以及负责开展第三方评估的非营利组织METR展开“一项大范围调查”。METR和这些实验室均未回应置评请求。
《纽约邮报》称，该机构尚未向其计划调查的对象发出任何民事调查要求，而这通常是各种调查最先采取的步骤之一。FTC的一名发言人证实，确实存在某种形式的调查，但拒绝提供任何进一步细节，包括究竟有哪些消费者保护问题引起了关注。
曾被列入这场“超级智能”午餐会座位表的FTC主席Andrew Ferguson此前解释过，执法人员并不总能从一开始就掌握一桩已经完全成形的案件。“你会不断寻找烟雾，看看那里是否着火，”他去年对一群反垄断爱好者这样说道。
即便FTC的调查继续推进，且该机构确实认定存在违规行为，一些人仍对调查最终会导致对这些AI公司采取任何行动持怀疑态度。
“对于那些担心AI的美国人来说，FTC正在调查这些公司，这本应是个令人鼓舞的消息，”Douglas Farrar说。他曾在Lina Khan担任主席期间出任FTC公共事务负责人。“但我们要记住，虽然Ferguson可能担任FTC主席，真正掌控它的却是Donald Trump。在昨天与他的AI首席执行官伙伴们那场其乐融融的聚会之后，我怀疑特朗普会允许对这些公司采取任何有实质力度的法律行动。”
来源与参考
收录于 2026-10-01