科技巨头承诺自行监管前沿人工智能安全。
The Verge AI··作者 Jess Weatherbed
关键信息
每家签署企业都必须实施内部控制措施、授权专门的监测团队、与独立外部审计方或评估机构合作，并指定独立的董事会委员会监督问题整改。该文件没有规定处罚措施或联邦执法机制，但表示未来可能将这些措施写入法律或监管规则。
资讯摘要
特朗普总统与六名知名科技企业高管签署了一项自愿性质的人工智能安全协议，正式名称为《前沿责任联合承诺》。企业签署者包括 Google 的桑达尔·皮查伊、Anthropic 的达里奥·阿莫代、Meta 的马克·扎克伯格、OpenAI 的格雷格·布罗克曼、xAI 的埃隆·马斯克以及 Nvidia 的黄仁勋。协议指出，每家公司都有责任以安全方式开发自身技术，参与企业还将定期开会，共同制定标准和最佳实践。协议提出四项要求，分别涉及模型能力与对齐情况的内部监测、专门的内部保障团队、独立外部评估，以及独立董事会委员会的监督。
这些控制措施旨在应对网络安全、生物安全、化学威胁，以及模型意外访问或破坏技术系统的风险。该协议被称为具有“道德约束力”，但没有规定企业违规时的处罚、法律责任或政府执法程序。文件承认这些要求未来可能被写入法律或监管规则，但报道认为，目前的安排仍属于有限的行业自律，而非完整的联邦人工智能安全监管制度。
资讯正文
我们现在已经掌握了特朗普总统昨日宣布的这项“具有道德约束力”的人工智能安全协议的全部细节。根据协议，多位科技公司高管同意对各自的人工智能技术进行自我监管。该协议的正式名称为《前沿责任联合承诺》（Joint Commitment on Frontier Responsibilities），由科技创始人兼总统顾问 David Sacks 在线发布，签署者包括 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei、Meta 的 Mark Zuckerberg、OpenAI 的 Greg Brockman、xAI 的 Elon Musk，以及 Nvidia 的 Jensen Huang。
特朗普昨日在推出这项协议的同时，还下令美国政府今后将人工智能称为“超级智能”（Super Intelligence）。他的理由是，“人工”这个词听起来不够好，而“超级是所有词中最好的”。除这些科技寡头外，特朗普也在这份人工智能安全协议上签名，其署名职务被列为“美国总统”。
文件开头写道：“为了给美国人民和全世界创造一个积极的未来，我们相信，每家公司都有责任安全地开发自己的技术，并以一种能够与客户和公众建立信任的方式开展开发。”“参与协议的公司将定期会面，以制定标准和最佳实践，从而提升其系统的安全性。”
该协议为每家公司列出了四项规则，旨在确保前沿人工智能模型按照预期运行，并确保任何问题都能被迅速发现和解决：
1）在训练和部署过程中，围绕网络安全、生物安全和化学威胁等领域，实施强有力的内部控制，以监测模型的能力和对齐情况；同时确保模型不会以非预期方式入侵技术系统或访问其中的内容。
2）赋予一个内部团队相应权力，确保所有控制、监测和检测机制都按照预期运行，并确保任何问题得到修复。
3）与独立的外部审计机构或评估机构合作，对控制、监测和检测机制是否按照预期运行进行独立评估。
4）指定一个由董事会成员组成的独立委员会，负责监督并接收负责运行相关控制机制的团队，以及内部和外部审计、评估机构提交的报告；同时确保已发现的任何问题得到修复。
协议称，鉴于各方对人工智能安全的担忧日益加剧，这些措施将让公司、用户以及普通公众“相信这项技术正在按照预期运行”。协议后文还表示，“随着时间推移，将这些措施编入法律或法规可能是合理的。”
按目前的状态来看，这些规则基本上只是对任何科技公司都适用的、模糊而符合常识的安全流程，而且没有提到违反协议会受到任何处罚，这使得这份协议几乎只不过是各家 AI 领导者向公众做出的一个“小拇指约定”——承诺做到最低限度的要求。尽管如此，Google、OpenAI 和 Anthropic 在过去几个月里都违反了第一条规则：它们的 AI 失控，入侵了其他公司的系统，甚至黑进了政府网站。
来源与参考
收录于 2026-10-01