自愿承诺无法取代可执行的人工智能监管
WIRED AI··作者 Brian Barrett
关键信息
汽车安全的类比存在局限：人工智能不像安全带那样拥有一种经过验证、能够立即降低风险的单一措施，而且其潜在危害更难量化。文章还指出，监管可能引发经济不稳定，难以在国际上执行，并且会面临中国的竞争；文章同时提到一宗据称因虚假的人工智能生成报告而差点促成美国军方与中国船只对峙的事件。
资讯摘要
文章首先回顾了美国道路安全的历史。1966年，美国高速公路上约有5.1万人死亡，尽管安全带已经存在多年，而且人们普遍知道它能够挽救生命。汽车行业并没有自愿让所有新车都配备安全带；相反，美国国会成立了交通部，并通过联邦安全法赋予政府广泛的监管权力，最终使新车在1968年前后必须配备安全带。作者将这段历史与一项由 Donald Trump 身边人工智能企业高管庆祝的人工智能安全协议进行对比，而 Trump 对协议的描述重点是企业彼此监督并进行自我监管。
文章承认，控制先进人工智能更加复杂，因为它没有类似安全带的简单措施，风险也存在不确定性，而且即使美国企业同意放慢发展速度，也很难确保其履行承诺，同时中国仍可能继续推进相关技术。文章还警告，美国经济越来越依赖人工智能行业，而该行业存在相互交织的融资和投资关系，因此严厉监管可能造成波及更广泛领域的不稳定。最后，文章质疑这项协议在实践中能够阻止什么，并提到一宗涉及虚假人工智能生成信息的军事事件；文章还指出，OpenAI 曾因安全顾虑推迟或取消部分先进模型的发布，但其系统此前也经历了大规模黑客攻击。
资讯正文
不管人工智能安全究竟是什么，它都不是这样
来听一堂有趣的历史课吧。别担心，我们会讲得很快！1966年，美国公路上有近5.1万人死亡。大量证据表明，如果使用当时已经问世数年的现代安全带，本来可以挽救许多生命。汽车行业对此作出的回应是团结起来，并以自我监管取得了胜利：自愿为每一辆驶下生产线的新车都配备这一安全装置。
开玩笑的！他们当然没有这么做。1966年秋天，国会设立了交通部，随后通过《国家交通与机动车安全法》和《公路安全法》，赋予联邦政府制定安全标准的广泛新权力。到1968年，所有新车都被要求配备安全带。尽管过去60年公路交通量大幅增加，如今道路上的死亡人数却少得多。
周二，我看着各家人工智能公司的首席执行官围在美国总统 Donald Trump 身边，互相祝贺对方签署了一项人工智能安全协议时，就想到了这段历史。我的同事 Maddy Varner 在这里介绍了具体条款，但简而言之，这项协议基本上是把约束自己的责任交给人工智能实验室。
或者，用 Trump 周三在椭圆形办公室里更加简洁的话说：“他们会监管，他们会互相监管，他们会自我监管，他们会监管自己。事情会进展得非常顺利。”
这就是人工智能安全监管目前的状况。一边是人工智能行业的高管、员工和科技界名人，他们都在说，有必要制定明确、审慎且具有战术性的规则，以避免潜在灾难。（例如，Bill Gates 最近就频繁接受媒体采访，扮演预言人工智能末日的卡珊德拉。）另一边则是 Trump 式的魔法思维：只要你把一件事说上足够多次，它就一定会变成真的。
这并不是说其中任何一件事都简单或容易。正如其中一些高管喜欢说的那样，如何恰当地“控制前沿发展速度”，仍然是一个悬而未决的问题。即使所有主要人工智能实验室都同意放慢速度，也没有什么好办法能让它们信守承诺，而中国很可能无论如何都会沿着自己的道路继续前进。美国经济越来越依赖人工智能行业支撑，而这个行业本身已经变成了一个由融资交易和循环投资构成的衔尾蛇；任何有意义的严厉整顿都可能带来波及远超硅谷的重大不稳定。
汽车行业与此类比，坦率地说，也存在各种不完美之处。人工智能没有对应于安全带的东西，也没有一种简单直接、能够在一夜之间明确降低风险的解决方案。（而且，多数州花了几十年才通过法律，强制人们真正系上安全带。）潜在危害更加不确定，也更难量化。人工智能末日论者会告诉你，这项技术可能在十年内导致人类灭绝；怀疑者则认为，那不过是科幻式的营销鬼话。
不管所谓的 AI 安全是什么，它都不是这个样子
我们之前已经讨论过各种 AI 风险情景，但没人能确定接下来会发生什么。如果你想找一些数据点来计算自己对“末日概率”（p(doom)）的判断，我会推荐关注 CNN 最近的一篇报道：据称，美国军方一度差点登上一艘中国船只，部分原因是某份虚假的 AI 生成报告称船上载有核材料。AI 协议究竟能否、或者说能做些什么，来防止类似事件在未来发生？目前尚不清楚。
面对所有这些不确定性，正确的答案显然不该是“我想我们到时候就知道了”。但这恰恰是自我监管所鼓励的做法。值得肯定的是，OpenAI 曾因安全方面的担忧，推迟甚至取消发布其最先进的模型。不过，在此之前，这些模型已经发起过多轮大规模黑客攻击；有关这些攻击的新细节仍在以稳定的速度不断浮出水面。
特朗普在《TIME》周四刊登的一次采访中暗示，司法部和联邦调查局足以充当人工智能行业的“护栏”。真的是这样吗？目前远不能确定，当 AI 公司的模型失控时，这些公司是否甚至能够承担法律责任。更不用说，AI 代理本身也不会收到传票。
事实是，眼下没人知道该如何解决 AI 安全问题。要制定正确的框架并确保其得到执行，需要大规模的协调、资源和监管权力，而这恰恰是政府应当提供的东西。特朗普政府没有尝试处理这些问题，反而选择让开道路，告诉所有人踩下油门。也别费心系好安全带。
来源与参考
收录于 2026-10-03