AI“终止开关”法案瞄准失控系统

关键信息

该法案将修改2002年《国土安全法》，赋予国土安全部长命令暂停或关闭AI系统的权力。拒绝配合的开发者每天可能面临高达2000万美元的罚款，而所要求的技术能力包括限流、阻止访问、禁用某项功能或彻底关闭整个系统。

资讯摘要

一项名为《AI Kill Switch Act》的美国拟议法律，将赋予联邦政府在认定某些AI系统可能造成灾难性危害时，下令将其关闭的权力。法案发起人表示，这项权力将适用于特朗普政府以及未来的任何政府。该法案并不只是原则性地允许政府介入，而是要求AI厂商必须预先构建可执行的技术控制手段，以便在接到命令时对系统进行限流或禁用。具体而言，这些控制可以用于阻止用户访问、关闭某项特定能力，或者直接关闭整个AI系统。

法案将修改2002年《国土安全法》，把这项权力授予国土安全部长。若开发者拒不执行，违规每天最高可被罚款2000万美元。这个提案之所以引人注目，是因为它把政策要求和具体工程要求结合在一起，把“可关闭性”变成AI企业必须承担的合规义务之一。它也反映出外界日益担忧，更强大的AI系统可能需要比传统软件安全措施更直接的控制机制来防止严重危害。

资讯正文

一项名为《AI Kill Switch Act》的拟议法律将允许美国政府官员下令关闭“可能造成灾难性伤害”的AI系统，该法案的发起人今天表示。

如果国会批准该法案，特朗普政府以及未来的各届政府将可决定何时必须阻止用户访问某家AI公司的系统、禁用或限制某项特定能力，或将整个AI系统彻底关闭。该法案还将要求AI开发者部署技术能力，使其能够在政府下令时限流或关闭这些系统。

该法案将修订2002年的《国土安全法》，赋予国土安全部部长下令暂停或关闭AI系统的权力。若AI开发者拒绝关闭系统，每发生一次违规的每一天，可能面临最高2000万美元罚款。

来源与参考

1. 原始链接
2. AI Kill Switch Act would let Trump admin order shutdown of rogue AI systems