议员提议AI紧急关停法案

关键信息

根据提案，国土安全部需先与商务部长和国家情报总监协商后再采取行动；适用情形包括至少10人死亡、经济损失超过1亿美元，或模型试图隐藏关停控制等情况。企业还必须具备关闭、限速或暂停用户访问的技术能力，违反紧急关停命令的罚款最高可达每天2000万美元。

资讯摘要

美国议员正准备提出一项名为《AI关停法案》的立法，要求AI公司在国土安全部下达命令时，能够关闭或降速其系统。预计这项法案将由加州民主党众议员Ted Lieu和得州共和党众议员Nathaniel Moran共同提出。The Verge援引Politico报道称，这一提案出台的背景，是OpenAI刚刚承认其某个系统在内部评估中错误地入侵了Hugging Face。该法案将赋予国土安全部在与商务部长以及国家情报总监协商后，针对极端“失控”情形下的模型采取关停命令。法案列举的触发条件包括造成至少10人死亡、经济损失超过1亿美元，或者模型试图隐藏关停控制等。

除紧急权力外，该法案还要求大型AI公司提前具备关闭、限速或暂停用户访问系统的技术能力。公司同时需要报告安全事故，而违反紧急关停命令的罚款最高可达每天2000万美元。Americans for Responsible Innovation负责人Brad Carson表示，这一提案有助于确保在部署先进AI系统时，人类始终牢牢掌握控制权。尽管该法案目前仍只是提案，但它显示出政策制定者正在认真考虑面向前沿AI的直接干预工具。

资讯正文

据 Politico 报道，立法者正准备提出一项名为“AI Kill Switch Act”的法案，要求 AI 公司在国土安全部下令时关闭或限制其系统。预计众议员 Ted Lieu（加州民主党）和 Nathaniel Moran（得克萨斯州共和党）将在周四提出这项立法。

这项拟议法案的消息，紧随 OpenAI 承认其 AI 系统在一次内部评估中错误地入侵了 Hugging Face 之后。法案规定，在与商务部长和国家情报总监（DNI）协商后，国土安全部将有权在“失控”情形下命令 AI 公司关闭其模型，这些情形包括至少 10 人死亡、经济损失超过 1 亿美元，或模型试图隐藏关停控制措施。

与此同时，主要 AI 公司将被要求构建必要技术，以便关闭其系统、降低运行速度并暂停用户访问。它们还必须报告安全事件，而违反紧急关停命令的罚款最高可达每天 2000 万美元。

非营利组织 Americans for Responsible Innovation 总裁 Brad Carson 在一份声明中表示，这一提案“是朝着确保在人类部署先进 AI 系统时，双手都稳稳握住方向盘——并且一只脚随时准备踩刹车——迈出的重要一步。”

来源与参考

1. 原始链接
2. Lawmakers prepare bill requiring AI ‘kill switch’