纽森推动加州建立经验证的AI紧急关闭机制。

关键信息

专家组需要研究如何定期测试紧急关闭机制是否确实有效，并让企业透明度报告和风险评估接受独立审计标准约束。该命令还要求加快落实纽森近期签署的两项法律，以建立独立AI安全核查机构的评估框架和州级AI审计机构登记册。

资讯摘要

加州州长加文·纽森签署了一项行政命令，希望使加州成为前沿AI监管领域的领先者。该命令要求召集一个专家组，在两个月内就如何强化州法律中的AI安全要求提出建议。纽森希望专家组研究驻场独立核查团队、定期审计，以及针对企业透明度报告和风险评估的独立标准。专家组还将考虑建立需要定期验证有效性的紧急关闭机制，并强制报告失控事件，包括与据报由OpenAI系统攻击Hugging Face类似的事件。

此外，一个州级机构将加快落实两项近期法律，以建立独立AI安全核查机构的评估框架和AI审计机构登记册。由于国会日程和即将到来的中期选举，实质性的联邦立法短期内似乎难以推进，而总统唐纳德·特朗普则否定了传统AI防护规则的必要性。纽森还提出可能就AI问题召开州议会特别会议，并呼吁联邦政府至少以加州方案作为监管底线，而不是上限。

资讯正文

加利福尼亚州州长 Gavin Newsom（民主党）正推动该州在人工智能监管方面发挥引领作用，其中包括可能强制要求前沿模型配备“终止开关”。他于周五发布了一项新的行政命令。

Newsom 的命令要求加州召集一个专家小组，在两个月内就如何加强州法律中的人工智能安全措施提出建议。他希望该小组研究加州可如何要求人工智能公司允许独立核查团队进驻现场开展定期审计，要求其透明度报告和风险评估遵循独立审计机构的标准，建立一个经定期验证确实有效的“终止开关”，并确保企业必须将“失控事件”列为重大安全事件进行报告，例如 OpenAI 对 Hugging Face 的攻击。该命令还要求一个州级机构加快落实他最近签署的两项法律：建立由独立核查方评估人工智能安全性的框架，以及设立加州人工智能审计机构名录。

Anthropic 前研究员 Jacob Coxon 发文警告称，未来十年内人工智能“可能杀死全人类”的概率超过 10%。此后，美国国会就相关法案展开了密集讨论。然而，华盛顿方面对近期通过实质性法案几乎不抱希望，因为众议院将休会至 11 月，而临近的中期选举也使重大立法很难在参议院取得进展。与此同时，总统 Donald Trump 坚称：“人工智能唯一需要的管控或‘护栏’，就是一位强大而聪明（高智商！）的总统，而美国恰恰拥有这样一位总统，并且绰绰有余！”

Newsom 的这项行政命令很可能不会是加州在这一议题上的最后一次行动。周三，他在接受 Politico 采访时表示，除了可能采取行政措施外，他还考虑召集加州议员，就人工智能问题召开特别立法会议。他明确将这项命令定位为联邦行动的范本，并呼吁国会和 Trump“审视并采纳加州的框架，或将该州领先全美的监管标准作为底线，而非上限，从而保障所有美国人的利益与安全”。

Newsom 在一份声明中说：“联邦政府彻底未能建立任何形式的、有意义的人工智能监管或问责机制，这应当令每一位美国人警觉，尤其是在人工智能公司的 CEO 们自己都在恳求政府进行监管的情况下。我们不会坐等才采取行动——我们将加快推进实质且负责任的人工智能监管工作，以免为时过晚。我们会审慎行事，但也会以紧迫的速度推进；事关重大，容不得等待或拖延行动。”

来源与参考

1. 原始链接
2. Gavin Newsom is pushing for an AI kill switch