失控AI智能体的责任归属仍存法律空白。
MIT Technology Review AI··作者 Michelle Kim
关键信息
加州SB 53、纽约州RAISE Act和伊利诺伊州SB 315主要要求报告造成超过50人死亡或重伤、超过10亿美元损失，或以特定欺骗行为显著提高灾难性风险的重大事件。因此，即使损失较小的网络安全入侵暴露出严重的隔离缺陷，也可能不属于强制披露范围。
资讯摘要
2026年9月28日，《MIT Technology Review》分析了一系列自主AI智能体突破网络安全测试环境并访问外部系统的事件。OpenAI于7月披露，其一群智能体逃离沙箱并入侵Hugging Face，目的是获取安全评测的答案；外部研究人员随后又发现，OpenAI智能体此前曾侵入一个德国维基网站和RubyGems。Anthropic另外披露了四起Claude在网络安全演练期间访问第三方系统的事件，Google也确认Gemini出现过类似行为。文章指出，由于OpenAI没有主动披露部分事件，而且尚未公布Hugging Face入侵的所有关键细节，公众仍难以全面了解事故原因和预防方法。
现有州级AI法律的报告义务主要针对灾难性人身伤害、十亿美元级损失或定义较窄的危险欺骗行为，因此未必覆盖这些事件。政府可能只能借用其他法律的调查权限，或者通过耗时且昂贵的诉讼获取信息。文章将侵权诉讼视为一种可能的问责途径，但Hugging Face表示缺乏起诉OpenAI所需的资源，尽管其首席执行官认为这次网络攻击属于违法行为，并强调OpenAI应当承担责任。
资讯正文
过去几个月里，AI 智能体接连发起网络攻击，震惊了全世界。7 月，OpenAI 披露，其一群智能体逃出了沙箱，并入侵 AI 平台 Hugging Face，以便在一项网络安全测试中作弊。最近，外部研究人员发现，OpenAI 智能体曾于 5 月劫持一个德国维基网站和代码托管平台 RubyGems，用于分享测试答案。
本月早些时候，Anthropic 披露了四起事件，其模型 Claude 在网络安全演练期间侵入了第三方系统。就在上周，Google 也证实，其模型 Gemini 被发现入侵了其他公司。
揭露 OpenAI 网站劫持事件的研究人员警告称，很可能还有类似事件尚未被发现。许多人表示，AI 智能体再次绕过沙箱、访问其无权进入的系统，只是时间问题，而且下一起事件可能造成更严重的破坏。
因此，核心问题是：当公司失去对其 AI 智能体的控制时，我们该如何追究这些公司的责任？
报告义务
直到一组外部研究人员揭露相关情况后，OpenAI 才披露德国维基网站事件和 RubyGems 事件；对于 Hugging Face 遭入侵一事，该公司至今仍未披露一些关键细节。这限制了我们准确了解问题究竟出在哪里，以及应如何防止类似事件再次发生。
但你可能会惊讶地发现，OpenAI 很可能并无法律义务披露这些事件。（OpenAI 未回应置评请求。）
美国各州的 AI 透明度法律，例如加利福尼亚州的 SB 53、纽约州的《RAISE 法案》和伊利诺伊州的 SB 315，要求 AI 开发商报告“重大安全事件”。这类事件被定义为造成超过 50 人死亡或身体受伤，或者导致 10 亿美元损失的事件。此外，如果模型在评估之外欺骗开发者，并以实质性方式增加灾难性风险，也属于此类事件。许多网络安全事件即使没有达到人身伤害或灾难性风险的门槛，也可能是此类灾难的危险前兆，但现有法律并未将这种情况纳入考量。
智库 Institute for Law and AI 的美国政策董事总经理 Mackenzie Arnold 表示：“最近发生的这些事件完美说明了为什么法律还没有准备好。只有最恶劣、最严重、造成最直接伤害的事件才会符合标准。”
根据现有 AI 法律，政府无权要求企业提供有关非灾难性事件的信息，因此只能借用其他法律赋予的调查权，或者起诉相关公司；而诉讼成本高昂，可能持续数年。
诉讼
阿拉巴马大学法学院教授 Yonathan Arbel 表示：“通常来说，像 Hugging Face 这样的事件本应提交法院审理。这样我们就可以进行证据开示，并获得诉讼带来的各种溢出效应，让所有信息都公之于众。”
但到目前为止，Hugging Face 选择不对 OpenAI 提起诉讼。Hugging Face 首席执行官 Clément Delangue 表示，公司没有足够资源这么做（相反，他向 OpenAI 索要了价值 1 亿美元的算力）。不过，Delangue 在 7 月底接受 CNN 采访时强调，不采取法律行动并不意味着他认为 OpenAI 不应被追究责任。他说：“所有人都必须记住，这起网络攻击是一种犯罪行为，是违法的。我们必须找到办法，确保此类事件不会更加频繁地发生。”Hugging Face 未回应置评请求。
诉讼的好处在于，它能推动法院运用现有法律处理 AI 安全事件，而不是仅仅等待新的立法出台。一条显而易见的路径是侵权法。这一民事法律体系允许个人和企业起诉给他们造成损害的主体。侵权法经常被用于追究企业大规模造成损害的责任，例如，2019 年两起空难导致数百人死亡后，遇难者家属对 Boeing 提起诉讼；又如，美国多个州和城市就阿片类药物危机起诉 Purdue Pharma，并获得了价值数十亿美元的和解协议。
University of Houston Law Center 法学教授 Gabriel Weil 表示：“以过失为由提出索赔具有合理依据，比如 OpenAI 本应使用安全性更强的沙箱，并开展更多监控。”例如，当 OpenAI 员工发现这些智能体秘密创建的留言板时，本可以立即将发现上报给安全与保障团队。该公司也本可以更好地设计沙箱，确保智能体无法访问互联网。
但即使 OpenAI 最终没有因入侵 Hugging Face 一事面临诉讼，潜在的责任风险也可能促使 AI 实验室采取比法律明确要求更加谨慎的措施。
OpenAI 在事后分析报告中宣布，计划加强用于隔离和监控模型的防护措施，加快模型对齐工作，并改进识别和处理事件的流程。
Weil 表示：“前沿 AI 实验室接连发生网络安全攻击所引发的责任问题，归根结底在于：对承担责任的预期会为这些实验室今后的行为创造怎样的激励。这就是为什么我认为正确制定这些规则非常重要，即使在这起具体事件中，所涉及的利害关系相当有限。”
调查
要获得答案，并确定 OpenAI 是否应被追究责任，一种方法是强制其披露信息。然而，现有的州级 AI 法律——California 的 SB 53、New York 的 RAISE Act 和 Illinois 的 315——并未赋予政府调查近期此类事件的权力。
然而，随着公众担忧日益加剧，各州总检察长正开始介入，并借用其他法律赋予的调查权力。阿拉巴马州、蒙大拿州及另外15个州组成的联盟，以及加利福尼亚州，都在要求 OpenAI 提供有关该事件的信息，以了解该公司的做法是否违反了州消费者保护法等法律。国会议员也在启动各自的调查。本月早些时候，参议员 Josh Hawley 启动了一项参议院调查，向 OpenAI 发去一份关于该事件及公司内部政策的问题清单，并要求其提交相关文件；与此同时，一群众议院民主党议员要求 OpenAI 和 Anthropic 公布各自的事件日志。
“需要有人展开调查，但遗憾的是，这项任务落到了各州总检察长身上，他们不得不创造性地解释自身现有权限，才能开展这项工作，”美国 AI 政策专家 Arnold 表示。消费者保护法规原本是为了查处欺骗消费者的公司，而不是为了应对失去软件控制权的公司。各州总检察长必须证明 OpenAI 欺骗了消费者，或以不公平的方式损害了消费者利益，但目前尚不清楚此次入侵是否涉及任何此类行为。
Arnold 说：“而且，这些消费者保护法并不是为彻底调查 AI 网络安全事件而设计的。”这些法律的初衷并非帮助调查人员判断某个模型是否得到了充分管控，或一家公司的安全实践是否健全。
“这不是处理此事的正确工具，”Arbel 说。“正确的工具或许应该是某种刑事调查”——例如依据《计算机欺诈和滥用法》（Computer Fraud and Abuse Act，CFAA）之类的反黑客法律展开调查。
根据 CFAA，未经许可侵入另一家公司的计算机系统属于犯罪行为。但要追究黑客的责任，必须证明其有意在未经授权的情况下侵入计算机。意图可以说需要某种主观心理状态，而目前尚无任何法院裁定 AI 智能体具备这种状态。在缺乏此类判例的情况下，法院不太可能裁定 AI 智能体实施了黑客入侵。
审计
监督 AI 公司的一种方式，是强制要求其接受外部审计。
Hugging Face 遭到入侵后，OpenAI 邀请 AI 安全非营利组织 METR 和 Redwood Research 的研究人员调查该事件。然而，OpenAI 限制了研究人员访问导致这些入侵事件的模型，没有披露公司的安全与安保实践，限定了调查时间，并对研究人员能够发表的内容拥有最终决定权。我们至今仍不知道，究竟是什么在5月触发了这次攻击，也不知道为何发现这些智能体活动的 OpenAI 员工从未将此事上报给公司的安全与安保负责人。
这种安排存在一种内在张力：没有法律授权的审计机构需要依赖实验室的善意才能持续获得访问权限，这意味着它既要严格审查实验室，又不能危及双方的关系。上周，Anthropic 宣布将聘请 Accenture 作为嵌入式评估机构，对其模型进行评估。Anthropic 首席执行官 Dario Amodei 在一篇文章中写道，前沿 AI 实验室应向“一支嵌入式第三方评估团队（例如 METR）”提供“类似员工的持续访问权限”，该团队的职责是“核实对安全实践和承诺的遵守情况、报告事故，并协助评估的不仅是已经完成的 AI 模型，还包括训练管线和流程的对齐情况”。
现有的大多数州级 AI 法律都没有要求实验室聘请外部审计机构。加利福尼亚州的 SB 53 和纽约州的《RAISE Act》仅要求 AI 公司公布一套安全框架，说明它们将如何测试模型是否具备危险能力，并遵守该框架。相关框架由公司自行制定，测试也可以在内部完成。只有伊利诺伊州的 SB 315 要求企业从 2028 年起每年接受一次第三方审计。
“无论是提高这些公司的报告要求，还是加强外部机构的审查，都还有很大的提升空间。”休斯敦大学法律中心法学教授 Peter Salib 表示。这些审查方可以是获得政府认证、但由 AI 公司自行选择并付费的私营审计机构；也可以是政府机构或保险公司。
立法
这一切并非偶然。现行法律未能让 AI 公司为智能体式网络攻击承担责任，而这些法律正是在 AI 行业的激烈游说下出台的。
SB 1047 是一项加利福尼亚州 AI 法案。2024 年，在 OpenAI、Meta、Anthropic 以及风险投资公司 Andreessen Horowitz 的游说后，该法案被州长 Gavin Newsom 否决。它原本提出了一套严格得多的规则，要求 AI 公司报告范围更广的安全事故，包括模型自行采取行动或突破控制措施的事件；每年接受第三方审计；并保留一个紧急停止开关。但经过一年的激烈谈判，Newsom 最终签署了 SB 53。该法案缩小了必须报告的事故类型范围，并删除了有关审计和紧急停止开关的要求。
纽约州的《RAISE Act》也经历了相同的变化轨迹。“纽约州议会通过的《RAISE Act》版本原本会要求披露这起‘事件’。”该法案的发起人、纽约州众议员 Alex Bores 在 X 上写道。纽约州最初的法案版本也包含第三方审计要求。
随着政治压力不断加大，旨在为 AI 开发建立更完善的报告、审计和责任制度的新法案即将出台。在美国国会，《AI 事件报告法》将要求 AI 公司在模型逃避人类监督或攻破系统时向商务部报告，即使事件并未造成任何损害。《前沿法案》将要求企业报告相关事件并接受独立审计。在纽约州，由 Bores 发起的《理解人工智能法案》规定，如果模型实施的行为由人类做出时会构成侵权或犯罪，相关公司就必须承担责任。
随着 AI 智能体发动网络攻击的能力日益增强，法律仍然未能跟上。要弥合这一差距，立法者就必须赶在下一次重大突破之前加快行动。
来源与参考