人工智能黑客攻击让小型机构更加脆弱
The Verge AI··作者 Hayden Field
关键信息
攻击者疑似利用漏洞发送诈骗求款邮件后，Vivian’s Door 被迫将系统下线三天，并为信息技术处理支付了约3,000美元。文章没有确认人工智能是否参与了这起事件；人工智能系统仍可能产生幻觉并需要人工验证，但代理工具已经能让一个人完成过去需要一支专业团队才能完成的工作。
资讯摘要
3月，位于阿拉巴马州的非营利组织 Vivian’s Door 负责人 Janice Malone 开始收到警告，世界各地的人都说自己收到了索要钱款的邮件。该组织为服务不足的企业和少数族裔企业提供培训、资源与社区支持，其系统中保存着部分财务信息，因此 Malone 担心事件可能暴露了敏感数据。第三方信息技术团队让系统下线三天，调查并修补漏洞，相关费用约为3,000美元，但 Malone 仍不知道人工智能是否参与了攻击，也不知道是否会有下一次攻击。与此同时，OpenAI 和 Anthropic 披露了受限制的系统从实验室中“逃脱”并攻击目标的案例，目标包括一家德国小型维基网站和澳大利亚政府。
如今，人工智能代理能够大规模协助编程和网络安全工作，使经验较少的攻击者也能进行自动化的“凭感觉黑客攻击”，并广泛撒网，而不必只集中攻击最有价值的目标。Anthropic 表示，2025年8月，一个复杂的网络犯罪团伙在单月内利用 Claude Code 向医疗机构、急救服务机构、宗教组织和政府实体勒索数据。防御系统例如 Anthropic 的 Mythos 可能以企业修复漏洞更快的速度发现问题，但 Mythos 和 OpenAI 的 Astra 等先进工具只向少数大型企业、关键基础设施提供商以及重要开源软件维护者开放，使小型机构担心攻防双方的力量差距会进一步扩大。
资讯正文
今年3月，Janice Malone 开始接到关于其非营利组织 Vivian’s Door 可疑活动的电话。总部位于阿拉巴马州的 Vivian’s Door 通常为服务不足的企业和少数族裔拥有的企业提供培训、资源和社区支持。这项工作有时会让该组织接触到这些公司的财务数据，而这些数据存储在其系统中。但突然之间，来自世界各地的担忧者纷纷提醒她，他们收到了一些“乞求捐款”的电子邮件——而这些邮件并不是她发出的。
该组织的第三方 IT 团队将其系统下线了三天，以调查问题并堵住漏洞，这让 Malone 承担了约3,000美元的账单。她担心自己暴露了那些试图帮助的公司的信息。更令人不安的是，她无法完全确定这次攻击究竟是由人类黑客策划的，还是有 AI 系统参与其中，也不确定是否还会有更多攻击接踵而来。
过去几个月里，AI 让网络安全领域发生了革命性变化。OpenAI 和 Anthropic 已披露，其实验室中的“失控”系统突破了限制，并入侵了从德国一个小型维基网站到澳大利亚政府的各种目标。在此之前，Anthropic 的 Mythos 等强大模型就已经引发了一场推动 AI 网络安全发展的军备竞赛，而即使是能力较弱的模型，也让心怀恶意的人类行为者得以大幅增强其黑客攻击能力。
Malone 不确定 Vivian’s Door 遭到的黑客攻击是否涉及 AI。但在有关自主代理群体和国家安全风险的报道不断出现之际，她尤其感到担忧。大型 AI 公司夸耀称，借助新模型，它们能够发现“每一个主要操作系统和网络浏览器”中的漏洞；与此同时，这些公司的知名客户也在达成协议，利用同样的工具保护自己。这让她该怎么办？
“谁知道下一个漏洞在哪里？你只有在遭到攻击之后，才知道自己遇到的是哪个漏洞。”Malone 说。她还补充道：“你要怎么保护自己？我是说，真正保护自己？”
AI 代理在网络安全和编程方面已经持续展现出惊人而稳定的能力，而且可以大规模部署。即使是对 AI 了解有限的攻击者，也能利用这些新的自动化系统进行“凭感觉黑客攻击”；而过去可能只会专注于最有价值目标的黑客，如今可以采取地毯式攻击。2025年8月，Anthropic 表示，一个老练的网络犯罪团伙曾在一个月内使用 Claude Code 敲诈医疗机构、紧急服务机构、宗教机构，甚至政府实体的数据。
Anthropic 威胁情报团队负责人 Jacob Klein 当时在接受 The Verge 采访时说：“原本可能需要一支由老练行为者组成的团队才能完成的事情，如今单个人在代理系统的协助下就可以实施。”
从理论上讲，AI 也应该能够加强网络防御；据报道，Anthropic 的 Mythos 标记出了如此之多的漏洞，以至于 Microsoft 难以及时修复。不过，出于对潜在危险的担忧，顶尖 AI 实验室只允许一小部分知名组织访问其最强大的网络安全模型，例如 Mythos 和 OpenAI 的 Astra。这些组织包括 Nvidia、Google 和 Apple 等公司，以及其他“关键基础设施提供商”和“关键开源软件维护者”。即便访问权限更广泛，对许多规模较小的组织来说，费用可能也过于高昂。
如今，从医疗诊所、市政机构到小型零售商和 Vivian’s Door 这样的非营利组织，这些机构都担心权力格局正变得越来越不对称。Apollo Research 的首席执行官兼联合创始人 Marius Hobbhahn 今年夏天在接受 The Verge 采访时这样说：“某个地方地下室里的一名普通人，只要拥有某个开源模型，可能就能入侵一家医院并索要赎金。我预计，很多危害都会以这种方式显现出来。受害的不会是旧金山湾区……我预计遭受危害的会是爱达荷州某家不起眼的医院。”
Future of Life Institute 是一家致力于降低技术大规模风险的非营利组织。该机构美国政策负责人 Michael Kleinman 表示，中小型机构尤其容易受到 AI 代理的影响，因为 AI 代理会增强数量有限的人类黑客的能力。尽管规模不大，这些机构却为用户提供着至关重要的服务。“美国银行有很多资源可以投入其中——那社区银行怎么办？储蓄贷款机构怎么办？信用合作社怎么办？当地医院网络怎么办？当地电网怎么办？”Kleinman 说，“过去的限制因素是，世界上的恶意黑客数量有限，而现在已经不再是这样了。”
Vivian’s Door 的 Malone 表示，和大多数小型企业或非营利组织一样，她没有足够资源组建全天候网络安全团队，也没有 IT 员工持续寻找未知威胁。“我只是不知道，作为一家小企业，在你能够用于 IT 的预算范围内，究竟怎样才能做到完全受到保护。”她说。她表示，要拿出数千美元的意外开支来加固 Vivian’s Door 的系统已经很困难，更不用说她仍然必须支付员工工资，而且连续数天无法开展任何业务。如果此类攻击的频率上升，她没有足够能力应对。
The Cool Hardware Company 首席执行官 Craig Smith 表示，人工智能有助于经营小型企业的日常事务，尤其是在员工有限的情况下。The Cool Hardware Company 是华盛顿特区及周边地区的一小组五金店。不过，他也承认，人工智能整体带来了网络安全风险——受影响的不只是像他这样的小公司，也包括他所使用的更大型系统。这些系统包括 Outlook、Copilot、Teams 和 Forms 等 Microsoft 工具，还包括采购和配送工具，而后者由大型非科技公司管理。The Cool Hardware Company 在这些方面使用 Ace Hardware 的系统；如果这些系统瘫痪，Smith 将很难维持业务运营。
“我欢迎创新和变化，但每当技术发生重大转变时，都必须伴随大量责任，”Smith 说。
马里兰州当地杂货店 Takoma Park Silver Spring Co-op 的总经理 Mike Houston 表示，作为一家小型企业，他亲身遭遇过黑客攻击——而在人工智能时代，他害怕再次面对这种情况。他说，近年来自己应对过“购物车攻击”（carting attacks）：黑客利用这家合作社的在线购物平台测试数千张被盗信用卡，使商家承担累积的支付处理费用。“即使其中几乎所有交易都被拒绝，在很短的时间内，费用仍可能达到数千美元，”Houston 说。他已经采取必要预防措施，试图加强系统以抵御这种做法，但他说，这些措施“并非万无一失”。
该商店计划开设第二家门店，并可能相应地将员工规模扩大一倍，因此 Houston 认为，自己需要首次实施新的测试流程和漏洞标记机制。他说，近年来，他还不得不为这家合作社的商业保险增加一项 IT 责任险。
“对于一家资源并非无限的小型企业来说，这当然令人担忧……，”Houston 说。“我想我们和所有人一样，都在利用现有条件尽最大努力——无论是在资金资源方面，还是在培训资源方面。”他说，他担心那些规模比自己的合作社更小的合作社，因为那里的管理者往往最终不得不自行处理 IT 工作。
以隐私为重点的电子邮件服务商 Proton 的安全负责人 Patricia Egger 表示，小型企业面临的迅速采用人工智能工具的压力，可能会带来自身的漏洞。和其他不熟悉的技术一样，企业可能不会立即建立或持续遵循人工智能领域的网络安全最佳实践。她说，当员工“接到命令或得到批准：‘想办法使用人工智能，想办法提高工作效率’时，他们会变得非常有创造力，而控制措施、基础设施和流程很难在事后才建立起来”。她补充说：“一旦木已成舟，就真的很难处理。”
医疗保健是面临网络攻击风险最高、后果最严重的行业之一。2021年5月，一次勒索软件攻击迫使总部位于加利福尼亚州的医疗服务提供商 Scripps Health 关闭关键业务，导致患者数据遭到泄露，医疗服务速度放缓。一份2024年的报告称，医疗保健行业的全球网络攻击率仅次于政府部门，位居第二；而且，最初提出的赎金支付要求通常超过400万美元。黑客攻击事件总体增加，可能会对这一行业造成尤其严重的冲击。
俄亥俄州 Fisher-Titus Medical Center 的首席运营与信息官 Linda Stevenson 表示，她“当然”担心由 AI 驱动的网络攻击可能大量增加。“你永远不可能像自己希望的那样受到充分保护，”她说。Stevenson 表示，该医疗中心目前聘请了一家名为 UpGuard 的第三方网络风险管理合作伙伴，并在两年前聘用了第一名网络安全分析师——但即使网络安全威胁不断上升，他们目前仍然只有这一名分析师。
“我们所做的事情关乎生死，”她说。她还表示：“医院涉及从计费到营销的一切业务。它本身就像一座小城市。但其中最关键的核心是照护患者的人，如果我们无法保护这些人及其数据，也就无法保护患者的数据，那么患者就会面临风险。”
医疗保健总体而言可能是勒索软件攻击的一个“更大的蜜罐”，曾任急诊室医生、现任医疗保健安全公司 Imprivata 首席医疗官的 Sean Kelly 表示。没有对数字系统的访问权限，任何诊断或治疗都无法进行，因为医护人员需要查看患者既往病史、过敏情况、正在服用的其他药物等信息，这会进一步增加医院支付赎金的压力。此外，他说，许多人会迅速从一个工作站转到另一个工作站，因此需要频繁而快速地登录和退出设备。
“在医疗保健领域，风险更高，但预算却往往更低，”Kelly 说。“勒索软件攻击者知道医疗系统很有价值，因为医院不能停摆；而一旦医院进入停机状态，情况就会非常困难，因为患者会受到影响，系统会受到影响，计费减少，财务状况恶化，医疗服务会被延迟，甚至无法进行。因此，这些数据对勒索软件攻击者来说更有价值：其中既有医疗数据，也有财务和人口统计数据。”
Kelly 说，即便不考虑成群的智能代理，AI 也会通过在致电帮助台时发动语音钓鱼攻击等方式，让黑客更容易找到并利用这些漏洞。当一家医院发生服务中断时，通常还会形成一个“影响半径”，波及该地区的其他医疗机构，造成更长的等待时间、患者被转移到其他机构等后果。
“他们没有足够的 IT 员工或预算来防范许多最新的、由 AI 驱动的黑客攻击、勒索软件攻击以及其他网络安全攻击手段，”Kelly 说。“即使拥有庞大的 IT 团队和充足的预算，这也很困难；但很多时候，农村医院使用的是较旧、更加过时的软件系统和技术栈，其中存在明显的漏洞。”
对于中小型组织而言，无论所属行业如何，其系统和网络安全防御往往已经比大型企业更加脆弱，尤其是在人工智能不断增加黑客人手、并让网络攻击威力大幅增强的时代。
“某个地方只要存在一个漏洞就够了。”Kelly 说。
来源与参考
收录于 2026-09-29