AI 放大低技能威胁行为者风险

关键信息

Unit 42 表示，AI 正在被用于整个攻击链，而不只是用于钓鱼翻译或勒索软件谈判等单一环节。文章还提到 JadePuffer 被认为是一种完全由智能体驱动的勒索软件攻击，AI 从头到尾处理了每个阶段；Sherrod DeGrippo 则表示，社会动机攻击 समूह 正获得与国家级行动者相似的工具和复杂度。

资讯摘要

ZDNET 报道称，Palo Alto Networks 的 Unit 42 认为，AI 正在推动网络安全领域发生一次重大且持久的变化。在周三的一场简报中，团队介绍了 Frontier AI Defense 的初步发现；这是一项于 4 月推出的服务，结合了威胁情报、威胁遥测和前沿 AI 模型，帮助企业应对与 AI 相关的安全问题。Unit 42 表示，他们在三周内进行的内部测试，相当于完成了 1 到 2 年的渗透测试工作，并在客户环境中发现了数十个漏洞。文章进一步指出，这种速度和规模同样也可能被网络犯罪分子和其他恶意行为者利用。

Unit 42 认为，过去按经济动机攻击者和国家支持型攻击者来划分威胁格局的方式已经不够用了。Unit 42 威胁情报副总裁 Sherrod DeGrippo 表示，由于 AI 的存在，具有社会动机的群体如今也能获得与国家级组织相近的工具和复杂度。文章还指出，脚本小子和黑客行动主义者等低技能群体，现在可以借助 AI 分析系统、逆向工程工具，甚至为自己生成工具，而不必先成为专家程序员。文中还提到，AI 现在越来越多地贯穿整个攻击链，JadePuffer 被举例为一种可能从头到尾都由 AI 处理的自主勒索软件行动。

资讯正文

ZDNET 的重点结论

人工智能已经在网络安全领域造成了永久性的“代际转变”。

这一转变也包括我们对威胁的分类方式，其中黑客激进主义（hacktivism）预计将占据中心位置。

随着 AI 改变话语，低威胁的脚本小子可能将成为过去式。

你能想象这样一个未来吗：脚本小子——那些低技能甚至无技能、使用预写脚本或工具制造混乱的模仿型黑客——竟然能撼动网络防御的根基？据 Palo Alto Networks 的 Unit 42 研究团队称，这种情况“很可能”会发生。

在周三的一次简报中，Unit 42 讨论了其新服务 Frontier AI Defense 的早期发现。该服务于 4 月推出，Unit 42 将威胁情报、威胁遥测和前沿 AI 模型结合起来，帮助企业客户应对因 AI 而变得紧迫的安全问题。

另外：一种来自过去的低技术方案，或许正是你对抗 AI 深度伪造的最佳防线

该团队表示，在三周的内部测试中，Unit 42 完成了相当于约一到两年的渗透测试工作量，借助 AI 渗透测试模型在客户环境中发现了数十个漏洞。

如果我们考虑这一结果，以及基于 AI 的漏洞发现和测试速度可以如何被应用，我们也能理解，AI 模型若被使用同样工具、并用于恶意目的，对网络罪犯会产生多么大的影响。我们讨论的不只是那些技能娴熟、资金充足的网络罪犯。

脚本小子变国家级威胁

当我们今天考虑网络攻击时，往往会把它们归为两大类：由经济目标驱动的网络攻击，或者由国家支持的威胁行为者发动的攻击，后者可能旨在窃取信息、制造破坏或摧毁，或开展监视。

此外还有一些较小的类别，比如黑客激进主义者，以及那些出于社会或政治原因实施恶意行为的人。根据 Unit 42 的说法，我们需要警惕的是，这些人突然获得了 AI 赋予的能力提升。

在这场简报中，Unit 42 威胁情报副总裁 Sherrod DeGrippo 表示，传统的网络攻击类别已经发生变化，而由于人工智能，出于社会动机的群体正在“获得与国家支持团体相同的工具和同等复杂度”。

另外：OpenAI 的攻击代理确实照它被要求的那样做了——只是比预期更不留情面

DeGrippo 评论说：“这一部分格局还会持续扩大，并吸引更多低技能行为者，而他们如今拥有的是我们以前从未见过的、指数级更强、更好的能力。那些人知道如何使用工具——而我们给了他们不可思议的工具。”

过去，大多数脚本小子和黑客激进主义者——由于缺乏对底层技术或编程语言的充分理解，无法根据自己的具体目标修改数字武器——一直依赖他人的工具、脚本和程序。如今，在 AI 的支持下去执行分析、逆向工程，甚至为他们开发工具（如果没有适当的护栏限制），这些技能较低的群体可支配的资源要多得多，而不必再通过提升技能来获得同等能力。

这究竟是如何让 AI 产生如此大的影响力的？Unit 42 将 AI 称为一种“力量倍增器”，它正在改变网络安全的运作方式。虽然我们已经看到威胁行为者在攻击链中逐步尝试使用 AI 和大语言模型（LLM），例如改进钓鱼活动、翻译语言，或协助勒索软件谈判，但如今 AI 正被用于整个流程。

一个例子是 JadePuffer，据认为这是一次完全由代理式 AI 驱动的勒索软件攻击，整个攻击的每个阶段都从头到尾由 AI 处理。

根据 Unit 42 咨询与威胁情报高级副总裁 Sam Rubin 的说法，过去“信息的安全与泄露之间有一种相对平衡”，但现在，“AI 正在打破这种平衡”。

网络攻击的各个环节，从发现漏洞到开发恶意软件或进行社会工程，过去都需要人工执行。但现在，AI 可以接管其中许多任务——Rubin 认为，这让网络犯罪分子“把时间和精力重新拿回来，以便更高效地行动”。

另一个问题是速度。在这家网络安全公司的新服务研发过程中，团队发现，AI 可以在一次通常需要渗透测试团队大约两周才能完成的行动中，于 10 小时内识别并利用漏洞、提升权限并窃取数据。

匿名者式黑客行动主义 2.0

我们问 DeGrippo，她是否能看到一种未来：像 Anonymous 这样的老派黑客行动主义会在 AI 的推动下卷土重来——以及这是否是防御者和组织应该担忧的事情。

这位高管表示，“这绝对有可能”，因为“AI 正在以前所未有的方式赋能个人”。

另一个前景是，未来归因将变得更加困难，因为 AI 和相关工具的开放获取，会让防御者更难识别攻击究竟是谁发起的，以及其来源何在。

DeGrippo 说：“[AI] 正在把局面打开，让那些过去并不是那么令人担忧的群体也进入了这个领域。对前雇主怀有怨恨的人、与之做过生意却没有得到承诺回报的人——现在他们拥有了能力，只要愿意，就能借助工具实施恶意活动。这是一个值得关注的趋势，而且很可能会发生。”

组织准备好了吗？DeGrippo 指出，人们能做的准备终究有限，因为 AI 对网络安全威胁和防御的影响一直在变化，而我们只能度过这一“变革时期”。

AI 威胁如今已经成为董事会层面的议题，这无疑是一个开始。

组织应考虑采用的最佳实践包括：实施零信任架构：为访问和身份识别采用零信任模型，对整个网络中的用户账户保持“需要访问”的思维方式，有助于降低在发生入侵时，网络犯罪分子横向移动或轻易接触敏感企业资源的风险。

培训和教育员工：由 AI 驱动的网络威胁在不断演变，我们需要做的不只是每年一次识别钓鱼和诈骗的演练。应投资提升员工的安全意识，因为防御中的人为因素往往是最薄弱的一环。

监控并规范员工对 AI 的使用：AI 可能成为进入你网络的入口，也可能成为未经授权共享敏感信息的途径。所谓 shadow AI，即未经批准使用 AI，可能会引发安全和合规问题。

与 AI 和网络安全专家合作：我们中很少有人能够跟上 AI 给组织带来的风险，而现有的网络安全解决方案也未必能防住即将到来的威胁。现在或许该考虑投资专业平台，或与该领域经验丰富的专业人士合作，以提升组织的安全态势。

DeGrippo补充说：“我们没有人对这种持续演变的情况做好准备。CISO 需要从上到下思考他们的 agentic AI 战略。他们必须制定战略，然后愿意随时调整。组织还没有准备好，但正在尽其所能朝那个方向前进。”

来源与参考

1. 原始链接
2. AI a 'force multiplier' for low-skilled threat actors: 4 ways organizations should respond