网络犯罪分子利用AI增强诈骗手段

关键信息

Anthropic的Mythos模型发现了数千个关键漏洞，包括主流操作系统和浏览器中的漏洞，促使该模型推迟发布，并促成了名为Project Glasswing的防御型AI联盟成立。

资讯摘要

自2022年底ChatGPT公开发布以来，网络犯罪分子迅速采用生成式AI来提升攻击手段。这包括制作逼真的钓鱼邮件、生成深度伪造音视频、修改恶意软件以逃避检测，以及自动化发现系统漏洞。国际刑警组织警告称，东南亚的诈骗中心正利用廉价AI工具扩大全球运营规模。

尽管目前许多攻击依赖数量而非复杂性，但公共AI模型能力的提升意味着未来的威胁可能更加危险。微软等防御方正在用AI每年阻止数十亿美元的欺诈行为，表明AI既是武器也是盾牌。攻防之间的竞赛正在加剧，对全球网络安全策略有深远影响。

资讯正文

当ChatGPT于2022年底向公众发布时，它让人们意识到生成式AI如何仅凭简单提示就能轻易产出大量看似人类撰写的文本。这一现象很快引起了犯罪分子的注意，他们迅速开始利用大型语言模型生成恶意邮件——既有广泛发送的垃圾邮件，也有更复杂、有针对性的攻击，旨在窃取钱财和敏感信息。

自此以后，网络犯罪分子已采用AI工具来增强其行动效率。他们用这项技术撰写钓鱼邮件、制作高度逼真且极具说服力的深度伪造视频片段，甚至修改恶意软件（通常称为恶意程序），使其更难被检测到。此外，他们还能借助AI自动搜索网络和计算机系统中的漏洞，快速生成勒索信件，并分析大量被盗数据，找出其中最有价值的部分。

AI对黑客行为本身的影响尚不明确，但我们知道的是，AI正在降低潜在攻击者的门槛，为他们提供不断演进的新能力，并让他们比以往任何时候都更快、更便宜、更容易地尝试渗透目标。例如，国际刑警组织警告称，东南亚各地的诈骗中心正采用廉价的AI工具，迅速扩大受害人群范围，并能快速转移到新地点。同样，阿联酋最近声称挫败了一系列由AI支持的针对关键部门的隐秘攻击。由于这些大规模、广撒网式的攻击可以以极高的规模快速生成，它们并不需要非常复杂就能达到预期效果——只要恰好进入一台未设防的机器，或恰好出现在一个毫无戒备的受害者邮箱里即可。

许多组织目前正难以应对针对自身的海量网络攻击。随着越来越多的犯罪分子加入这场博弈，以及公开可用的生成式AI系统能力持续提升，这一问题可能变得更为严重。本月早些时候，AI公司Anthropic表示，其正在测试的一款名为Mythos的模型发现了数千个关键漏洞，其中包括每种主流操作系统和网页浏览器中的漏洞。Anthropic称所有漏洞均已修补，但因这些新能力的存在，该公司决定推迟该模型的发布，并成立了一个名为Project Glasswing的技术企业联盟，称将暂时把这些能力用于防御目的。

目前，网络安全研究人员乐观地认为，通过基础防护措施可以阻止那些粗制滥造的攻击，这也凸显了及时更新软件和遵守网络安全协议的重要性。至于我们未来能否有效抵御更复杂的攻击，则远不如现在这么清晰。

人工智能正在被用于防御。

微软——这只是众多关注此类威胁的企业之一——每天处理超过100万亿条由其AI系统标记为潜在恶意或可疑的信号。该公司表示，在2024年4月至2025年4月期间，它成功阻止了价值40亿美元的诈骗和欺诈交易，其中许多可能都借助了AI生成的内容。正是这种让攻击成为可能的技术，也可能成为未来几年保护我们安全的最佳希望。

深入探讨

OpenAI正全力以赴打造全自动研究员

独家专访OpenAI首席科学家雅库布·帕霍奇基，了解该公司最新的重大挑战及人工智能的未来。

《精灵宝可梦GO》正在为配送机器人提供精确到厘米的世界视角

独家报道：Niantic的人工智能子公司正利用来自玩家的300亿张城市地标图像，训练一种新型世界模型。

来源与参考

1. 原始链接
2. Supercharged scams