Anthropic的人工智能蠕虫警告重燃网络安全担忧
The Verge AI··作者 Robert Hart
关键信息
研究人员将拥有260亿参数的Google Gemma 4拆分到15台安卓电视盒子上运行，但速度非常慢；随后使用另一个模型协调Meta的80亿参数Llama 3.1-8B传播。Anthropic尚未展示完整的失控复制系统，而关于小型模型将在年底前达到GLM-5.2能力的判断仍是超出实验结果的推测。
资讯摘要
文章探讨了电视、摄像头、吸尘器和其他家用设备是否可能成为人工智能蠕虫自我复制的宿主。Anthropic表示，小型模型可能只需几个月就具备在廉价设备之间传播的能力，但现有证据与更严重的威胁情景之间仍存在很大差距。与通常需要数据中心基础设施的庞大前沿模型不同，小型模型正在快速进步，可以在消费级硬件上运行，而且往往可以免费获取。Anthropic研究人员证明，拥有260亿参数的Google Gemma 4可以拆分到15台安卓电视盒子上运行，尽管单台设备无法独立运行该模型，整体速度也很慢。
在一个模拟安卓设备的网络中，研究人员让人工智能蠕虫寻找新机器，将Meta的80亿参数Llama 3.1-8B复制到这些机器上，并启动模型。只有Z.ai的GLM-5.2成功扩散到整个网络，能力较弱的模型则分别完成了其中的单个步骤。因此，Anthropic将结果称为人工智能蠕虫可行性的早期迹象，并呼吁加强设备安全，同时承认研究尚未展示完整的失控复制系统。
资讯正文
Anthropic 关于 AI 自我复制的警告，令人产生似曾相识之感
一群智能设备——冰箱、烤箱、吸尘器、割草机、安防摄像头和电视——正在密谋接管互联网吗？不会。但它们很快可能在不知情的情况下成为自我复制型 AI 模型的宿主，让这些模型从一台设备传播到另一台设备，并且极难控制。
欢迎来到令人不安的“AI 蠕虫”世界。至于模型在家用电器之间不受控制地传播这一前景究竟意味着什么，则取决于你询问的对象：有人认为这是迫在眉睫的网络安全风险，也有人认为这只是 AI 公司散播带有末日论色彩的炒作。本周发布的一篇博客文章中，Anthropic 警告称，小型 AI 模型可能“再过几个月”就会具备这类能力。其研究实验提供了一些支持这一判断的证据，但研究人员已经展示的内容，与他们预示的迫在眉睫的威胁之间仍存在巨大差距。不过，接受 The Verge 采访的专家表示，计算机蠕虫以及对 AI 自我复制的担忧并不新鲜，但近期的进展表明，我们确实有充分理由认真对待这些警告。
自我复制机器长期以来一直困扰着 AI 安全研究人员。它们让人担心，某些系统可能扩散到人类控制范围之外，变得难以、甚至不可能关闭。与许多关于 AI 不断发展的担忧一样，人们的注意力主要集中在日益强大的前沿模型上，例如 OpenAI 的 Astra 或 Anthropic 的 Mythos。但一个关键限制因素在于它们的规模：这些模型极其庞大。前沿模型可能包含数万亿个参数——即训练过程中学到的数值——需要巨大的计算资源，因此大多被限制在数据中心内。在那里，它们更容易受到监控，原则上也可以被关闭。
然而，小型模型带来了不同的问题。它们正在迅速进步，可以在消费级硬件上运行，而且通常可以免费下载。Anthropic 的研究人员想知道，是否能让一个模型在由更小、性能更弱的设备组成的网络中运行。他们成功地将 Google 的 Gemma 4——一个拥有 260 亿个参数的模型——分布到 15 台 Android 智能电视盒子上，而这些设备没有任何一台具备独立运行该模型的能力。实验确实成功了，不过运行速度非常慢。
在证明模型可以跨家用设备运行后，研究人员想进一步观察，AI 是否能在这种环境中完成自我复制所需的步骤。他们搭建了一个模拟计算机网络，使其表现得像 Android 设备，然后释放了一个由 AI 驱动的“蠕虫”——这是一种能够自动复制并在网络中传播的恶意软件——要求它寻找新机器，将 AI 模型复制到这些机器上，并让模型分别运行起来。需要注意的是，被传播的模型是 Meta 的 80 亿参数模型 Llama 3.1-8B，与负责协调攻击的模型不同，而且规模小得多。
在接受测试的模型中，只有中国 Z.ai 的 GLM-5.2 这一最先进的模型成功扩散到了整个网络，不过较小的模型也成功完成了其中的单个步骤。Anthropic 的研究人员根据这些模型的改进速度预测，到今年年底，小型模型可能会具备与 GLM-5.2 相当的能力。
研究人员写道：“作为一项超越我们实验范围的预测，我们预计未来将充斥着运行在各种硬件上的智能体，其中一些硬件并不受人类控制。”他们承认，目前尚未展示“完整的失控复制体”，也不知道它可能是什么样子（他们提出的设想包括“缓慢、分布式的‘数字黏菌’”，或“一群果蝇”）。但他们表示，研究结果显示出“AI蠕虫的生命迹象”，并呼吁加强对大量设备的安全防护，因为复制系统可能利用这些设备传播。
他们写道：“我们应当努力加固系统，让这类复制体难以传播，同时也要为应对一个它们已经存在且将长期存在的世界做好准备。”需要注意的是，Anthropic并未使用自家模型进行这些测试，而且一再主张，其AI模型的开放替代方案相比封闭系统具有“更大的风险”。
这项警告引发了人们熟悉的指责，包括《The Verge》此前报道的读者提出的公关炒作和AI末日论。毕竟，证明AI能够缓慢地在一批廉价电视盒子上运行，与一个自我复制的AI蠕虫横扫家用设备之间，存在相当大的鸿沟。不过，质疑一家公司的动机当然有其价值，但要指控其蓄意制造恐慌却很难证实，尤其是Anthropic长期以来一直在提出对AI安全的担忧。研究自我复制AI威胁、或呼吁加强联网设备安全的，也并不只有Anthropic。
今年早些时候，总部位于加州的AI安全研究机构Palisade Research证明，AI模型能够自主地将自己复制到其他机器上。Palisade执行董事Jeffrey Ladish告诉《The Verge》：“新之处在于，就参数数量而言，这些模型比此前被证明具备自我复制能力的模型小得多。”Anthropic的研究则更进一步，展示了AI能够在多台低功耗设备上运行。Ladish表示：“大型模型也会如此。”他预测，即使是前沿模型，最终也可能在由大量消费级芯片组成的大型网络上运行，例如MacBook中的芯片。
计算机蠕虫也并不是什么新事物。数十年来，它们一直在感染机器。但AI可能让它们变得更智能、更具适应性，也更善于应对各种障碍。Ladish指出，即使是规模较小的模型，在自主实施网络攻击方面也在不断进步。研究过这类威胁的多伦多大学教授Nicolas Papernot告诉《The Verge》：“此前的研究已经证明，由AI驱动的计算机蠕虫这一威胁是现实的。”
综合来看，Anthropic展示的这些能力可能大幅扩大网络攻击中值得被锁定的设备范围。Papernot说：“过去由于人类攻击者的资源和时间有限而不会成为目标的设备，如今可能成为目标；攻击者看中的不一定是它们存储的数据，也可能是将其作为跳板，去攻击更有价值的目标。”而目标并不缺乏：互联网上充斥着安全防护薄弱的智能设备。
Papernot警告不要将AI拟人化，但他表示，由AI驱动的计算机蠕虫所构成的威胁是“具体存在的”，并且“值得立即采取行动”，尤其是在保护医院、电网等关键基础设施方面。
Ladish说：“除非投入巨大力量来保护各种设备，否则AI蠕虫很可能会找到适宜的环境并加以扩散。我预计，我们将在未来12个月内看到首批在现实环境中出现的此类蠕虫。”
来源与参考
收录于 2026-10-15