Anthropic警告小型AI模型可能制造自我复制的物联网蠕虫

关键信息

Anthropic表示，这类复制器的传播速度可能较慢，倍增时间以天计算，而不是达到聊天机器人交互式响应的速度。由于实验表明在不熟悉的物联网硬件之间实现可靠复制仍然困难，因此这一警告目前仍具有推测性。

资讯摘要

Anthropic警告，小型AI模型的进步可能催生一种新的自我复制恶意软件。此类恶意软件可能攻击智能冰箱、扫地机器人以及许多其他物联网设备。该公司表示，到明年，小型模型或许能够在不同类型的物联网硬件之间自主复制。从更长远看，这种能力可能支持无需人工互动即可传播、并能感染不熟悉设备的计算机蠕虫。

不过，Anthropic最近进行的实验在实现可靠的AI恶意软件复制器方面遇到了重大困难。因此，该公司强调这是一种对未来可能能力的担忧，而不是已经存在实用物联网蠕虫的证据。Anthropic还表示，成功的复制器可能难以关闭，因为防御者无法通过关闭单一的集中节点来终止它，但其传播速度可能较慢，倍增时间以天计算。

资讯正文

Anthropic警告称，小型AI模型可能通过物联网设备自我复制

人工智能公司Anthropic警告称，小型AI模型的进步可能很快开启一个自我复制恶意软件的新时代。这类恶意软件能够感染智能冰箱、扫地机器人以及各种其他物联网设备，并且更难被清除。

该公司表示，到明年，小型AI模型或许就能在各种物联网设备上自主自我复制。最终，这种能力可能催生计算机蠕虫——它们无需人类互动即可传播，并能够感染此前不熟悉的物联网设备。该公司近期进行的一项实验揭示了实现这种AI恶意软件复制器所面临的重大挑战，因此这一发现必须谨慎看待。不过，实验结果仍然引发了人们对新型计算机蠕虫可能出现的担忧。

难以关闭

Anthropic进一步警告称，令人担忧的不仅是这种潜在的新型恶意软件，还在于它可能难以被阻止。该公司在博客文章中写道：“像这样的复制器将很难被关闭，因为没有可以切断的集中式节点——尽管它的传播速度可能很慢（倍增时间以天计）。与非AI恶意软件不同，它还能够自行识别不熟悉的设备。”

来源与参考

1. 原始链接
2. Anthropic warns small AI models could self-replicate through IoT devices