人工智能将经典蠕虫变为更快、更具自适应性的威胁

一项新的网络安全研究正在对自主性恶意软件遇上现代人工智能会产生什么后果发出警报。多伦多大学的研究人员展示了一个由公开可访问的人工智能模型驱动的原型蠕虫，该蠕虫能够利用已知的计算机漏洞，在测试网络中无人干预地传播，并在移动过程中自我调整行为。

与通常由熟练程序员为特定漏洞构建的传统蠕虫不同，这个原型被设计为能针对不同系统定制其攻击，包括 Linux、Windows 和物联网设备。随着传播，它可以收集数据、窃取密码并查找帮助其深入网络的其他弱点。如果某一路径被修补，蠕虫可以尝试其他路径。

团队表示，他们在一个安全的封闭环境中构建该系统，并在广泛的预防措施下使用了开源权重的人工智能模型。即便如此，结果仍然显示了人工智能如何被武器化以自动化利用，从而在一旦释放后难以遏制的规模上运行。

一种边学边长的蠕虫

研究人员表示，该蠕虫还通过从被感染的机器抽取处理能力来“养活”自己，利用这些资源改进其推理能力和后续攻击策略。这创造了一种新的威胁经济模型，攻击者在发起攻击后不再需要投入大量时间或计算资源。

“过去，黑客通常必须优先选择最有价值的目标，因为时间和计算资源是有限的，”首席作者尼古拉斯·帕佩尔诺说。 “但现在，一旦蠕虫被释放，成本几乎会降到零。”

该原型在一个重要方面仍然受限：它可以利用已知的漏洞，但不能自行发现新的漏洞。那使得它不如一些人工智能系统先进，例如 Anthropic 的 Mythos，Anthropic 表示其系统已经发现了超过 10,000 个漏洞，并帮助合作伙伴将漏洞发现率提高了十倍以上。

尽管如此，研究人员警告称，恶意行为者可能会将这些能力结合起来。在那种情形下，人工智能蠕虫既能发现又能利用新的漏洞，从而使其更难阻止。

“在一个互联互通的世界里，没有任何系统能免受这种威胁，”帕佩尔诺说。

来源：