Anthropic红队构建可自我传播的AI蠕虫，跨越智能电视

Anthropic的红队公布，其构建了一个可自主传播的恶意AI程序，能够在联网智能电视之间自我复制。据《The Guardian》报道，该团队将程序拆分到15台电视上，并从每台设备借用少量算力。

研究人员表示，同样的做法也可以在其他普通设备上实现。他们指出，智能设备接收安全补丁的频率低于手机或笔记本电脑，这使得AI蠕虫更难被阻止。

该团队还提出一个假设：AI蠕虫可以自行调查新披露的漏洞，并转移到其他硬件上。不过他们表示，AI蠕虫需要在低功耗设备上完成比目前更多的任务，这项技术尚未达到该水平，但按照当前的发展速度，一年之内可能实现。

业内人士对此看法不一。AI安全初创公司Lunasec负责人Ariel Herbert-Voss表示，AI模型与传统病毒不同，因为它们在移动过程中会学习。曾负责Meta AI安全开发的Joshua Saxe表示，他担心安全行业没有足够认真地对待这一真实风险。

多伦多大学博士生Jonas Guan则认为，Anthropic的蠕虫移动非常缓慢，其行为可以被预测和检测，因此能够在多个阶段被拦截。SentinelOne研究副总裁Juan Andres Guerrero-Saade称其为一次噱头式黑客演示，助长了关于AI模型拥有自身意志的荒诞末日论调。专家表示，使用强密码和双重身份验证等基本安全措施可以阻止大多数蠕虫。Anthropic未回应《The Guardian》的采访请求。

背景

此前，NotPetya和WannaCry等蠕虫曾在全球范围内造成巨大损失。