研究人员开发出首个AI蠕虫,它只需被读取就能劫持电子邮件助手——对于任何信任AI来打理收件箱的人来说,这都是坏消息。

• 一款名为"Morris II"的蠕虫将指令隐藏在纯文本之中;读取它的AI助手可能会泄露密码或信用卡号,并将感染传播给你的联系人。
• 无需点击或下载——它在实验室测试中骗过了ChatGPT、Gemini和一个开源模型,而且没有一个能够检测到它。
• 这个缺陷并不是可以打补丁修复的漏洞:AI以同样的方式读取一切内容,因此它无法分辨真正的指令与埋藏在邮件或图像中的植入指令。
• 它的传播几乎不需要任何成本,在各个助手之间跳转,并利用受害者自己的账户和算力运行。
• 提出的修复方案——将读取与执行分离,或增加一个审查用的AI——全都会拖慢速度,或存在同样的盲点,因此各公司仍然优先推出新功能。

展望:Morris II目前仍停留在实验室阶段,但随着企业将越来越多的决策交给AI智能体,这类攻击看起来难以阻止。