AI网络蠕虫被曝光:能不断繁殖,发送垃圾邮件并窃取数据

AI每日新闻3个月前发布 okay
221 0
AI旋风聊天

随着生成式人工智能(AI)服务的飞速发展,如OpenAI的ChatGPT和Google的Gemini,这些技术被广泛应用于解决各种问题,如创建日历事项、订购商品等。然而,近日国际网络安全团队揭露了一种名为“Morris II”的新型AI蠕虫病毒,它能在这些生成式AI服务间独立传播,窃取数据,并通过电子邮件发送垃圾邮件。

“Morris II”的名字源于1988年发现的第一个计算机蠕虫病毒Morris,该病毒曾感染了超过6200台计算机,占当时互联网连接计算机总数的10%。与Morris类似,“Morris II”也利用了生成式AI的漏洞进行攻击。

研究人员在沙盒环境中测试了这一新型攻击模型,虽然目前尚未在实践中被发现,但个人开发者、初创企业和科技公司都应高度警惕这一威胁。

“Morris II”的运行原理基于“对抗性自我复制提示”机制。攻击者可以通过向生成式AI模型发送特定指令,使其忽略安全措施并生成不当内容,或者向模型提供含有恶意指令的网页地址。当模型接收到这些指令时,会生成另一条指令作为回应,类似于传统的SQL注入和缓冲区溢出攻击。

为了展示这一蠕虫病毒的工作原理,研究人员创建了一个使用生成式AI接收和发送信息的电子邮件服务,连接了ChatGPT、Gemini和开源LlaVA模型。他们成功利用自我复制的文本指令和嵌入图像文件的指令两种方法发起了攻击。

研究报告的作者指出,这些攻击方法之所以成为可能,是因为人工智能生态系统的架构设计存在缺陷。他们已将与谷歌和OpenAI分享了这一发现。OpenAI证实了这一威胁的存在,并表示正在努力提高系统稳定性;而谷歌则未对此发表评论。

此次事件再次提醒我们,随着生成式AI的广泛应用,网络安全问题也日益凸显。开发者和企业必须密切关注并应对这一挑战,确保数据和系统的安全。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...