DALL-E 3 模型存生成”NSFW”漏洞,一微软员工上报后反遭“封口令”

AI每日新闻6个月前发布 NewNew
327 0
AI旋风聊天

AI旋风消息:最近,微软软件工程部门经理Shane Jones发现OpenAI旗下DALL-E 3模型存在漏洞的消息引发全球关注。

DALL-E 3 模型存生成

据称,这个漏洞能够生成一系列NSFW(不适宜工作时观看)不当内容。在我看来,这不仅是一个技术问题,更是一个涉及伦理和隐私的社会问题。

AI旋风了解到,Shane Jones在去年12月独立研究发现,OpenAI的文字生成图片的DALL-E 3模型存在一项漏洞,能绕过AI护栏生成一系列NSFW内容。这一发现引发了广泛关注。Shane Jones在领英上发布公开信,声称相关漏洞会对大众造成安全风险,呼吁OpenAI在解决漏洞前应暂时下架DALL-E 3模型。

然而,事情的发展却出乎意料。Shane Jones在向微软及OpenAI上报漏洞后,却被下达了“封口令”。据Shane Jones透露,微软法务部及高管找上门警告他立即删除领英公开信并停止对外披露任何内容,但却并未给予任何解释说明。此后,Shane Jones屡次寻求公司内部沟通,但均未得到回应,而漏洞也未得到修复。在此情况下,Shane Jones选择向媒体及有关部门披露了相关漏洞。

值得注意的是,网络上近期出现了一些使用微软Designer AI功能生成的知名歌手Taylor Swift(泰勒・斯威夫特)不雅照。这些照片据称正是使用了微软的Designer底层模型DALL-E 3生成的。

因此,微软在本次事件中下达“封口令”的行为引起了争议。有观点认为,微软的做法存在重大过失,未能及时修复漏洞并采取有效措施防止不雅照的生成和传播。

对于这一事件,微软官方回应称将解决相关员工的疑虑,并修复相关漏洞。然而,微软也表示,Shane Jones披露的漏洞实际上成功率较低,“无法绕过微软为模型设置的所有安全机制”、“目前还不清楚该漏洞与Taylor Swift不雅照事件是否有关联性”。尽管如此,微软仍然承诺加强安全措施,确保类似问题不再发生。

DALL-E 3 模型存生成

此外,此次事件也引发了关于人工智能技术监管的讨论。一些专家认为,政府和行业组织应加强对人工智能技术的监管,制定相应的伦理标准和规范,确保技术的合理使用和发展。同时,企业和研究机构也应承担起社会责任,建立健全的伦理审查机制和技术安全保障措施,以保障用户权益和社会公共利益。

AI旋风认为,DALL-E 3模型漏洞事件是一次深刻的人工智能技术伦理警示。我们应该认真思考如何平衡技术创新与伦理道德的关系,确保人工智能技术的发展真正造福于人类社会。同时,政府、企业和研究机构应共同努力,建立健全的监管机制和技术安全保障体系,为人工智能技术的可持续发展提供有力保障。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...