微软AI图片生成器Copilot Designer被曝安全隐患

AI每日新闻3个月前发布 shen
186 0
AI旋风聊天

近日,微软公司陷入了一场关于其成人工智能图片生器Copilot Designer的安全风波。据有关媒体报道,一位在微软工作六年的资深工程师Shane Jones向美国联邦贸易委员会(FTC)举报称,Copilot Designer存在严重的安全隐患,可能会生成有害图像,但微软却拒绝下架该工具。

Jones在致FTC的信中详细描述了他在测试Copilot Designer时发现的诸多问题。他提到,该工具在生成图片时,会随机出现与堕胎权术语相关的恶魔和怪物、手持突击步枪的青少年、暴力场景中性化的女性图像以及未成年人饮酒和吸毒等不适宜内容。这些内容不仅可能对用户的心理健康造成伤害,还可能引发社会争议和道德问题。

据悉,自去年12月以来,Jones便多次向微软内部反映Copilot Designer使用的模型DALLE-3存在的问题。他甚至曾在领英上发布公开信,呼吁微软重视并解决这个问题。然而,微软的法律团队随后联系他要求删除该帖子,而微软方面也并未采取实质性措施来解决这个问题。

Jones在接受采访时表示:“过去三个月里,我反复敦促微软将Copilot Designer从公共使用中移除,直到更好的保障措施到位。然而,他们却未能实施这些改变,并继续将该产品推销给‘任何人、任何地方、任何设备’。”他认为,微软的这种做法是对用户的不负责任,也是对人工智能技术的滥用。微软AI图片生成器Copilot Designer被曝安全隐患

对于Jones的指控,微软发言人Frank Shaw在给媒体的声明中表示,公司“致力于按照微软的政策解决员工提出的任何和所有顾虑”。他强调,微软已经建立了完善的产品内用户反馈工具和内部报告渠道,以便正确调查、优先处理和纠正任何问题。Shaw还建议Jones利用这些渠道,以便微软能够“适当验证和测试他的担忧”。

不过,AI旋风认为,尽管微软表示正在积极处理这一问题,但Jones的举报无疑给微软敲响了警钟。作为一家全球领先的科技公司,微软在推广人工智能技术时,必须更加注重产品的安全性和道德性。否则,一旦出现类似Copilot Designer这样的安全隐患,不仅会损害公司的声誉和利益,还可能对整个行业造成负面影响。

事实上,这并非人工智能领域首次出现类似问题。上个月,谷歌也因其AI图片生成器创建种族多元化的纳粹和其他历史不准确图像而暂时禁用了该工具。这些事件都表明,在人工智能技术的快速发展过程中,如何确保产品的安全性和合规性已成为摆在科技公司面前的一道难题。

要解决这一问题,科技公司需要从多个方面入手。首先,加强技术研发,提升人工智能系统的安全性和稳定性。其次,建立完善的监管机制,对人工智能产品的开发和使用进行严格的审查和监管。此外,加强公众教育和引导,提高公众对人工智能技术的认知和理解,也是必不可少的。

总之,微软Copilot Designer的安全隐患事件再次提醒我们,人工智能技术的发展必须建立在安全、合规和道德的基础上。只有这样,我们才能充分利用人工智能技术的优势,为人类社会的发展进步贡献力量。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...