谷歌AI再陷“幻觉”风波:搜索推荐用户制作“胶水披萨”,技术难题待解

AI每日新闻1个月前发布 shen
48 0
AI旋风聊天

近日,谷歌的人工智能搜索系统再次引发了公众的关注,原因竟是其向用户推荐了一个荒诞不经的食谱——往披萨里加胶水。这一奇特建议源自之前的一个网络热梗,其中网红凯蒂・诺托普洛斯(Katie Notopoulos)因恶搞尝试制作了所谓的“胶水披萨”并食用,此举在网络上掀起了一阵热议。然而,令人担忧的是,谷歌的AI似乎正在学习并传播这些不安全的网络流行语。

据悉,虽然大多数用户不太可能真正搜索“往披萨里加多少胶水”这样的问题,但考虑到“胶水披萨”这一话题的近期热度,这样的搜索并非完全不可能出现。安全研究员科林・麦克米伦(Colin McMillen)发现,当用户真的在谷歌上提出这样的查询时,得到的并非“绝对不要加胶水”的安全警告,反而是引用凯蒂的恶搞文章,并建议用户往披萨中添加八分之一杯胶水,这无疑是一种极度危险且不负责任的建议。The Verge 进行的搜索测试也验证了这一点。

AI旋风认为,这一现象凸显了当前人工智能技术在处理网络热梗和流行语时所面临的挑战。在网络世界中,流行语和热点话题的更新速度极快,而AI系统往往难以准确判断这些信息的真实性和安全性。在这种情况下,AI系统可能会错误地将一些荒诞不经的建议或信息作为正确答案呈现给用户,从而引发误解或危险行为。谷歌AI再陷“幻觉”风波:搜索推荐用户制作“胶水披萨”,技术难题待解

更令人担忧的是,The Verge 指出,当网友向谷歌报告其AI系统出错时,实际上可能是在“训练”它继续犯错。这是因为AI系统通过不断学习和优化来改进其性能,但如果输入的反馈信息本身是错误的或不准确的,那么AI系统可能会根据这些错误信息进行自我修正,从而进一步偏离正确的答案。

此外,谷歌的AI系统还面临另一个问题:无法准确回答关于其自身产品的问题。在The Verge 编辑询问如何在隐身模式下截取Chrome浏览器截图时,谷歌的AI给出了两个错误的答案。其中一个建议在普通模式的Chrome标签页中截取截图,而另一个答案则坚称在Chrome隐身模式下根本无法截屏。这种对自家产品功能的误解无疑进一步暴露了AI系统在处理复杂查询时的局限性。

针对这些问题,谷歌首席执行官桑达尔・皮查伊(Sundar Pichai)此前在接受采访时承认,这些“AI摘要”功能产生的“幻觉”是大型语言模型(LLM)的“固有缺陷”,而大型语言模型正是“AI摘要”功能的核心技术。他表示,这个问题目前尚无解决方案,仍是一个待解的难题。

AI旋风认为,谷歌AI系统所面临的问题并非个案,而是当前人工智能技术发展过程中的一个缩影。随着AI技术的不断发展和应用,我们需要更加深入地思考如何确保AI系统的准确性和安全性,以及如何有效地应对AI系统可能出现的错误和幻觉。同时,我们也需要更加谨慎地对待网络上的流行语和热点话题,避免被不实信息所误导或利用。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...