谷歌AI新星Gemini视频搜索功能首秀遇挫 误导性维修建议引争议

AI每日新闻1个月前发布 shen
82 0
AI旋风聊天

在今日举行的谷歌I/O开发者大会上,备受瞩目的AI新星Gemini正式亮相,并承诺将引领搜索引擎领域进入全新纪元。然而,就在这一备受瞩目的展示环节中,Gemini却遭遇了尴尬一幕——在演示其引以为傲的视频搜索功能时,给出了错误且极具误导性的维修建议,再次暴露了大型语言模型普遍存在的“自信陷阱”。

在“Gemini引领搜索新纪元”的演示片段中,谷歌向与会者展示了其创新性的视频搜索功能。用户只需拍摄短视频并辅以语音提问,Gemini便能迅速识别问题并提供解决方案。然而,在演示过程中,当面对一个卡住的胶片相机过片杆问题时,Gemini的表现却令人大跌眼镜。

据现场观众描述,当用户提问“为什么扳杆无法移动到底”时,Gemini迅速识别了问题,并信心满满地给出了一系列维修建议。然而,在这些建议中,赫然出现了一条极具误导性的内容——“打开后盖并小心取出胶片”。这一建议对于需要解决相机问题的用户来说,无疑是雪上加霜。因为在实际操作中,非完全黑暗的环境下打开相机后盖会导致胶片曝光,从而损坏已经拍摄的照片。谷歌AI新星Gemini视频搜索功能首秀遇挫 误导性维修建议引争议

这一失误不仅让现场观众感到啼笑皆非,也引发了业界对大型语言模型准确性和可靠性的再次质疑。虽然Gemini在识别问题和生成回答的速度上令人瞩目,但其给出的错误答案却暴露出了当前AI技术的局限性。尤其是在处理复杂问题和提供实际建议时,大型语言模型往往容易陷入“自信陷阱”,即过度自信地给出答案,却忽略了答案的准确性和实用性。

值得注意的是,这已经是谷歌在展示其AI产品时出现的第二次重大失误。去年,谷歌推出的Bard聊天机器人在回答关于詹姆斯・韦伯太空望远镜的问题时,也曾信誓旦旦地宣称该望远镜是首架拍摄到太阳系外行星的望远镜,而事实上这一荣誉应归属于其他望远镜。这两次失误不仅让谷歌的AI产品形象受损,也引发了公众对AI技术发展的担忧和质疑。谷歌AI新星Gemini视频搜索功能首秀遇挫 误导性维修建议引争议

对于此次Gemini的失误,谷歌方面并未给出官方回应。然而,业界人士普遍认为,这次事件将对谷歌的AI战略产生一定影响。一方面,谷歌需要更加重视AI技术的准确性和可靠性,避免类似事件再次发生;另一方面,谷歌也需要加强对AI技术的监管和审核机制,确保AI产品能够为用户提供有价值、准确的信息和建议。

AI旋风认为,尽管当前人工智能技术还存在诸多局限性和挑战,但其发展潜力仍然巨大。随着技术的不断进步和应用场景的不断拓展,AI将在未来发挥越来越重要的作用。然而,在这个过程中,我们需要更加谨慎地对待AI技术,避免其潜在的负面影响,并不断探索和完善其应用方式和监管机制。只有这样,我们才能真正实现AI技术的可持续发展和广泛应用。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...