谷歌AI摘要功能陷“幻觉”危机,CEO坦言技术缺陷尚无解

AI每日新闻2个月前发布 shen
78 0
AI旋风聊天

近期,谷歌搜索的新星产品“AI 摘要(AI Overviews)”功能遭遇了前所未有的质疑风暴。这一被寄予厚望的AI功能,因其频繁提供严重错误的搜索结果信息,而引发了公众的广泛关注。其中,最令人啼笑皆非的是,该功能竟建议用户使用胶水来防止披萨上的奶酪滑落,这一荒诞不经的建议,无疑成为了网友热议的焦点。

据了解,谷歌首席执行官桑达尔・皮查伊在本周早些时候接受采访时,首次公开承认了“AI 摘要”功能存在的问题。他坦言,这些由AI摘要功能产生的“幻觉”,其实源于大型语言模型(LLM)的“固有缺陷”,而LLM正是该功能的核心技术。更令人遗憾的是,皮查伊表示,这一问题目前尚无解决方案,意味着即便谷歌工程师团队不断努力,类似的问题仍可能持续出现。

这一声明无疑让人们对谷歌AI技术的可靠性产生了深深的疑虑。毕竟,作为一款搜索引擎,提供准确、可靠的信息是其最基本的职责。然而,“AI 摘要”功能的失误,不仅让用户感到困惑和失望,更在一定程度上损害了谷歌搜索引擎的信誉。谷歌AI摘要功能陷“幻觉”危机,CEO坦言技术缺陷尚无解

值得注意的是,尽管皮查伊在采访中试图淡化这些错误的严重性,但他也无法否认问题的存在。他表示:“‘AI 摘要’功能有时会出错,但这并不意味着它没有用处。我认为这并不是看待该功能的正确方式。”他还强调,与去年相比,谷歌在事实准确性方面的指标上已经取得了很大进步,整个行业都在不断改进。然而,他也承认,问题还没有完全解决。

然而,皮查伊的乐观态度并未能平息公众的质疑。事实上,“AI 摘要”功能出现的错误已经在网上引起了轩然大波。许多用户纷纷展示了该功能生成的各种错误信息的例子,这些例子不仅令人哭笑不得,更让人们对谷歌的AI技术产生了深深的忧虑。

人工智能顾问和SEO专家布兰妮・穆勒在社交媒体上更是直言不讳地批评了谷歌的这一做法。她写道:“人们期望人工智能的准确性远远超过传统方法,但事实并非总是如此!谷歌正为了超越竞争对手Perplexity和OpenAI而在搜索领域进行一场冒险的赌博,但他们本可以将人工智能用于更大、更有价值的用例上。”

AI旋风认为,此次事件不仅是对谷歌AI技术的一次严峻考验,更是对整个AI行业的一次警示。随着AI技术的不断发展,其在各个领域的应用也越来越广泛。然而,如何确保AI技术的准确性和可靠性,避免其出现类似“幻觉”的问题,成为了摆在我们面前的一道难题。

在未来,我们期待谷歌能够正视这一问题,积极寻求解决方案,确保“AI 摘要”功能能够为用户提供更加准确、可靠的信息。同时,我们也希望整个AI行业能够引以为戒,共同推动AI技术的健康发展。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...