谷歌AI聊天机器人Gemini限制回答选举相关查询,以防范误导信息与假新闻

AI每日新闻2个月前发布 shen
152 0
AI旋风聊天

近日,科技巨头谷歌宣布对其AI聊天机器人Gemini实施限制措施,该措施主要针对今年将在多个国家举行的选举相关的查询,包括备受关注的美国总统选举。此举旨在减少技术部署中潜在的错误,以应对人工智能生成技术进步带来的假新闻和误导信息日益增多的挑战。

AI旋风了解到,谷歌在周二的一篇博文中详细阐述了这一决策的背景和目的。谷歌表示,“出于对如此重要话题的谨慎,我们已开始限制Gemini将返回哪些类型与选举相关的查询的回应。我们对为这些类型的查询提供高质量信息的责任感到严肃,并不断努力改进我们的保护措施。”这一举措表明,谷歌正积极应对人工智能技术在信息传播领域可能带来的风险。

除了美国,南非、俄罗斯和印度等世界大国也计划进行全国选举,这些国家的选举活动同样受到了谷歌的限制措施的影响。Gemini在回答有关美国总统拜登和共和党领先人特朗普之间下一场总统辩论的问题时,甚至直接表示:“我还在学习如何回答这个问题。与此同时,尝试使用谷歌搜索。”这种回答方式凸显了谷歌在限制Gemini回答选举相关查询时的谨慎态度。

去年12月,谷歌就已经宣布了这些限制措施,并表示它们将在2024年总统选举前生效。这一决策的背景是全球多达40个国家约40亿人的大选举即将来临,科技平台需要为此做好充分准备。根据机器学习初创公司Clarity的统计数据,AI生成的深度伪造数量一年增长了900%,这一趋势引发了人们对选举相关误导信息的严重担忧。

选举相关的宣传自2016年总统竞选以来一直是一个大问题,当时俄罗斯行动者试图利用廉价且简单的方法通过社交媒体传播错误内容。如今,随着人工智能技术的快速发展,立法者对人工智能的潜在影响感到更加担忧。他们担心,AI技术可能被用于制造和传播更具欺骗性的信息,进一步加剧选举过程中的混乱和误导。谷歌AI聊天机器人Gemini限制回答选举相关查询,以防范误导信息与假新闻

值得注意的是,谷歌此前曾因Gemini生成的一些历史图片中出现缺陷而停止了该聊天机器人的图像生成功能。CEO桑达尔·皮查随后表示,公司正在努力解决这些缺陷,并谴责聊天机器人的某些回应为“有偏见”和“完全不可接受”。这一事件进一步凸显了AI技术在应用过程中可能出现的问题和挑战。

此外,其他科技巨头也在积极应对AI技术在选举中的潜在风险。例如,Facebook母公司Meta Platforms宣布,将在6月举行的欧洲议会选举前建立一个团队,以打击关于选举的误信息和生成AI的利用。这表明,整个科技行业都在努力确保AI技术在选举过程中的安全和可靠性。

AI旋风认为,谷歌对Gemini的限制措施体现了科技公司在面对人工智能生成技术进步带来的挑战时,正努力承担起应有的责任。通过限制回答与选举相关的查询,谷歌旨在减少误导信息的传播,保护公众免受虚假信息的侵害。同时,这也为其他科技公司树立了榜样,提醒他们在推广和应用AI技术时,应始终保持谨慎和负责任的态度。

然而,我们也应意识到,限制措施只是应对AI技术风险的一种方式,而并非万能之策。在未来的发展中,科技公司还需要不断探索和完善更加有效的技术手段和监管机制,以确保AI技术在各个领域的应用都能够符合社会伦理和法律法规的要求。同时,公众也应提高信息素养和辨别能力,以更好地应对虚假信息和误导信息的挑战。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...