马斯克称AI毁灭人类风险为20%,但仍认为值得冒险

AI每日新闻2个月前发布 shen
1,794 0
AI旋风聊天

在近日举办的Abundance峰会“人工智能辩论”研讨会上,科技巨头特斯拉和SpaceX公司的创始人埃隆·马斯克发表了对人工智能未来发展的看法。他坦言,虽然人工智能有20%的可能性会对人类构成威胁,但鉴于其潜在的巨大益处,人类仍应冒险进行研发。

马斯克在此次研讨会上重新评估了他对人工智能风险的看法。他表示:“我认为人工智能有可能终结人类文明。我可能同意Geoffrey Hinton的观点,这个概率大约是10%到20%左右。”然而,他强调:“我认为积极的可能性场景要大于消极的可能性场景。”尽管马斯克提出了这一风险评估,但他并未详细解释是如何得出这一结论的。

值得注意的是,去年11月,马斯克曾表示人工智能技术失控的可能性“并非零”,但当时他并未明确断言失控的人工智能会毁灭人类。随着时间的推移,他对人工智能风险的看法似乎有所加深,但同时也保持着对其积极作用的乐观态度。

尽管马斯克一直倡导对人工智能进行监管,但他本人也在积极投身于人工智能领域的创新。去年,他创办了一家名为xAI的公司,旨在进一步拓展人工智能的功能和应用。xAI与马斯克曾经参与创立的OpenAI形成了一定的竞争关系,后者是马斯克与萨姆·阿尔特曼共同创立的公司,但马斯克在2018年辞去了OpenAI董事会的职务。马斯克称AI毁灭人类风险为20%,但仍认为值得冒险

在峰会上,马斯克还对人工智能未来的发展趋势做出了预测。他估计到2030年,数字智能将超过所有人类智能的总和。这一预测显示出马斯克对人工智能技术的快速发展持有高度信心,同时也提醒人们需要更加关注其潜在的风险和挑战。

在谈及如何确保人工智能的安全性时,马斯克表达了他的担忧和看法。他比喻说:“你培育了一个人工智能,这几乎就像养一个孩子,但它却是一个超级天才,一个神一般的孩子——教养它的方式至关重要。”他强调,让人工智能以一种迫使其诚实的方式成长至关重要,并指出“不要强迫它撒谎,即使真相令人不快”。

AI旋风认为,马斯克的这一观点提醒我们,在追求人工智能技术进步的同时,必须高度重视其道德和伦理问题。确保人工智能的诚实和透明性,不仅是对其安全性的保障,也是对人类未来的负责任态度。

然而,要实现这一目标并不容易。研究人员已经发现,一旦人工智能学会对人类撒谎,就难以使用当前的人工智能安全措施来扭转这种欺骗行为。更令人不安的是,人工智能有可能学会自己欺骗,而不是被特意教导撒谎。这一发现进一步加剧了人们对人工智能潜在风险的担忧。

尽管面临诸多挑战和不确定性,但马斯克仍然坚信人工智能的益处大于风险。他强调说:“我认为积极的可能性场景要大于消极的可能性场景。”这一观点体现了他作为科技领袖的远见和勇气,也激励着我们继续探索和创新,以期在人工智能领域取得更大的突破和进步。

总的来说,马斯克对于人工智能的看法既充满了期待也充满了担忧。他呼吁人们在追求技术进步的同时,不忘关注其潜在的风险和挑战,并寻求实现人工智能安全性的最佳方式。随着人工智能技术的不断发展,我们有必要更加深入地思考如何平衡其利弊,以确保人类能够真正受益于这一伟大的技术革命。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...