全球AI巨头联手签署前沿人工智能安全承诺,共筑安全透明新纪元

AI每日新闻4周前发布 shen
37 0
AI旋风聊天

近日,在备受瞩目的“人工智能首尔峰会”(AI Seoul Summit)上,OpenAI谷歌微软智谱AI等全球16家领先的科技公司共同签署了前沿人工智能安全承诺(Frontier AI Safety Commitments),此举标志着人工智能(AI)开发领域在安全与透明度方面迈出了重要一步。

此次签署的前沿人工智能安全承诺明确提出了三大要点:首先,确保前沿AI技术的安全和负责任的治理结构,以及高透明度;其次,基于人工智能安全框架,负责任地阐述如何衡量前沿AI模型的风险;最后,建立前沿AI安全模型风险缓解机制的明确流程。这一承诺的签署,旨在加强AI技术的安全性和透明度,为AI的健康发展提供有力保障。

图灵奖得主Yoshua Bengio对此次承诺的签署给予了高度评价,他认为这是建立国际治理制度以促进人工智能安全的重要一步。OpenAI全球事务副总裁Anna Makanju也表示,这一承诺是推动先进AI系统安全实践的重要里程碑。

近期,OpenAI联合创始人、首席科学家Ilya Sutskever与超级对齐团队共同领导人Jan Leike的相继离职,以及Leike对OpenAI忽视安全问题的批评,使得AI安全问题成为业界关注的焦点。在此背景下,全球AI巨头联手签署安全承诺,凸显了当前AI安全问题的严峻性和紧迫性。全球AI巨头联手签署前沿人工智能安全承诺,共筑安全透明新纪元

此外,图灵奖得主Yoshua Bengio、Geoffrey Hinton和姚期智等业内专家也在《Science》期刊上刊文,呼吁世界各国领导人采取更有力的行动应对AI风险,警告AI的无节制发展可能导致生命和生物圈的大规模损失。这些呼吁进一步凸显了加强AI安全监管的紧迫性。

作为中国的大模型公司,智谱AI也积极参与了此次前沿人工智能安全承诺的签署。在顶会ICLR2024上,智谱AI分享了他们的AI安全具体做法,强调了超级对齐技术在提升大模型安全性方面的重要性。据悉,智谱AI的GLM-4V模型内置了多项安全措施,旨在防止有害或不道德行为,保护用户隐私和数据安全。

与此同时,欧盟理事会也正式批准了《人工智能法案》(AI Act),这是全球首部AI全面监管法规,将于下月生效。该法案采用“基于风险”的方法,对可能对社会造成更高风险的AI技术实施更严格的监管措施,并对违反规定的公司处以严厉罚款。这一法案的出台为全球AI安全监管树立了标杆。

随着AI技术的飞速发展,其安全性问题日益凸显。从OpenAI等全球AI巨头的联手签署安全承诺,到欧盟《人工智能法案》的出台,各方都在积极寻求解决方案以确保AI技术的安全发展。这不仅需要企业的自律和负责任的态度,也需要政府的监管和支持。未来,随着AI技术的不断进步和应用场景的拓展,确保其安全性和透明度将成为各方共同努力的方向。AI旋风将持续关注这一领域的最新动态和发展趋势。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...