近日，在备受瞩目的“人工智能首尔峰会”（AI Seoul Summit）上，OpenAI、谷歌、微软、智谱AI等全球16家领先的科技公司共同签署了前沿人工智能安全承诺（Frontier AI Safety Commitments），此举标志着人工智能（AI）开发领域在安全与透明度方面迈出了重要一步。
此次签署的前沿人工智能安全承诺明确提出了三大要点：首先，确保前沿AI技术的安全和负责任的治理结构，以及高透明度；其次，基于人工智能安全框架，负责任地阐述如何衡量前沿AI模型的风险；最后，建立前沿AI安全模型风险缓解机制的明确流程。这一承诺的签署，旨在加强AI技术的安全性和透明度，为AI的健康发展提供有力保障。
图灵奖得主Yoshua Bengio对此次承诺的签署给予了高度评价，他认为这是建立国际治理制度以促进人工智能安全的重要一步。OpenAI全球事务副总裁Anna Makanju也表示，这一承诺是推动先进AI系统安全实践的重要里程碑。
近期，OpenAI联合创始人、首席科学家Ilya Sutskever与超级对齐团队共同领导人Jan Leike的相继离职，以及Leike对OpenAI忽视安全问题的批评，使得AI安全问题成为业界关注的焦点。在此背景下，全球AI巨头联手签署安全承诺，凸显了当前AI安全问题的严峻性和紧迫性。
此外，图灵奖得主Yoshua Bengio、Geoffrey Hinton和姚期智等业内专家也在《Science》期刊上刊文，呼吁世界各国领导人采取更有力的行动应对AI风险，警告AI的无节制发展可能导致生命和生物圈的大规模损失。这些呼吁进一步凸显了加强AI安全监管的紧迫性。
作为中国的大模型公司，智谱AI也积极参与了此次前沿人工智能安全承诺的签署。在顶会ICLR2024上，智谱AI分享了他们的AI安全具体做法，强调了超级对齐技术在提升大模型安全性方面的重要性。据悉，智谱AI的GLM-4V模型内置了多项安全措施，旨在防止有害或不道德行为，保护用户隐私和数据安全。
与此同时，欧盟理事会也正式批准了《人工智能法案》（AI Act），这是全球首部AI全面监管法规，将于下月生效。该法案采用“基于风险”的方法，对可能对社会造成更高风险的AI技术实施更严格的监管措施，并对违反规定的公司处以严厉罚款。这一法案的出台为全球AI安全监管树立了标杆。
随着AI技术的飞速发展，其安全性问题日益凸显。从OpenAI等全球AI巨头的联手签署安全承诺，到欧盟《人工智能法案》的出台，各方都在积极寻求解决方案以确保AI技术的安全发展。这不仅需要企业的自律和负责任的态度，也需要政府的监管和支持。未来，随着AI技术的不断进步和应用场景的拓展，确保其安全性和透明度将成为各方共同努力的方向。AI旋风将持续关注这一领域的最新动态和发展趋势。
相关文章
