ElevenLabs创始人呼吁通过加水印应对音频Deepfakes挑战

AI每日新闻2个月前发布 shen
85 0
AI旋风聊天

随着AI语音技术的迅猛发展,如何在确保技术创新的同时规范Deepfakes成为行业关注的焦点。ElevenLabs的联合创始人兼CEO Mati Staniszewski近日在接受《大西洋月刊》采访时,提出了通过给合成声音添加数字水印来应对音频Deepfakes的设想,他强调这将是一场技术与欺诈之间的“猫鼠游戏”。

ElevenLabs自去年推出测试版以来,凭借其在AI生成逼真音频剪辑方面的技术实力,一跃成为价值亿美元的公司。该公司提供的服务包括文本转语音配音、29种语言的配音以及声音克隆等,用户在过去一年内已经生成了超过100年的音频内容。然而,随着技术的广泛应用,立法者和公众对这项技术可能带来的滥用风险表示担忧。

AI的进步与电话诈骗的增加有着密切关系,诈骗者利用声音克隆技术冒充他人进行欺诈活动,给社会带来了严重的安全隐患。拜登政府的人工智能主管布鲁斯·里德甚至表示,“声音克隆”是他夜不能寐的问题之一。去年,有4chan用户利用ElevenLabs的工具生成了名人Deepfakes视频,内容充斥着种族主义和跨性别歧视,引发了广泛的社会关注。ElevenLabs创始人呼吁通过加水印应对音频Deepfakes挑战

然而,Staniszewski对ElevenLabs的技术持乐观态度。他认为,这项技术不仅可以促进患有神经退行性疾病如肌萎缩侧索硬化症(ALS)的患者在失去说话能力后依然能够用自己的声音交流,还有助于跨越文化和语言障碍进行沟通。纽约市市长埃里克·亚当斯就曾利用ElevenLabs的技术,用普通话、意第绪语和海地克里奥尔语拨打电话,与更多非英语母语的市民建立联系。

为了充分发挥这一潜力并防止欺诈行为的发生,Staniszewski提出了对AI合成声音进行数字水印处理的设想。他认为,这是“真正的解决方案”,通过给合成声音添加特定的数字标记,人们可以轻松地识别出真假声音。这一技术不仅可以保护用户的隐私和安全,还可以为执法机构提供有力的证据来打击欺诈行为。

Staniszewski强调,这项技术的实现需要行业内外的广泛合作。ElevenLabs已经与包括AI、Anthropic、Google和Meta在内的多家人工智能公司签署了一项协议,共同打击2024年选举中的Deepfakes。他呼吁更多的公司和组织加入到这一行列中来,共同维护一个安全、可信的AI环境。

AI旋风认为,Staniszewski的设想为应对音频Deepfakes挑战提供了新的思路。通过给合成声音添加数字水印,不仅可以提高人们识别真假声音的能力,还可以为打击欺诈行为提供有力的技术支持。然而,这一技术的实现需要行业内外的广泛合作和共同努力。我们期待看到更多的公司和组织加入到这一行列中来,共同为AI技术的发展和应用贡献智慧和力量。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...