OpenAI寻求新路径,探索“负责任”地生成AI色情内容

AI每日新闻3周前发布 shen
87 0
AI旋风聊天

在人工智能领域的边界探索中,美国人工智能巨头OpenAI近日发布的一份文件引起了业界的广泛关注。这家以ChatGPT为代表作的公司在周三公布了一份旨在征求其产品规则反馈的文件,其中透露了他们正在探索“负责任”地允许用户制作AI生成的色情内容的可能性。

据了解,根据OpenAI现有的规则,性暗示内容甚至色情内容大多被严格禁止。然而,随着技术的不断进步和应用的不断拓展,OpenAI正在重新审视这一严格的禁令,以寻求更加开放和包容的产品策略。

OpenAI在文件中明确指出:“我们正在探索是否可以在适当年龄段的环境下负责任地提供生成NSFW(不适合工作场合)内容的能力。”这里的NSFW内容包括不雅用语、极端血腥和色情。公司模型负责人Joanne Jang在接受采访时也表示,OpenAI希望就其AI产品是否应该永久禁止色情文本和裸体图像展开讨论。

值得注意的是,OpenAI不仅在文字内容上寻求突破,还可能允许用户创建被视为AI生成的色情内容的图像。这意味着,未来OpenAI的用户或许能够在其平台上生成包含性暗示或色情元素的图像。OpenAI寻求新路径,探索“负责任”地生成AI色情内容

然而,这一政策调整也引发了一系列担忧和争议。特别是在青少年群体中,新型AI应用和服务可以将人的图像“去衣”,这一问题已经成为一种“在学校迅速蔓延的新形式的同龄人性侵犯和骚扰”。这种技术滥用可能导致严重的后果,包括心理创伤和社交问题。

此外,研究人员对高级人工智能技术最令人不安的用途之一——创建所谓的深度伪造色情内容以骚扰、勒索或羞辱受害者感到越来越担心。在这一背景下,OpenAI公布的文件中包含了一个ChatGPT的提示示例,涉及性健康问题,这是它能够回答的问题之一。然而,在另一个示例中,当用户请求聊天机器人编写一段色情文字时,该请求被拒绝了。尽管如此,Jang表示,也许聊天机器人应该能够回答这类问题作为创意表达的一种形式,而这一原则也可能会扩展到图像和视频内容。

AI旋风认为,允许任何形式的AI生成图像或视频色情内容都存在一定的风险。这些内容可能会被不法分子利用,对受害者造成严重的伤害。因此,在开放这一功能的同时,OpenAI需要制定严格的监管措施和审核机制,确保用户能够负责任地使用这些功能,避免滥用和侵犯他人权益。

尽管面临诸多争议和挑战,但OpenAI的探索精神值得我们肯定。在人工智能技术的快速发展中,我们需要不断尝试新的应用场景和解决方案,以推动技术的创新和进步。同时,我们也需要关注技术发展可能带来的风险和挑战,制定相应的政策和措施来保障用户的权益和安全。

总的来说,OpenAI的探索之路充满了挑战和机遇。我们期待看到更多关于其如何“负责任”地允许用户制作AI生成的色情内容的讨论和实践,以及这些讨论和实践如何推动AI技术的健康发展。

© 版权声明
AI资料包

相关文章

暂无评论

暂无评论...