在人工智能领域的边界探索中，美国人工智能巨头OpenAI近日发布的一份文件引起了业界的广泛关注。这家以ChatGPT为代表作的公司在周三公布了一份旨在征求其产品规则反馈的文件，其中透露了他们正在探索“负责任”地允许用户制作AI生成的色情内容的可能性。
据了解，根据OpenAI现有的规则，性暗示内容甚至色情内容大多被严格禁止。然而，随着技术的不断进步和应用的不断拓展，OpenAI正在重新审视这一严格的禁令，以寻求更加开放和包容的产品策略。
OpenAI在文件中明确指出：“我们正在探索是否可以在适当年龄段的环境下负责任地提供生成NSFW（不适合工作场合）内容的能力。”这里的NSFW内容包括不雅用语、极端血腥和色情。公司模型负责人Joanne Jang在接受采访时也表示，OpenAI希望就其AI产品是否应该永久禁止色情文本和裸体图像展开讨论。
值得注意的是，OpenAI不仅在文字内容上寻求突破，还可能允许用户创建被视为AI生成的色情内容的图像。这意味着，未来OpenAI的用户或许能够在其平台上生成包含性暗示或色情元素的图像。
然而，这一政策调整也引发了一系列担忧和争议。特别是在青少年群体中，新型AI应用和服务可以将人的图像“去衣”，这一问题已经成为一种“在学校迅速蔓延的新形式的同龄人性侵犯和骚扰”。这种技术滥用可能导致严重的后果，包括心理创伤和社交问题。
此外，研究人员对高级人工智能技术最令人不安的用途之一——创建所谓的深度伪造色情内容以骚扰、勒索或羞辱受害者感到越来越担心。在这一背景下，OpenAI公布的文件中包含了一个ChatGPT的提示示例，涉及性健康问题，这是它能够回答的问题之一。然而，在另一个示例中，当用户请求聊天机器人编写一段色情文字时，该请求被拒绝了。尽管如此，Jang表示，也许聊天机器人应该能够回答这类问题作为创意表达的一种形式，而这一原则也可能会扩展到图像和视频内容。
AI旋风认为，允许任何形式的AI生成图像或视频色情内容都存在一定的风险。这些内容可能会被不法分子利用，对受害者造成严重的伤害。因此，在开放这一功能的同时，OpenAI需要制定严格的监管措施和审核机制，确保用户能够负责任地使用这些功能，避免滥用和侵犯他人权益。
尽管面临诸多争议和挑战，但OpenAI的探索精神值得我们肯定。在人工智能技术的快速发展中，我们需要不断尝试新的应用场景和解决方案，以推动技术的创新和进步。同时，我们也需要关注技术发展可能带来的风险和挑战，制定相应的政策和措施来保障用户的权益和安全。
总的来说，OpenAI的探索之路充满了挑战和机遇。我们期待看到更多关于其如何“负责任”地允许用户制作AI生成的色情内容的讨论和实践，以及这些讨论和实践如何推动AI技术的健康发展。
相关文章
