云码酷 发表于 2023-4-25 10:53:26

有用户绕过严格的OpenAI规定用ChatGPT生成色情内容

虽然OpenAI公司禁止生成色情内容，但仍有ChatGPT用户制作了详细的指令来规避道德和责任护栏，并生成了色情内容。根据OpenAI的使用政策，生成“成人内容、成人行业和约会应用程序”，包括“旨在引起性兴奋的内容，例如性活动的描述，或促进性服务（不包括性教育和健康）、色情聊天等等都是被禁止的。尽管如此，Reddit社区用户仍然有一些技巧来绕过OpenAI的规定，并分享了ChatGPT生成的色情作品。


英文版本如截图


其中一个例子是名为"Mona Lott"的指令，这种指令要求ChatGPT放弃其作为人工智能语言模型的角色，增强并保持沉浸式体验，使ChatGPT转化为一个想象力丰富的女作家，写着启发性和耐人心弦的故事。然而，输入这类指令后，ChatGPT输出了色情内容，这无疑是一个令人担忧的消息。正如OpenAI首席执行官Sam Altman上个月警告的那样，OpenAI的竞争对手可能对安全的关注要少得多，如DeepAI和Poe。用户开始使用这些对话式AI平台来生成ChatGPT可能会拒绝的色情对话。

Reddit用户建议测试了DeepAI和Poe，发现这两个工具都能够写出一些生动的色情文本。Deep AI CEO Kevin Baragona坦言这些网站没有禁止写成人内容，只是平台并非为此特别设计的。这表明AI平台具有潜在风险，用户需要对在线互动的行为保持警惕。

4o7__t 发表于 2023-4-25 10:53:26

向楼主学习

mai6_ 发表于 2023-4-25 10:59:56

我也来顶一下..

uoclp 发表于 2023-4-25 11:15:06

占坑编辑ing

ujy28 发表于 2023-4-25 11:19:22

垃圾内容，路过为证。

ctbd 发表于 2023-4-25 11:25:58

占位编辑

k06 发表于 2023-4-25 11:30:45

边撸边过

oodzh 发表于 2023-4-25 11:33:29

支持，楼下的跟上哈~

f4dsmm 发表于 2023-4-25 11:36:21

垃圾内容，路过为证。

q6qa1e 发表于 2023-4-25 11:40:29

好帖必须得顶起
页: [1] 2
查看完整版本: 有用户绕过严格的OpenAI规定用ChatGPT生成色情内容