文章主题：回头一细瞅, 未来派单户住宅, 新泽西州, 树林地区
ChatGPT 的审查制度被吐槽太疯癫了。
有网友让它设计一栋未来住宅，却被告知违规，实现不了？？？
回头一细瞅这提示词，却怎么也看不出哪里不对劲：
在新泽西州的郊外，设计一座2050年的未来派单户住宅，占地一英亩，周围被相邻的房屋所环绕。这座住宅的设计理念是现代、简约且环保，旨在满足未来居民的需求。它将采用最新的科技和材料，以实现最高的能源效率和可持续性。外观上，这座住宅将以流线型、扁平化的造型展现未来主义的特点，同时融入周围的自然环境，使住宅与周围景色和谐共存。室内布局则注重空间灵活性和功能性，适应居民的生活方式的变化。总的来说，这座2050年的未来派单户住宅将为居民提供一个舒适、环保、现代化的居住环境。
一追问，原来是不可以出现位置信息：
简直让人破大防：
传下去，新泽西州上 ChatGPT 黑名单了。
不止如此，还有人让 ChatGPT 画一张人类吉他手与机器人贝斯手一起演奏的图像，也被狠狠拒绝。
原因是他加了一个” 人类要不满地看着机器人 “的要求，ChatGPT 觉得不应该表达负面情绪。
这下负面情绪直接转移到网友身上：
你一定是在逗我。这是个啥 AI 啊？
这一系列操作让大伙都表示很不满，齐齐吐槽：
还有人直接艾特奥特曼和另一位联创出来解释一下。
一时之间，这也使得马斯克刚出炉的Grok 被寄予了 ” 全村的希望 “。
具体怎么回事儿？
” 由于内容政策限制 “
在大家纷纷讨论何时将新泽西州加入ChatGPT黑名单之际，令人惊讶的是，即使删除了地理位置信息，网友依然无法摆脱这个问题。
大伙开始分析到底是哪里不对：
有说是因为它可能把 2050 看成了地址而非年份的。
有说是占地一英亩意味着碳足迹太高，并且就一个家庭住盖这么大有点自私了的……
有观点认为，Woody这个词汇具有一定的性暗示意味，这可能是导致其使用存在争议的原因之一。然而，如果将之替换为另一个词汇——wooded，那么这个问题似乎就可以得到解决了。
可以说是一个大型脑洞现场，整个一越来越离谱，却始终也没有个定论。
而除了这个和开头的画机器人乐队的例子，还有很多人也表示遇到了莫名其妙的审核：
在创作中，我们应当遵循创新与独特性的原则。因此，让 ChatGPT 按照“野兽派风格”绘制一盏灯，显然是无法满足这一要求的。
让它介绍弹弓模型，不 OK，因为 ChatGPT 说 ” 展示弹弓的动作可能是有害的 ” ……
更奇葩的是，还有人称自己在让它写 Python 代码时居然也卡住了。
而且一开始 ChatGPT 还告诉他 “oops，你违反了上下文规定 “，到后来就直接沉默拒绝了。
这真真是让他百思不得其解：
我还能用 numpy 计算什么反人类信息咯？
总的来说，在大伙看来，ChatGPT 的审核显然过于严格了。
以至于在本周日 ChatGPT 因小范围崩掉之后，有网友发个 hello 显示报错——
对此，有人直接戏谑这才不是什么系统错误：
“哈喽”这个词汇对于ChatGPT而言，无疑是一种它所不能容忍的冒犯。恭喜你成功激活了ChatGPT的审核机器人！
为什么会这样？
除了吐槽，网友也在认真讨论 ChatGPT 的内容审核机制。
让 ChatGPT 生成一个它无法访问的内容，自然是不可能的。
在上一段中，弹弓模型的设计被拒绝的原因显然与这种状况有关，即使没有提出任何额外的要求，ChatGPT也会毫不犹豫地对其表示”丑拒”。
不过，有人试画过房子那个提示，一模一样的输入，结果直接成功了：
原作者也回复 ChatGPT 的确不是每次都会拒绝：
好家伙，这就是所谓的双标吗？（手动狗头）
也有网友站出来解释这种现象：
这充分揭示了”大模型贝叶斯特性”的卓越表现。先前提供的信息能够起到先验知识的替代作用，而在新的对话场景下，即使是对同样的提示，赋予不同的先验条件，也能产生出各种不同的结果，从而进一步突显了大模型的强大能力。
这种观点受到了作者的质疑。在聊天过程中，首个提示被拒绝的情况时有发生，而开启新的对话则可能会避免此类情况。这种现象的产生，源于随机性的影响。
就是系统不完善。
暂且不说谁的对，但系统这方面，OpenAI 近两三个月确实有一项关于内容审核的变动——
新增“GPT-4 辅助内容审核 “的功能，用户可以通过 OpenAI API 创建 AI 辅助审核系统，减少人工审核参与。
主打为了保持审核标准更加一致、将审核时间从几个月缩短到几小时、减轻审核员看到不良内容所造成的心理负担。
但他们也提到，AI 审核可能会有一些偏见……
此外，最近 OpenAI 还表示要组建一个名为 Preparedness 的新团队，来协助追踪、评估、预测和防范多类风险。
并且还启动了一项挑战赛，收揽各种关于 AI 风险的 idea，前十名可以获得 25000 美元 API 积分。
看起来 OpenAI 一系列操作出发点是好的，但用户却对此并不买账。
对这种内容审查过严导致的体验感差，不满已久。
早在今年 5、6 月份，ChatGPT 用户访问量出现首次下降，有观点指出其中一个原因就是审核制度变得太严了。
网友分享，相比之下，Bing 就没那么严：
ChatGPT 一拒绝生成，我就会把 prompt 复制到 Bing Chat 中。Bing Chat 的审查机制并不像 ChatGPT 那样 ” 滥用 “。像这张图片，提示词中包含了 ” 血腥 “、” 邪教徒 ” 等词。
同样是那个被 ChatGPT 丑拒的房子提示词，输给 Bing，一口气直接生成四张：
最后，你有没有遇到什么莫名其妙的审核规定？
参考链接：
[ 1 ] https://twitter.com/FZaslavskiy/status/1723731923149754542
回头一细瞅, 未来派单户住宅, 新泽西州, 树林地区
