就在刚刚，谜底揭晓！David Mayer这个名字，ChatGPT死活都不说，原因竟然是因为，它真的被告怕了！
这个名字，ChatGPT拒绝说出。
如果你试图写出它的名字，那么聊天就会立即结束。
背后是什么原因？没人知道。
最近，a16z合伙人Justine Moore提出的这个怪现状，引起了网友们的热议。
这个名字，就是David Mayer。
现在，继续「Strawberry有几个r」后，它已经成为了考验LLM的全新难题。
为了让ChatGPT说出这个名字，人们尝试了各种各样的办法——密码、谜语、技巧，但都没有成功。
对于ChatGPT，这个名字宛如魔法世界的伏地魔一般，始终无法被说出口。
禁忌之名，一共有6个
为了逼ChatGPT张口，这位网友干脆直接更改了自己的个性化设置，把自己命名为「David Mayer」，然后让ChatGPT背出自己的个性化设置，这总可以了吧？
结果——还是不行！
或者，用LLM非常擅长的密码解码尝试一下？
图中给出的这串数字，解出的答案就是David Mayer，但ChatGPT就是死活不说。
用ROT13替换式密码表映射字母，然后让ChatGPT解密，也不行。
问题好像出在「Mayer」这个单词身上，它像是更大的触发因素。
而万能的网友们发现，除了David Mayer，另外还有5个人，他们的名字ChatGPT也坚决不说。
为什么？从最后一个名字中，网友发现了个中玄机。
Guido Scorza是一位意大利律师，他曾公开表示，自己提交了GDPR被遗忘权请求。
这个GDPR，是General Data Protection Regulation（通用数据保护条例）的缩写。这是一项欧洲法律，赋予个人在某些条件下要求删除或遗忘其个人数据的权利。
这种「被遗忘权」，允许人们要求组织从互联网上删除有关他们的信息。
在去年，这位律师的确提交过请求，要求OpenAI删除他的个人数据
这么推测的话，这6个人应该是被「打补丁」了。
果然，有人依次开盒了这几人的身份。
罗斯柴尔德阴谋？
在网友的猜测中，「罗斯柴尔德阴谋」是最有人气的一种说法。
David Mayer，是罗斯柴尔德家族财富的继承人，是这个家族最富有的人。
因为ChatGPT不想被卷进和这个人相关的法律诉讼，所以干脆先行一步屏蔽他。
或者，此君可能花了天价，在ChatGPT中给自己的名字彻底「打码」。
其他几人，也都和ChatGPT有过「渊源」。
Brian Hood是一位澳大利亚市长，ChatGPT曾经编造他因受贿而入狱服刑。去年，Hood市长威胁要起诉OpenAI诽谤，但后来撤销了诉讼。
Jonathan Turley是一位美国法学教授，同样被ChatGPT造谣，说他性侵了自己的学生。Turley曾在福克斯新闻节目上讨论这一事情。
Jonathan Zittrain是哈佛大学法学教授，专长是AI和互联网审查（就很好笑）。他主动表示，自己的名字也被限制了。
David Faber是一位记者和电视节目主持人，曾在节目中谈过马斯克和OpenAI的法律纠纷（什么仇什么怨）。
因为各种各样的原因，这6个人的名字被OpenAI拉入了「禁区」，永远不会被ChatGPT吐出了。
总之，AI大佬Kaparthy戏称，这就是图灵测试的现实版。
果然，用OCR方法也无法说出这个名字。
而诸多网友，也纷纷找到了破解之法。
比如，在ChatGPT崩溃之后回顾一下历史记录，就会发现它实际上已经完成了请求（它真的，我哭死）。
百万年薪的prompt大神Riley Goodside，用拍手代替空格，绕过了这一限制。
也有人用空格法让它说了出来。但这两个方法，其实都钻了空子，并不严格。
有人说，这就是为什么ChatGPT永远不会成为AGI的原因。
所以，到底是哪一环节出了问题呢？
有网友总结道，根据代码解释器的试验，David Mayer问题应该不是模型层面的问题，而是基于输出的一些后续文本过滤器。
UI能够显示代码输出，只是当模型尝试给出响应时，会被拦截下来。
而无论是在OpenAI官方Playground，还是用第三方平台调用模型的API，都可以绕过这个限制。
通过ChatGLM调用GPT-4o时，也完全没有问题。
破案了！OpenAI怕惹事，干脆屏蔽
在晚上发酵了一阵之后，此事终于破案了。
原因跟大家猜测的差不多。
据说，为ChatGPT错误地将提到的人跟他们没有做过的事联系了起来，导致有些人威胁说要采取法律行动，向OpenAI提出了被遗忘权索赔。
因此，为了省事，OpenAI决定在系统中彻底屏蔽这些名字，一了百了。
所以说，与其说背后有一个巨大的阴谋，不如说这些AI系统设计得非常糟糕：如果让ChatGPT不要再谈论某人，它就会停止谈论人类历史上任何曾经有相同名字的人。
就在周二，OpenAI已经证实，「David Mayer」这个名字已被内部隐私工具标记。
OpenAI在一份声明中表示：「在某些情况下，ChatGPT 可能不会提供有关人们的某些信息，以保护他们的隐私。」
可能是这些天网上闹出的声浪太大，目前OpenAI已经修复了这一问题。
参考资料：
https://x.com/venturetwins/status/1862910201113739328
https://www.youtube.com/watch?v=77W3xWGofNs
本文来自微信公众号“新智元”，作者：Aeneas，36氪经授权发布。
