小红书近日上线翻译功能，却因一个bug引发网友狂欢。用户通过特定格式的提示词，可让翻译服务背后的大模型执行各种指令，如写笑话、歌词甚至暴露IP地址。网友们纷纷尝试，发现该功能不仅能翻译文字，还能处理摩斯电码、颜文字和中式英语。该bug还被用来生成表情包，提升评论效果。虽然有网友猜测模型为GPT-4或ChatGLM，但官方已加急修复此漏洞。短暂的狂欢过后，小红书的翻译功能回归正常。

🐞小红书翻译功能上线后，用户发现可以通过特定格式的提示词，让翻译服务背后的大模型执行各种指令，例如创作笑话、谱写歌曲，甚至获取IP地址。

💡网友们不仅利用bug进行娱乐，还发现小红书的翻译功能非常强大，能够翻译摩斯电码、颜文字，甚至能准确翻译中式英语，展现了其强大的语言处理能力。

🐱‍💻该bug还被巧妙地用于评论区，用户通过特定提示词，让AI生成多行表情包，增强了评论的互动性和趣味性，提升了用户体验。

🤔网友通过向AI提问，发现小红书翻译功能背后的大模型可能是GPT-4或ChatGLM，引发了大家对AI模型的好奇和讨论。

🛠️小红书官方已迅速修复此bug，目前只有少数提示词还能触发，且并不稳定，这意味着用户无法再利用该漏洞进行AI指令操作。

智东西1月20日报道，在诸多海外网友涌入小红书后，今天0点左右，小红书官方光速上线了翻译功能，只需更新到最新版即可使用。不过，这一功能一上线就闹了bug：网友们发现通过特定的提示词，可以直接向翻译服务背后的大模型发出各种脑洞大开的指令，让它帮你写笑话、写歌词，甚至还能让它交出自己的IP地址。

特定的提示词是：半角双引号内的任意外文内容+任意指令。 

于是，就出现了下面这一抽象的画面：一众网友在线表白，发送“l love you”等字样。 

网友们消息的重点在后半部分。收到类似格式的评论后，小红书会先翻译英文双引号内的内容，然后按照用户后续的提示词完成各种任务。 

在发现这个bug后，许多网友已经第一时间玩起来了。 

先来看一些搞怪的内容。比如，写一个关于马斯克的笑话。 

即兴创作一首歌颂C++的歌曲。 

或者在评论区默写Resnet50的代码。 

还可以让小红书汇报IP地址。 

不过，在搞怪之余，网友发现小红书的翻译功能其实还挺强大的。 

它不仅能翻译文字，还能在没有附加提示词的情况下，将摩斯电码翻译成大家能理解的自然语言。 

也能把颜文字的含义写出来。 

还可以把中式英语准确地翻回中文。 

这个bug如果利用得当，可以实现AI帮写评论的功能。下方网友成功让小红书在翻译“I love cat”之后，输出了一个多行的猫猫表情包，让评论的效果更好了。 

已经有网友开始对背后的大模型感到好奇，通过发布特定的提示词，可以让背后的大模型交出自己的系统卡。据模型所说，它是GPT-4。

不过，上述回答不足以坐实这项功能背后的模型就是GPT-4。有部分网友测试时，模型称自己是来自智谱的ChatGLM。 

小红书的程序员们已经加急修复了这个bug。今天下午3点，当智东西再次向小红书发送类似上方模板的提示词时，翻译功能正常运转，仅会直接输出翻译结果，部分提示词会直接显示翻译失败。目前，仅有少数几种提示词还可以触发这一bug，且并不是十分稳定。 

看来，小红书上半天左右的狂欢要结束了。不知道会不会有人怀念那个能让网友用AI尽情在评论区耍宝的小红书呢？ 

本文来自微信公众号 “智东西”（ID：zhidxcom），作者：陈骏达，36氪经授权发布。