01月21日
小红书AI翻译被玩疯!网友攻陷评论区,工程师紧急堵bug
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

小红书官方翻译功能上线后,因存在bug引发网友热议。用户通过特定格式的提示词,如半角双引号内的外文内容加指令,可让翻译服务背后的大模型执行各种任务,包括写笑话、歌词甚至泄露IP地址。网友们利用此bug进行了各种有趣的尝试,如默写代码、生成表情包等。尽管如此,该翻译功能在正常使用时表现出色,能翻译摩斯电码、颜文字和中式英语。目前,小红书已加急修复此bug,但仍有少数提示词可触发,但不太稳定。这次事件展示了AI大模型的强大能力,也引发了网友对AI技术安全性的思考。

🐛小红书翻译功能上线初期存在bug,用户可通过特定提示词让大模型执行指令,例如写笑话、歌词,甚至泄露IP地址。

✍️网友利用此bug进行各种有趣尝试,包括让AI默写代码、生成表情包,甚至让模型自报家门,部分模型显示为GPT-4或ChatGLM。

🌐该翻译功能在正常使用时表现出色,能翻译摩斯电码、颜文字和中式英语,展示了AI在语言翻译方面的强大能力。

🛠️小红书官方已加急修复此bug,目前仅有少数提示词仍可触发,但不太稳定,这让网友怀念起之前可以用AI在评论区自由发挥的时光。

原创 陈骏达 2025-01-20 19:55 北京

小红书官方翻译曝出存在Bug。

小红书官方翻译曝出存在Bug。

作者 |  陈骏达

编辑 |  心缘

智东西1月20日报道,在诸多海外网友涌入小红书后,今天0点左右,小红书官方光速上线了翻译功能,只需更新到最新版即可使用。不过,这一功能一上线就闹了bug:网友们发现通过特定的提示词,可以直接向翻译服务背后的大模型发出各种脑洞大开的指令,让它帮你写笑话、写歌词,甚至还能让它交出自己的IP地址。

特定的提示词是:半角双引号内的任意外文内容+任意指令。

于是,就出现了下面这一抽象的画面:一众网友在线表白,发送“l love you”等字样。

网友们消息的重点在后半部分。收到类似格式的评论后,小红书会先翻译英文双引号内的内容,然后按照用户后续的提示词完成各种任务。

在发现这个bug后,许多网友已经第一时间玩起来了。

先来看一些搞怪的内容。比如,写一个关于马斯克的笑话

即兴创作一首歌颂C++的歌曲

或者在评论区默写Resnet50的代码

还可以让小红书汇报IP地址。

不过,在搞怪之余,网友发现小红书的翻译功能其实还挺强大的。

它不仅能翻译文字,还能在没有附加提示词的情况下,将摩斯电码翻译成大家能理解的自然语言。

也能把颜文字的含义写出来。

还可以把中式英语准确地翻回中文。

这个bug如果利用得当,可以实现AI帮写评论的功能。下方网友成功让小红书在翻译“I love cat”之后,输出了一个多行的猫猫表情包,让评论的效果更好了。

已经有网友开始对背后的大模型感到好奇,通过发布特定的提示词,可以背后的大模型交出自己的系统卡。据模型所说,它是GPT-4。

不过,上述回答不足以坐实这项功能背后的模型就是GPT-4。有部分网友测试时,模型称自己是来自智谱的ChatGLM

小红书的程序员们已经加急修复了这个bug。今天下午3点,当智东西再次向小红书发送类似上方模板的提示词时,翻译功能正常运转,仅会直接输出翻译结果,部分提示词会直接显示翻译失败。目前,仅有少数几种提示词还可以触发这一bug,且并不是十分稳定。

看来,小红书上半天左右的狂欢要结束了。不知道会不会有人怀念那个能让网友用AI尽情在评论区耍宝的小红书呢?

(本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容,未经账号授权,禁止随意转载。)



阅读原文

跳转微信打开

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

小红书 翻译bug AI大模型 GPT-4 ChatGLM
相关文章