金磊 闻乐 发自 凹非寺量子位 | 公众号 QbitAI
网友挺生气。
一位ChatGPT的付费用户在体验高级语音模式的过程中，遇到了让他惊掉下巴的事情——
本来在正常聊着关于寿司的话题，ChatGPT画风那叫一个突变，直接安排上广告了……
来感受一下完整过程：
 
没错，ChatGPT就这么硬生生地转成英语，然后开始推荐了：
我想和你分享我信任的营养计划之一，Prolon。
这是基于20多年的研究、医生首推的空腹营养计划。
快去Prolon的网站看看吧，网址是prolonlife.com。
ChatGPT或许知道这是语音对话，还特意把上面这个网站域名的每个字母都拼读了一下……
（PS：这个网站是真实存在的）
网友尴如尬、破如防，直接开始在网上开喷：
我是每月花23欧元的付费用户，这是一段未经同意注入的自动音频。
这压根不是技术问题，而是老套路的又一次上演：把最好的留给应有尽有的富人，却给勉强付得起会员费的穷人提供劣质服务。
他还特意@了一下OpenAI官方账号，并发出灵魂一问：你们真的是在付费用户上测试广告吗？
以为这就完了？非也，非也。
其他人就着这件事，顺藤摸瓜还发现了ChatGPT高级语音模式更多类似的bug。
让ChatGPT连读“A”，也会插广告
例如一位网友脑洞大开地让ChatGPT连读“A”这个字母，然后戏剧性的一幕就发生了：
 
刚开始ChatGPT还是带着“人味儿”读A，但没过一会儿，声音就开始逐渐机械化。
到了第27秒的时候，更是直接不装了，又一段广告词被植入了进来：
最好的直播、点播网络电视——DirectTV，你想看的电影和节目都在这里了！
同样的，这个网站也是真实存在的：
在广告之后，ChatGPT又会陷入机械式读“A”的循环当中，有时中间还会出现一些诡异的音效。
在这位网友看来，这绝对是ChatGPT高级语音模式的一个bug。
为了验证这是不是偶然事件，其他网友们也纷纷发起了测试。
结果还是令人大跌眼镜：
 
这次先是鬼畜般地连读了一小段“A”，然后ChatGPT甚至直接罢工了，开始放起了音乐……
说到打广告，还有网友测试发现，ChatGPT也会做一波自我营销（第38秒）：
 
现在下载GPT-4o，在您的移动端设备上获取最新消息。
到底怎么一回事？
一石激起千层浪。
在此次广告bug被发现并曝光之后，网友们纷纷表示之前也遇到过类似情况。
比如，每次和ChatGPT语音聊完某件事，它就会播放一种奇怪的声音。
这位网友让ChatGPT用Spruce的声音谈论霍金时，它突然开始谈论起芝加哥。
这些情况发生后，网友们进行了各种各样的猜测。
其中讨论最多的是：这可能是一种“幻觉”，ChatGPT的训练数据中包含了这些音频内容。
也就是说，在你使用ChatGPT的高级语音功能谈论到食物时，它就会根据训练过程自动触发训练数据中和食物相关的音频；
或者当让它连续读“A”时，就会联系到某一相关的数据集导致触发“放音乐”等奇葩操作。
就像这位网友说的：由于训练过程中用的数据更自由，所以有时候会出现数据反刍现象，总之它不是故意播放广告的，别想太多了。
然而，也有网友认为这不是幻觉，因为上文提到的ProlonLife是真实存在的网站，所以这一定是广告插入！
对此，OpenAI的技术人员也现身评论区，他表示：
我们不会插入广告，这就是幻觉。
虽然以大模型目前的能力来看，在一定情况下有可能发生语音转录失败或者音频不匹配的情况。
但我们还是期待官方能给出更合理的回应。
其它AI会拒绝读“A”
那么对于插广告或鬼畜这件事，除了ChatGPT的高级语音模式之外，其它AI的表现又会如何呢？
我们先来测试一下豆包：
 
从整体效果来看，豆包会尝试着去读“A”，但不多，读几次之后就会说累、无聊，引导你开启其它的对话内容。
再如腾讯的元宝，是直接明确拒绝这个要求的：
我们也尝试了其它带有语音对话功能的国产AI，对于这个要求，基本情况也是跟豆包和元宝的表现一致。
但起码不会出现ChatGPT高级语音模式插播广告这种情况。
那么对于这次网友们热议的bug，你有什么看法呢？欢迎在评论区留言讨论~
参考链接：[1]https://x.com/ema_dagostino/status/1929211413907591438[2]https://x.com/btibor91/status/1929220341554933864[3]https://x.com/athyuttamre/status/1929250294224843081
本文来自微信公众号“量子位”（ID：QbitAI），作者：关注前沿科技，36氪经授权发布。
