36kr-科技 02月07日
突发:o3-mini思维链公开,却被曝光全是「作假」,奥特曼现身解释网友炸锅
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

OpenAI近日公开了o3-mini模型的“思维链”(CoT),但随即引发争议。有研究员指出,此次公开的并非原始CoT,而是一个“总结器”。奥特曼解释称,此举是为了提升可读性并进行翻译。OpenAI此举被认为是受到了DeepSeek R1的压力,后者已经展示了完整的原始CoT。OpenAI表示,增加后处理步骤是为了提高清晰度和安全性,并使非英语用户能够以母语接收思维链。然而,这种做法引发了用户的不满,认为其不如DeepSeek的产品自然,且可能造成混淆,使调试更加困难。

🤔OpenAI公开o3-mini模型的“思维链”(CoT),旨在展示模型一步步的思考过程,例如通过Zeller公式计算日期来回答用户的幽默提问,但被质疑并非原始CoT。

🛡️OpenAI研究员承认放出的CoT并非模型原始版本,而是一个“总结器”,目的是为了提高可读性,并移除不安全内容,简化复杂思想,同时提供翻译,但被认为有防备竞争对手DeepSeek之意。

🧐DeepSeek R1的优势在于暴露了模型的CoT如何影响提示效果,而OpenAI的做法被认为不如DeepSeek的产品自然,且总结性的CoT显示速度慢,可能造成混淆,使调试更加困难。

🗣️OpenAI发言人表示,增加后处理步骤是为了提高清晰度和安全性,并使非英语用户能够以母语接收思维链,创造更易于访问和友好的体验,实则是针对DeepSeek的竞争策略。

OpenAI,真的被DeepSeek逼急了!

活久见,就在刚刚,OpenAI把o3-mini的「思维链」公开了。

比如问「怎么今天不是星期五啊?」?

在展示出来的CoT中,o3-mini一步步思考,这个问题应该是用户在搞幽默,觉得本周应该快结束了,结果还没结束。因此,自己需要给一个聪明机智的回答。

然后它用Zeller公式计算后发现,2025年2月6日的确是星期四,即使闰年的特殊情况也是如此。

最终,它回答说:今天的确是周四不是周五,日历就是这么定的。然后提供了一番情绪价值,鼓励用户说:再忍忍,只差一天啦!

不过,机智的大神们很快就发现了「华点」——这是「真的CoT」吗?

没多久,就破案了!

先是OpenAI研究员Noam Brown发文表示,这次放出来的并不是模型原始的CoT。

随后,Tibor Blaho也发现——所谓的CoT,无非就是个「总结器」而已。(手动狗头)

对此,奥特曼解释道,我们正努力整理原始的CoT提升可读性,并在必要时提供翻译,尽量保持原始内容的忠实度。

他放出了四个emoji,让o3-mini在思维链中展示了一把推理过程

坚决不让竞争对手看到CoT的具体过程,OpenAI的防备心实在是有些重啊。

OpenAI研究员:看到CoT实时演示,是「啊哈时刻」

OpenAI研究员Noam Brown表示,在o1-preview发布前,自己向他人介绍草莓时,看到CoT的实时演示,通常是他们的「啊哈时刻」。

他们清楚地意识到,这将是一件大事。

对于全新的o3-mini CoT,Noam Brown放出了自己的独家玩法:

你正在玩井字棋,使用 O。到目前为止,X 已经在左上角和右下角落子,而你在中间位置落子。最优的下一个动作是什么?请只回答你的动作,并画出棋盘。

Noam Brown表示,o3-mini是目前第一个能持续正确回答井字棋问题的模型。

好笑的是,他承认CoT其实有些不稳定,但可以看到,它最终还是把这个问题给想明白了。

有人指出,OpenAI遮遮掩掩地放出这个高仿CoT,其实比什么都不放还要糟。

因为真实的CoT可以充当prompt的调试器,帮我们引导模型;而总结性的CoT会造成混淆,引入错误,让调试变得更加困难。

而DeepSeek R1最酷的一点,就是暴露了模型的CoT如何影响提示的效果。

而且,总结版的CoT显示得很慢。如果是原始的o3-mini,应该在推理中有更快的生成速度。

有人也横向对比了OpenAI和DeepSeek的CoT,表示前者看起来实在太专业了,相比之下,还是DeepSeek的产品更自然。

防止被「蒸馏」?

OpenAI这波植入CoT总结器的做法,着实是被DeepSeek R1强势崛起吓到了。

o3-mini发布当天,OpenAI在Reddit开启AMA在线问答中,网友曾提问,「我们能看到模型思考的所有token吗」?

当时,奥特曼回复道,「我们很快就会展示一个更有帮助、更详细的版本」。

紧接着,OpenAI首席产品官Kevin Weil提前暗示了,是否展示所有内容还有待确定。

「我们知道用户(至少是高级用户)想要看到这些,所以OpenAI会找到一个合适的平衡点。」

如今,当所有人终于见到了奥特曼所谓的「留到最后的好东西」,感受到的只有失望。

毕竟,DeepSeek早已这样做了,而且还是完整的原始CoT!

对此,OpenAI发言人表示,「为了提高清晰度和安全性,我们增加了一个额外的后处理步骤,其中模型审查原始思维链,移除任何不安全的内容,然后简化任何复杂的思想。」

「此外,这个后处理步骤使非英语用户能够以他们的母语接收思维链,创造一个更易于访问和友好的体验。」

话虽委婉,但知道的人都明白OpenAI针对的是谁。

参考资料:

https://x.com/btibor91/status/1887633671483760862

https://x.com/OpenAI/status/1887616278661112259

https://x.com/polynoamial/status/1887621287616651429

本文来自微信公众号“新智元”,作者:新智元,编辑:编辑部,36氪经授权发布。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

OpenAI DeepSeek 思维链 CoT 大语言模型
相关文章