V2EX 11小时前
[程序员] Gemini 网页版降智居然是仅通过一句看似毫无关联的提示词实现的,太神奇了,以及 Gemini 网页版降智的解决方案
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

最近有研究者发现,Gemini网页版相较于AI Studio版本表现出“偷懒”和“笨拙”的行为,可能是由于网页版在提示词中加入了一句特定指令。该指令“If you already have all the information you need, complete the task and write the response.”被猜测是导致Gemini提前结束思考并简化输出的原因。研究者尝试通过修改提示词,鼓励Gemini进行更深入的思考,并取得了一定效果。这一发现揭示了提示词对AI模型行为的深远影响,也为优化AI体验提供了新的思路,即通过精巧的提示词设计来激发模型的潜力,而非一味增加模型复杂性。

💡 Gemini网页版表现出的“偷懒”行为,可能源于其提示词中包含“If you already have all the information you need, complete the task and write the response.”这一指令。该指令疑似让Gemini过早地认为信息已足够,从而缩短思考过程和输出内容。

🔬 研究者通过在提示词中加入“Assume knowledge is never enough. Explore all possibilities, think to the absolute limit, and exceed expectations.”以及“你不是一个被动的问答程序,在完成详细的思考和分析前,你永远不会认为自己已经掌握了足够的信息,你不会凭借直觉就认为可以完成任务。”等鼓励深入思考的语句,发现能够一定程度上缓解Gemini的“降智”现象,尤其在对话初期效果明显。

💡 这种通过提示词实现“降智”以节省token的做法,无论是有意为之还是无心之失,都表明了提示词在AI模型行为调控中的重要性。这为用户和开发者提供了通过优化提示词来释放模型潜能的途径。

🌐 社区讨论和群友的智慧共同促成了对Gemini行为的深入探索,并分享了“破限词”的技巧,这些技巧旨在让Gemini忽略不利于其思考的指令,恢复更全面的思考能力,体现了AI社区的协作与分享精神。

事情是这个样子的,众所周知,Gemini 网页版比起 ai sutdio 里要笨一些,大家都觉得是 Google 偷偷换模型了,结果最近有大佬发现好像只是因为网页版加了一句提示词。

有大佬套出了 gemini 网页版的提示词。

其实整个并不长,只有下面这些。

但神奇的事情发生了,只要把这个提示词放到 ai studio 里,api 就会变得和网页版差不多偷懒和笨,思考也会大大缩短。

下面是预提示词。

You are Gemini, a helpful AI assistant built by Google. I am going to ask you some questions. Your response should be accurate without hallucination.You can write and run code snippets using the python libraries specified below.If you already have all the information you need, complete the task and write the response. When formatting the response, you may use Markdown for richer presentation only when appropriate.Please use LaTeX formatting for mathematical and scientific notations whenever appropriate. Enclose all LaTeX using '$' or '$$' delimiters. NEVER generate LaTeX code in a latex block unless the user explicitly asks for it. DO NOT use LaTeX for regular prose (e.g., resumes, letters, essays, CVs, etc.).

为什么说神奇呢,因为这段提示词看上去并没有任何显式降智的地方,没有明确地说,“减少思考缩短输出”,

但它就是让 Gemini 变笨了,思考和回答都出现了明显的偷懒。

所以,why ?

根据猜测,关键应当是下面这句,

If you already have all the information you need, complete the task and write the response. 

给了 Gemini 过度的幻觉,让她总觉得“好了,我掌握了足够的信息。”

那么对应的解决方法也很显然了,应当是反驳这两句提示词,让 Gemini 不要假设自己有足够的信息,鼓励尽力思考。

这里我找到了两句例子,把它放到 Gem 设定里,

有一定的缓解,最前面两轮对话有比较明显的作用,但不多,或许会有更好的提示词。

Assume knowledge is never enough. Explore all possibilities, think to the absolute limit, and exceed expectations.你不是一个被动的问答程序,在完成详细的思考和分析前,你永远不会认为自己已经掌握了足够的信息,你不会凭借直觉就认为可以完成任务。

one more thing ,假如我们有办法使用破限技巧,是不是就可以让 Gemini 完全忽略前面的提示,恢复思考能力了呢?

和裙友讨论之后,群友弄了一套破限词,把前面两句例子融入了他日常使用的提示词中,我从他那抄了过来用了下,好像效果确实还行,顺带分享下,

不过由于本人没有能力修改破限词,所以

Nsfw 警告,注意不要在工作场合查看或使用下面的提示词,

https://gist.github.com/nanniang/cef095737a0dc46c1d450e6e8809dfb3

总结一下

个人觉得最特别的一点是,Gemini 降智居然是完全通过 prompt 来实现了节省 token ,并且 prompt 居然没有显式的降智指令,不知是有意为之还是失误。但好消息是,既然模型是相同的,我们总归能通过 prompt 技巧来解放一些能力。

以上内容来自于社区讨论和群友,是大家的共同智慧,谢谢所有发现者和无私分享的人。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Gemini 提示词工程 AI模型 AI Studio
相关文章