V2EX 07月21日 10:50
[Local LLM] 使用 dify 编写智能体的时候, 如何让 LLM 节点能够强制输出结构化输出 Schema
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

本文探讨了LLM在dify平台中输出结构化文档时,如何通过设置Schema和使用特定提示词来提升输出质量,避免玄学结果。

目前在 dify 中,LLM 节点中,设置了结构化输出 Schema ,需要 LLM 能输出一个标准的文档

{"properties": {"content": {"description": "输出内容 Markdown 文本","type": "string"}},"required": ["content"],"type": "object"}

但是每次 LLM 输出结果都很玄学,有时候能根据要求输出,有时候没有输出。(有点像中医)

有什么好的提示词,能够保证 LLM 按照要求输出结构化输出 Schema ?

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

LLM 结构化输出 提示词 dify平台
相关文章