本章节介绍 gc-qa-rag 智能问答系统中“生成（Generation）”阶段的核心原理与实现细节。该阶段的目标是：基于用户问题和检索到的高相关知识，利用大语言模型生成自然流畅、综合性概述的答案。
1. 生成流程概述
问答生成阶段位于 RAG（Retrieval-Augmented Generation）三阶段架构的最后一环。其主要流程如下：
- 用户输入问题，系统完成检索，获得 TopK（如 8 条）高相关知识条目（包含问题、答案、详细解释、摘要、原文链接等元数据）；系统将用户问题与检索结果整合，构造标准化提示词（Prompt），输入给大语言模型（LLM）；LLM 综合上下文与知识库内容，生成最终答案，并可附带原文链接、详细解释等信息返回给用户。
2. 输入结构与提示词设计
生成环节的输入主要包括：
- 用户问题（User Input）：当前用户的自然语言提问；检索结果（Hits）：由混合检索与 RRF 融合排序得到的高相关知识条目列表。
系统采用结构化提示词模板，将上述信息拼接后输入给 LLM。例如：
"""你正在和用户对话，请综合参考上下文以及下面的用户问题和知识库检索结果，回答用户的问题。回答时附上文档链接。## 用户问题{keyword}## 知识库检索结果{hits_text}"""其中，hits_text为检索结果的 JSON 序列化内容，包含每条知识的“Question”、“Answer”、“FullAnswer”、“Summary”、“Url”等字段。
3. 生成服务实现
系统通过异步方式调用 LLM 服务，支持流式输出，提升响应速度和用户体验。主要实现逻辑如下：
- 组装消息体（messages），包括 system prompt 和用户 prompt；调用 LLM 的 chat/completions 接口，设置合理的 temperature、top_p 等参数，平衡创造性与准确性；采用流式（stream=True）方式获取模型输出，边生成边返回前端。
相关代码实现见 ragapp/services/summary.py：
async def summary_hits(keyword, messages, hits): hits_text = json.dumps(hits, ensure_ascii=False, default=vars) hits_prompt = f"""你正在和用户对话，请综合参考上下文以及下面的用户问题和知识库检索结果，回答用户的问题。回答时附上文档链接。 ## 用户问题 {keyword} ## 知识库检索结果 {hits_text} """ ... return chat(messages_with_hits)4. 思考模式（Reasoning Mode）
为增强答案的透明度与可信度，系统支持“思考模式”输出。此模式下，LLM 会先输出推理过程，再给出最终答案。例如：
- 以
> 前缀输出推理步骤；用分隔符 --- 区分推理与正式答案。相关实现见 ragapp/services/think.py，适配支持 reasoning_content 的大模型（如 deepseek-R1）：
async def think(messages): ... async for chunk in completion: reasoning_content = chunk.choices[0].delta.reasoning_content ... content = chunk.choices[0].delta.content ...5. 多轮对话与问题重写
系统支持多轮对话场景，能够根据历史对话自动识别用户当前真正想问的问题。具体流程为：
- 收集历史对话内容，输入给 LLM 问题生成器；LLM 输出用户的真实意图问题，作为检索与生成的输入。
相关实现见 ragapp/services/query.py：
async def chat_for_query(contents): prompt = f"""你是一个问题生成器，你需要从下面的对话中识别出用户想要查询的问题，直接输出该文本，该文本将用于在知识库中检索相关知识。 ## 对话内容 {contents} """ ... return chat(messages)6. 生成结果结构
最终生成的答案不仅包括直接回答，还可包含：
- 相关知识条目的原文链接（Url）、标题（Title）、分类（Category）等元数据；详细解释（FullAnswer）、上下文摘要（Summary）等辅助信息；用户可选的推理过程（思考模式）。
7. 技术优势与工程实践
- 结构化 Prompt 设计：确保 LLM 能充分利用检索到的知识，提升答案准确率；流式输出：优化用户体验，减少等待时间；多轮对话支持：提升复杂场景下的问答能力；推理透明化：增强用户信任感，便于结果溯源。
