本文介绍了DRAG框架，该框架通过多智能体辩论机制优化RAG（Retrieval-Augmented Generation）框架，以解决大型语言模型在问答等任务中出现的“幻觉”问题。DRAG在检索和生成两个阶段引入辩论，模拟AI辩论法庭，提升答案的真实性和可靠性。实验结果表明，DRAG在多跳问答等任务中表现出色，为减少AI生成内容的偏差提供了新思路。

🧐 RAG框架的局限性：RAG通过检索外部资料辅助生成，但检索到的资料本身可能存在错误或偏差，导致“幻觉叠加”现象，即模型在错误信息基础上产生错误答案。

🗣️ 检索环节的“辩论”：DRAG在检索阶段引入多智能体辩论机制，支持方、反对方和裁判方协同工作，动态调整检索策略，确保检索到的信息更准确可靠。

🤔 生成环节的“对线式推理”：DRAG在生成环节同样引入辩论，通过信息不对等机制，让依赖检索资料的智能体与不依赖资料的智能体进行辩论，由裁判方裁决更准确的答案。

📈 实验结果与优势：DRAG在开放问答和多跳问答等多个数据集上取得了领先表现，尤其在多跳推理任务中表现出色，验证了其通用性和有效性。

💡 未来展望：DRAG在单跳任务中可能因“过度辩论”引发问题漂移，未来可探索自适应停止策略，提升效率，并进一步优化框架。

原创 让你更懂AI的 2025-06-19 14:02 北京

让模型「辩」起来

近年来，GPT 等大型语言模型在问答、搜索、医疗等任务中大放异彩，但一个顽疾始终存在——幻觉（hallucination），即模型自信输出却偏离事实。为缓解幻觉，学界提出了 RAG（Retrieval-Augmented Generation） 框架，通过引入外部资料来辅助生成，试图减少“胡编乱造”。

但现实真如我们所愿？港理工与四川大学研究团队发现：RAG 本身也可能引入偏差，甚至造成“幻觉叠加”（Hallucination on Hallucination）。

为此，团队提出新框架——DRAG（Debate-Augmented RAG），通过引入多智能体辩论机制，在“找资料”和“写答案”的每一个环节中层层把关，提升答案的真实性与可靠性。

论文标题：

Removal of Hallucination on Hallucination: Debate-Augmented RAG

论文链接：

https://arxiv.org/abs/2505.18581

代码链接：

https://github.com/Huenao/Debate-Augmented-RAG

收录会议：

ACL 2025 Main

研究背景：RAG 中的幻觉叠加

为了解决生成式 AI 中的幻觉问题，RAG 框架通过“先查资料再说话”的方式增强生成结果的事实性。但现实很骨感：如果查到的资料本身就错了呢？

举个栗子：