报告主题：大模型去偏倚｜基于因果引导的主动学习方法

报告日期：09月20日（周五）10:30-11:30

报告要点：

大语言模型(LLMs)的训练目标是建模数据分布，因此将不可避免捕获预训练数据中存在的各类偏倚，例如性别偏倚、位置偏好等。这将影响LLMs的无害性与泛化性。解决这一问题的关键是识别出数据中存在的各类偏倚。一类传统偏倚识别方法依赖人类先验知识达到这一目的。但是数据偏倚的多样性与隐蔽性限制了此类方法的实际应用。另一类方法旨在自动识别数据集中存在的偏倚模式，但是此类方法主要针对判别式模型，在应对生成式LLMs固有的复杂偏倚模式上存在困难。针对这一问题，本文提出了因果指导的主动学习方法(CAL)，以利用大语言模型强大的识别与归纳能力，自动、自主地识别LLMs的偏倚模式并减轻LLMs的偏倚。具体来说，CAL首先通过因果不变性理论揭示了语义信息和偏倚信息的本质区别，并据此自动识别出对于模型决策存在显著影响的有偏数据。随后，利用大模型归纳出可解释的偏倚模式，并利用这些识别出的有偏数据和偏倚模式通过上下文学习的方法来减轻LLMs的偏见。实验结果表明，本文所提出的因果主动学习方法能够有效地识别有偏数据并归纳可解释的偏倚模式，并利用有偏数据和偏倚模式对LLMs进行去偏。Although achieving promising performance, recent analyses show that current generative large language models (LLMs) may still capture dataset biases and utilize them for generation, leading to poor generalizability and harmfulness of LLMs. However, due to the diversity of dataset biases and the over-optimization problem, previous prior-knowledge-based debiasing methods and fine-tuning-based debiasing methods may not be suitable for current LLMs. To address this issue, we explore combining active learning with the causal mechanisms and propose a casual-guided active learning (CAL) framework, which utilizes LLMs itself to automatically and autonomously identify informative biased samples and induce the bias patterns. Then a cost-effective and efficient in-context learning based method is employed to prevent LLMs from utilizing dataset biases during generation. Experimental results show that CAL can effectively recognize typical biased instances and induce various bias patterns for debiasing LLMs.

报告嘉宾：

北京智源人工智能研究院研究员杜理，博士毕业于哈尔滨工业大学。发表学术论文10余篇，包括ACL，EMNLP，AAAI，TMM等。在智源研究院主要参与的项目千万级别指令微调数据集的构建、7~70B中英文大语言模型Aqulia-1/2的训练。目前的研究兴趣包括大语言模型数据归因、预训练与指令数据优化、主动学习、课程学习等方向。

扫码报名