题 目: Label-aware debiased causal reasoning for Natural Language Inference
作 者:Kun Zhang, Dacao Zhang, Le Wu, Richang Hong, Ye Zhao, Meng Wang
简 介: 最近的研究结果表明,自然语言推断(Natural Language Inference,NLI)模型的成功往往源于训练数据中的伪相关性,导致了脆弱性和有限的泛化能力。当前的去偏方法面临着数据标注成本高或复杂偏见识别等挑战。本研究引入了基于标签感知的去偏因果推理网络(Label-aware Debiased Causal Reasoning Network,LDCRN),利用标签信息来识别和解决NLI训练数据中的伪相关性。通过利用因果图和像RoBERTa这样的模型,计算总因果效应,并采用一种新颖的标签感知偏见模块来量化和减轻这些相关性。大量实验证明了LDCRN在NLI数据集和具有挑战性的测试集上的有效性,包括基于MultiNLI的新数据集。
PDF Code