Conflict aware abstention does not improve selective accuracy over confidence ranking in FEVER claim verification
本文表明，虽然在 FEVER 声称验证中的冲突感知弃权提供了一种解释性的拒绝回答依据，但在相同覆盖水平下，它未能比标准的基于置信度的排序提高选择准确度，并且在应用于科学证据时表现不佳。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在人工智能领域，人们正产生一种日益增长的期望，即计算机系统不应仅仅是回答问题，还应当知道何时保持沉默。想象一名正在参加考试的学生，他足够自信，只有在确定自己正确时才会写下答案，而在题目太难或信息缺失时则留白。这种被称为“选择性预测”的思想，对于提高人工智能的可靠性至关重要。对于事实核查系统而言，其目标是通过在庞大的文本库中寻找证据来验证一个主张。如果证据支持该主张，系统会说“正确”；如果证据反驳该主张，系统会说“错误”；如果证据缺失或令人困惑，系统则应当承认自己不知道。挑战在于如何教会机器识别这种困惑。一种简单的方法是观察计算机对答案的“确定程度”。一种更复杂的方法是让计算机实际阅读证据，将证据分类为支持和反驳两堆，并仅在这些“堆”发生混杂或为空时才决定保持沉默。研究人员面临的重大问题是，这种更复杂的、具备证据意识的方法，是否真的比单纯信任计算机的置信度得分能带来更好的结果。
最近的一项研究通过测试两种不同的决策策略来试图回答这个问题。研究人员想要观察，一个明确检查冲突证据的系统，是否比一个仅在内部置信度较低时选择弃权的系统表现得更好。他们在两组不同的数据上进行了实验。第一组是包含 1,200 个源自常识的命题的大型平衡集合，其中的答案是已知且经过验证的。第二组是规模较小、难度较高的 209 个命题，取自科学文献，其语言专业化程度高，且推理过程往往十分微妙。其目标是观察“证据意识型”方法是否能比“基于置信度”的方法更频繁地找到正确答案，特别是在两种方法被迫回答相同数量的问题时。
结果非常明确，且有些令人惊讶。当研究人员在常识数据集上比较这两种方法时，发现证据意识型系统并未优于简单的置信度型系统。两种方法选择回答的问题数量大致相同——约为总数的 54%。在它们回答的问题中，两者的正确率都在 90% 左右。证据意识型系统的正确率为 90.05%，而置信度型系统的正确率为 90.36%。这一微小的差异意味着，将证据分类为支持和冲突之堆的额外努力，并没有带来任何可衡量的准确度提升。事实上，这两个系统最终选择回答的问题几乎完全一致，对彼此的选择达成 97% 的共识。这项研究表明，对于常识性事实核查，分析证据结构的复杂机制相比于单纯信任模型的置信度得分，并没有提供真正的优势。
当研究人员观察科学文献时，情况发生了变化。在这里，任务变得困难得多，且证据意识型系统表现挣扎。它仅能回答大约一半的科学命题，且在回答时，其正确率约为 84%。主要问题在于，该系统经常拒绝回答那些实际上是正确的命题。对 81 个此类错失机会进行的详细人工审查揭示了系统失败的原因。这并非因为证据存在矛盾，而是因为系统无法识别隐藏在科学术语、间接推理或谨慎限定词背后的支持性信息。例如，一个命题可能由一个使用不同词汇或需要连接多个事实才能理解的句子所支持，而系统却简单地将其标记为“信息不足”，而不是识别出其中的支持关系。研究发现，系统由于未能捕捉到这些联系，导致它在应该开口说话时选择了保持沉默。
研究人员还观察了系统是在进行逻辑推理，还是仅仅根据数据模式进行猜测。他们发现，科学数据集对“真”命题具有很强的偏向性，且简单的特征（如文本长度或特定词汇）就能以惊人的准确度预测答案。这意味着，在科学数据集上的低性能表现，部分归因于任务本身的难度，但也因为系统尚不足以处理科学写作中的细微差别。研究表明，虽然证据意识型方法为系统为何保持沉默提供了一个很好的解释——即指向支持与冲突的交织，而非仅仅是一个低置信度得分——但它并没有让系统变得更聪明或更准确。这种额外的复杂性并未转化为更好的结果，尤其是在从常识领域转向专门的科学领域时。
最终，这项工作是对人工智能领域的一次审慎检查。它表明，增加更多的推理层并不自动带来更好的性能。研究人员发现，对于常识性事实，依赖置信度得分的简单方法与进行证据分类的复杂方法同样有效。对于科学命题，问题不在于系统过于谨慎，而在于它缺乏理解科学证据支持方式的微妙能力。研究表明，未来的改进方向可能会来自于针对科学语言和推理的更好训练，而非通过增加更多关于如何分类证据的规则。最重要的启示是，对于目前的水平而言，解释系统为何不确定的能力固然有价值，但它并不能保证系统会变得更加正确。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。