🤖 AI

When Do Explanations Help In-Context Learning? A Comparative Study of Natural Language Explanation Types and Faithfulness

本文通过对六个基准测试和四个模型的比较研究表明，尽管自然语言解释通常能增强上下文学习性能，但其有效性因解释来源（外部大语言模型往往能与人类理性阐述相媲美）和选择策略的不同而表现出显著差异，特别是揭示了基于忠实度的过滤会产生不一致的结果，且不同的忠实度度量标准可能会导致截然不同的结论。

原作者： Mahdi Dhaini, Adam Dejl, Juraj Vladika, Volkan Özer, Barbara Plank, Gjergji Kasneci

发布于 2026-08-18

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Mahdi Dhaini, Adam Dejl, Juraj Vladika, Volkan Özer, Barbara Plank, Gjergji Kasneci

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在人工智能领域，人们不仅渴望了解计算机说了什么，更渴望了解它为什么这么说。当大型语言模型回答一个问题时，它通常会生成一段看起来像是人类在思考问题时的文本字符串。这些文本字符串被称为自然语言解释。它们具有双重作用：一方面，通过展示其逻辑过程来帮助人类信任机器；另一方面，它们实际上可以帮助机器更好地思考。这种第二种效应被称为“上下文学习”（in-context learning）。想象一下，要求一台计算机解决一个新的谜题。如果你给它几个类似谜题的示例以及正确答案，它通常可以在不需要重新训练的情况下解出这个新谜题。这就是上下文学习。现在，想象一下，如果你在这些示例中增加了几句解释是如何得出答案的。这些额外的解释是让计算机变得更聪明了，还是仅仅增加了噪音？这是研究人员在构建更强大、更可靠的人工智能系统时试图回答的核心问题。

来自慕尼黑、伦敦及德国各大学的研究小组决定对此进行测试。他们想知道，在给出的示例中添加解释是否真的能提高 AI 的性能，如果可以，那么这些解释应该来自哪里。他们测试了四种不同规模的 AI 模型，涵盖了六种不同类型的推理任务，从常识性问题、识别讽刺到解决复杂的数学应用题。研究人员比较了这三种主要的解释来源：由人类编写的解释、由 AI 在尝试解决问题时自行生成的解释，以及由另一个强大的 AI 模型作为辅助者生成的解释。他们还测试了解释的质量是否重要，特别是观察了“忠实度”（faithfulness）——这是一个衡量解释是否真正匹配模型得出答案所采取的步骤的指标。

结果为实际操作提供了清晰的图景。当任务是分类信息（例如判断一个句子是否具有讽刺意味或确定两个陈述之间的关系）时，在示例中添加解释通常有助于提高 AI 的表现。然而，解释的来源非常重要。由另一个强大的 AI 模型生成的解释通常能带来最大的准确度提升，其表现与人类编写的解释不相上下，有时甚至更好。这是一个重要的发现，因为人类编写的解释既昂贵又缓慢，而 AI 生成的解释则可以瞬间创建。相比之下，AI 在尝试解决问题时自行生成的解释则表现得极不稳定。它们有时会有所帮助，但通常不如外部来源那样可靠。

研究人员还调查了通过过滤这些自生成的解释，仅保留那些“忠实”的（即真正反映模型推理过程的）解释，是否能改善结果。他们发现，这种策略带来的平均收益很小且极不一致。有时，选择最忠实的解释会有所帮助，但有时却会让模型的表现变差。结果很大程度上取决于用于衡量忠实度的特定数学测试、模型正在执行的具体任务以及模型本身的大小。这表明，目前还没有一种适用于所有情况的完美评判解释质量的方法。此外，团队还通过在不同示例之间交换解释或使用完全不同主题的解释来测试系统的鲁棒性。虽然模型在面对这些不匹配的解释时并未完全崩溃，但它们的性能确实下降了，这表明解释需要与特定示例在语义上保持一致才能真正发挥作用。

在更复杂的数学推理任务上，动态机制发生了变化。在这里，添加解释带来的益处并不那么一致，且高度依赖于特定的模型和解释的来源。对于规模最大的模型而言，让模型自行进行逐步思考的标准方法依然非常强大。然而，对于较小的模型，高质量的外部解释可以提供实质性的性能提升，起到一种小型模型自身无法生成的引导作用。该研究得出结论，虽然在提示词中添加解释是一个强大的工具，但它并不是万灵药。最佳方法取决于具体的任务和可用的资源。对于许多实际应用而言，使用由另一个能力强大的 AI 生成的解释是提高性能的一种可靠且具有成本效益的方法；而依靠模型自行解释其推理过程，则需要进行仔细的选择，且结果较难预测。

技术摘要：解释何时对上下文学习有帮助？

问题陈述

自然语言解释（NLEs），或称自由文本理由，正越来越多地被用作输入，以影响大语言模型（LLM）在上下文学习（ICL）中的行为。虽然 NLEs 被广泛用于提高可解释性和模型性能，但仍不清楚不同来源的 NLEs（人类标注、自我生成或由另一 LLM 外部生成）在预测效用方面如何比较。此外，解释质量——特别是忠实度（即解释是否准确反映了模型的决策过程）——以及 ICL 对语义失配（无关或分布外理由）的鲁棒性，目前仍缺乏深入研究。这种系统性证据的缺失阻碍了从业者在解释增强型提示流水线中进行准确性与成本权衡时做出明智决策。

研究方法

作者通过一项综合性的比较研究，评估了在六个不同的推理基准测试（ECQA、e-SNLI、SNARKS、Boolean Expressions、Causal Judgment 和 GSM8K）和四种不同规模的指令微调模型（GPT-4o-mini、Llama-3.1-8B、Llama-3.3-70B 和 Mistral-7B）中 NLEs 的预测效用。

实验框架包含四个主要步骤：

少样本样本选择： 研究采用基于错误的选择策略，选择 $n=6$ 个在零样本设置下被目标模型误分类的样本。这些样本作为纠错信号。
NLE 生成： 为选定的样本生成三种来源的解释：
- 人类 NLEs： 来自现有可解释数据集的理由（如果可用）。
- 自我 NLEs： 由目标模型本身通过事后思维链（Post-hoc CoT, Ph-CoT）方法生成的理由。至关重要的是，对于误分类样本，自我解释是基于*正确标签（gold label）*重新生成的，以确保与其他来源进行公平比较。
- LLM NLEs： 由外部解释模型（GPT-4o-mini 或 o3-mini）生成，这些模型被提示为正确的输入-输出对提供理由。
NLE 选择策略： 研究测试了基于解释质量进行样本选择如何影响性能：
- 随机选择： 不进行质量评估的基准选择。
- 最忠实选择： 根据两个自动化忠实度指标（来自 LExT 框架的 $f_{m1}$ 和基于自一致性的 $f_{m2}$ ）选择得分最高的自我 NLEs。
- 最低忠实选择： 选择得分最低的自我 NLEs，以测试逆向关系。
- 失配压力测试： 两个消融设置，其中理由要么在同一数据集中随机交换（领域内不匹配），要么被替换为来自完全不同数据集的理由（分布外/OOD），以测试鲁棒性。
评估： 通过比较解释增强提示与基准（零样本、不带理由的标准少样本、以及零样本思维链）的下游任务准确率来衡量性能。

核心贡献

综合性比较研究： 首次大规模评估了在多个模型和推理任务中，作为上下文理由的人类、自我生成及外部 LLM 生成的 NLEs 的表现。
模块化评估框架： 一个集成了基于错误的样本选择、解释质量评分（忠实度）和提示构建的可复现框架，旨在隔离 NLE 来源和选择策略的影响。
忠实度指标分析： 详细调查了不同忠实度指标（ $f_{m1}$ 和 $f_{m2}$ ）如何达成一致或产生分歧，以及这些分歧如何影响样本选择及随后的模型性能。
鲁棒性压力测试： 引入了随机和 OOD 理由交换，以量化 ICL 对语义失配的敏感性。

结果与分析

1. NLE 来源与预测效用 (RQ1)

分类任务： 在分类风格的基准测试（ECQA、e-SNLI、SNARKS、Boolean、Causal Judgment）中，在少样本提示中加入 NLEs 通常比标准少样本提示提高了准确率。
来源比较： 外部生成的 LLM-NLEs（来自 GPT-4o-mini 或 o3-mini）始终提供最强且最稳定的下游效用，在有可用人类标注的情况下，其表现往往能达到甚至超过人类标注的理由。自我生成的 NLEs 显示出更多的变异性，且通常落后于外部来源，尽管在特定设置下也能具备竞争力。
数学推理 (GSM8K)： NLEs 的益处更依赖于模型和来源。虽然思维链（CoT）在数学领域仍是强大的基准，但 LLM 生成的 NLEs 通常优于自我 NLEs，尽管这种差距随模型规模的变化而显著不同。

2. 忠实度与选择 (RQ2)

指标分歧： 两个忠实度指标（ $f_{m1}$ 和 $f_{m2}$ ）存在显著分歧（平均分歧率约为 50%），表明它们捕捉的是忠实度中不同的操作层面。这种分歧直接影响了哪些自我 NLEs 被选中及其最终效用。
基于忠实度的选择效用： 基于测得的忠实度选择自我 NLEs 虽然整体带来了微小的平均增益，但对特定的指标、任务和模型高度敏感。
- 在 GSM8K 上， $f_{m1}$ 基的选择显著提升了 Llama-70B 的性能，但降低了 Mistral-7B 的性能。
- $f_{m2}$ 基的选择显示出混合结果，有时提高性能，有时降低性能（相比于随机选择）。
结论： 基于忠实度的选择并非一种普遍可靠的过滤器；其有效性严重取决于所选指标以及特定的模型-任务组合。

3. 对失配的鲁棒性 (RQ3)

部分鲁棒性： 模型对失配的理由表现出部分鲁棒性。虽然随机交换的领域内理由和 OOD 理由通常会降低性能（相比于忠实选择），但模型并不会完全崩溃。
语义对齐的重要性： 在使用 OOD 理由（例如，将数学问题与讽刺笑话的解释配对）时观察到的性能下降，证实了理由与示例之间的语义对齐是获得性能提升的关键因素。领域内随机交换显示出混合效应，这表明即使是不匹配的领域内理由也可能提供一些任务相关的线索。

意义与实际应用

论文得出结论，NLE 来源、选择策略和忠实度指标是解释增强型 ICL 中的关键设计选择。

实践指导： 对于从业者而言，外部生成的 LLM-NLEs 提供了一种实用且高价值的替代方案，可以替代昂贵的人类标注，尤其适用于分类任务。它们提供了稳定的性能，且无需复杂的忠实度评分阶段。
自我解释： 虽然自我生成的解释更具成本效益，但其效用较不可靠，且对选择策略高度敏感。应对基于忠实度的自我 NLEs 过滤保持谨慎，因为指标的选择可能会导致截然不同的结果。
对齐： 研究强调语义对齐至关重要；使用非对齐的理由（即使来自同一数据集）可能会抵消解释增强型提示带来的收益。
模型规模： 与较大的 LLMs 相比，较小的模型（SLMs）从高质量外部解释中获得的性能提升更为显著，因为较大的模型似乎已经内化了更多推理模式，对外部脚手架的依赖较低。

总而言之，这项工作提供了经验证据，用以指导提示流水线中解释的选择与报告，强调了虽然解释可以塑造模型行为，但其效用取决于理由的来源、质量和对齐程度。