Do Metrics for Counterfactual Explanations Align with User Perception?

该研究通过实证分析发现，现有的反事实解释算法评估指标与人类对解释质量的感知之间相关性普遍较弱且高度依赖数据集，表明当前指标难以有效反映用户视角的解释质量，亟需采用更以人为本的评估方法。

要点

这篇论文探讨了一个非常有趣且重要的问题：我们在开发人工智能（AI）时，用来衡量“解释好坏”的数学公式，真的能代表普通用户心里的感受吗？

为了让你更容易理解，我们可以把这篇研究想象成一次"美食评分大调查"。

1. 背景：AI 的“菜谱”与“试吃员”

想象一下，AI 就像一个大厨，它做了一道菜（做出了一个预测，比如“这个人会得心脏病”）。

• 反事实解释（Counterfactual Explanations）：就是大厨给顾客的解释：“如果你少放点盐、多运动一下，这道菜（你的健康状态）就会变成‘健康’而不是‘生病’。”
• 算法指标（Algorithmic Metrics）：这是大厨自己用的“评分尺子”。比如尺子上写着：“盐放得越少越好（稀疏性）”、“离原来的菜谱越近越好（邻近性）”。大厨觉得，只要符合这些尺子，解释就是完美的。
• 用户感知（User Perception）：这是真正来吃饭的顾客（普通用户）。他们觉得解释好不好吃，可能跟盐放多少没关系，而是看“听起来像不像人话”、“有没有道理”、“能不能让我信服”。

论文的核心问题就是： 大厨手里的“数学尺子”，真的能量出顾客心里的“好吃程度”吗？

2. 实验过程：一场大规模的“试吃会”

研究团队（来自德国比勒费尔德大学）组织了一场大规模的试吃会：

• 食材（数据集）：他们选了三个不同的“菜单”：蘑菇（能不能吃）、肥胖程度（怎么吃会变胖）、心脏病（怎么预防）。
• 试吃员（参与者）：他们找了 167 个普通人，不是 AI 专家，就是普通的“路人甲”。
• 任务：给 AI 生成的各种“反事实解释”打分。比如：“这个解释你听得懂吗？”“你觉得它合理吗？”“你满意吗？”
• 对比：同时，他们计算了 7 种常见的“数学尺子”（算法指标）的分数。

3. 研究发现：尺子量不准人心

结果非常令人惊讶，甚至有点“打脸”：

• 尺子与人心“各说各话”：
  研究发现，那些数学尺子（算法指标）和用户心里的打分，几乎没有什么关系。

  • 比喻：就像大厨拿着尺子量菜的温度，觉得 80 度是完美的；但顾客尝了一口觉得太烫了，根本没法吃。尺子上的数字再完美，也代表不了顾客嘴里的味道。
  • 甚至在不同的“菜单”（数据集）上，尺子和人心的关系还完全相反。在蘑菇菜单上，用户喜欢“改动少”的解释；但在肥胖菜单上，用户反而喜欢“改动多、信息全”的解释。这说明没有一把万能尺子。

• 把尺子凑在一起也没用：
  有人可能会想：“那我把 7 把尺子凑在一起，综合打分总行了吧？”
  研究团队试了各种复杂的数学模型（就像把 7 种调料混在一起），结果发现：不仅没变好，反而更乱了。

  • 比喻：这就像你试图用“糖度”、“酸度”、“咸度”、“辣度”等 7 个数据来预测一道菜好不好吃。结果发现，把这些数据加在一起，还是预测不准。因为用户觉得“好吃”是一个整体的感觉，而不是几个数据的简单相加。

4. 结论：我们需要新的“味觉”

这篇论文的结论很明确：
目前我们用来评价 AI 解释好坏的那些数学公式，大部分是“自嗨”。它们并不能真实反映人类觉得解释得好不好。

• 现状：我们太依赖计算机能算出来的东西（比如改动了几个字、距离有多远），却忽略了人是怎么思考的。
• 未来：我们需要开发新的评价方法，这些方法不能只盯着数学公式，而要真正基于人类的直觉和感受。就像评价美食，不能只靠温度计，得靠试吃员的舌头。

总结

这就好比我们在造一辆自动驾驶汽车。
现在的工程师只关心“刹车距离是不是最短”、“转弯半径是不是最小”（算法指标）。
但这篇论文告诉我们：乘客（用户）可能根本不在乎这些数字，他们只在乎“这车开起来稳不稳”、“司机（AI）有没有礼貌”、“我坐得舒不舒服”。

如果工程师继续只用“刹车距离”来衡量汽车好不好，那他们永远造不出真正让人放心、让人喜欢的自动驾驶汽车。我们需要学会用“乘客的视角”来重新设计评价标准。

技术摘要

论文技术总结：反事实解释的指标是否与用户感知一致？

1. 研究背景与问题 (Problem)

可解释人工智能（XAI）中的**反事实解释（Counterfactual Explanations, CFs）**旨在通过展示输入实例的最小修改以改变模型预测，从而提供符合人类推理的“如果……会怎样”的解释。随着 CF 方法的成熟，评估其质量变得至关重要。

目前，CF 的评估主要依赖两类方法：

1. 自动化算法指标：如稀疏性（Sparsity）、接近度（Proximity）、多样性（Diversity）等，这些指标计算便捷，常作为解释质量的代理。
2. 以人为中心的评估：通过用户研究或专家判断，被视为评估解释质量的“黄金标准”。

核心问题：现有的自动化 CF 评估指标是否真正反映了人类对解释质量的感知？即，算法指标能否作为人类判断的有效代理？目前的文献缺乏系统性的实证研究来回答这一问题，且 XAI 领域其他任务（如特征归因）已显示出自动化指标与人类感知之间存在脱节。

2. 方法论 (Methodology)

2.1 数据集与解释生成

• 数据集：选取了三个来自 UCI 的表格分类数据集，涵盖不同规模和特征维度：
  • Mushroom (MUS)：二分类（可食用/有毒）。
  • Obesity Levels (OBE)：七分类（肥胖等级）。
  • Heart Disease (HRT)：二分类（心脏病）。
• 模型与生成：使用 XGBoost 作为基础分类器。采用 Counterfactuals Guided by Prototypes (CGP) 方法生成反事实解释，确保生成的解释既接近原始实例又符合数据分布。
• 采样策略：为了平衡多样性与评估工作量，基于 7 个自动化指标对生成的解释进行聚类，采用聚类保留采样（Cluster-preserving sampling），最终选取 85 个解释（MUS: 30, OBE: 30, HRT: 25）用于用户研究。

2.2 用户研究设计

• 参与者：通过 Prolific 平台招募了 167 名参与者（主要为非专家用户）。
• 评估维度：参与者对每个解释在 5 个维度上进行 4 点李克特量表评分（1=肯定，4=否定）：
  1. 感知准确性 (Perceived Accuracy)
  2. 可理解性 (Understandability)
  3. 合理性 (Plausibility)
  4. 细节充分性 (Sufficiency of Detail)
  5. 用户满意度 (User Satisfaction)
• 综合指标：将上述 5 个维度聚合为综合质量评分 (Combined Quality Score, CQS)。
• 信度检验：计算了组内相关系数 (ICC)，确认聚合后的评分具有较高的一致性（Cronbach's $\alpha$ = 0.88）。

2.3 自动化指标计算

计算了 7 种广泛使用的自动化 CF 指标：

1. 稀疏性 (Sparsity)：修改的特征数量。
2. 接近度 (Proximity)：解释与原始实例在特征空间中的距离（$L_1$ 范数）。
3. 接近训练数据 (Closeness)：解释与训练集最近邻的平均距离。
4. 多样性 (Diversity)：被修改特征之间的异质性。
5. Oracle 分数 (Oracle Score)：两个独立模型对解释属于目标类别的置信度乘积。
6. 信任分数 (Trust Score)：实例距离预测类与距离其他类的相对距离。
7. 完整性 (Completeness)：修改的特征是否覆盖了模型认为重要的特征（基于 SHAP 值）。

2.4 分析策略

1. 相关性分析：计算 7 个自动化指标与 5 个用户评分维度及 CQS 之间的皮尔逊相关系数。
2. 预测建模：使用监督学习模型（线性回归、kNN、随机森林、XGBoost、GAMs）验证指标组合是否能预测用户评分。进行了全子集分析（127 种指标组合），评估不同复杂度（指标数量）下的 $R^2$ 表现。

3. 主要贡献 (Key Contributions)

1. 受控用户研究：在三个广泛使用的数据集上，收集了用户对反事实解释在多个质量维度上的感知评分。
2. 指标对齐量化：系统计算了 7 种主流自动化指标，并量化了它们与人类评分的对齐程度。
3. 组合预测分析：首次系统性地分析了指标组合（线性与非线性）在预测人类判断方面的能力，发现增加指标数量并未提升预测性能。
4. 实证结论：提供了强有力的证据表明，当前广泛使用的 CF 评估指标无法有效反映用户感知的解释质量，呼吁开发更以人为中心的评估方法。

4. 研究结果 (Results)

4.1 指标与评分的相关性

• 总体相关性弱：自动化指标与人类评分之间的相关性普遍较弱。
• 数据集依赖性：相关性模式高度依赖于数据集，缺乏普适性。
  • MUS (蘑菇)：稀疏性、多样性、接近度等指标与满意度、细节充分性呈显著负相关（$r \approx -0.38$ 至 $-0.64$），表明用户偏好修改较少、变化较小的解释。
  • OBE (肥胖)：多样性、信任分数和完整性与合理性、满意度呈正相关（$r \approx 0.37$ 至 $0.52$），表明用户偏好信息更丰富、更全面的解释。
  • HRT (心脏病)：所有指标与评分之间均无显著相关性。
• 唯一显著项：仅“信任分数 (Trust Score)"在聚合所有数据后显示出微弱但显著的关联（$r=0.307$），其他指标几乎无关联。

4.2 预测建模表现

• 线性模型失败：线性回归模型在所有设置下均表现极差，$R^2$ 值为负（均值 -1.253），表明指标与评分之间不存在线性关系。
• 非线性模型表现有限：
  • 随机森林 (RF) 表现最佳，但平均 $R^2$ 仅为 0.067（HRT 数据集），最高仅达到 0.33。
  • 随着指标数量增加（模型复杂度提升），预测性能并未改善，反而在指标数量超过 3-4 个后急剧下降。
• 结论：现有的指标组合无法可靠地预测人类对解释质量的判断，且增加指标数量引入了噪声而非信息。

5. 意义与启示 (Significance)

1. 挑战现有评估范式：研究结果直接挑战了当前 XAI 领域普遍依赖自动化指标作为解释质量代理的做法。这些指标未能捕捉用户认为重要的关键方面（如行动性、心理合理性）。
2. 揭示结构性不匹配：自动化指标（通常基于数学优化目标，如最小距离、稀疏性）与人类感知（基于心理模型、上下文、信任）之间存在结构性错位。这种错位是数据集依赖的，而非通用的。
3. 推动以人为中心的评估：论文强调，若要构建真正可信的 AI 系统，必须开发直接基于人类感知的评估指标，或者在评估流程中纳入更多用户研究，而不能仅依赖计算指标。
4. 未来方向：未来的工作应致力于开发基于人类中心理论的代理指标，并探索解释的可操作性（Actionability）等当前指标未涵盖的因素。

总结：该论文通过严谨的实证研究证明，目前广泛使用的反事实解释自动化评估指标与用户感知之间存在显著脱节。无论是单个指标还是指标组合，都无法有效预测人类对解释质量的判断。这一发现呼吁 XAI 社区重新思考评估标准，从单纯的算法优化转向更深层的人类中心评估。