💻 computer science

Alike Parts: A Feature-Informed Approach to Local and Global Prototype Explanations

本文提出了“相似部分”框架，该框架利用特征重要性得分来突出共享的相关特征以增强局部可解释性，并在不损害预测保真度的前提下促进全局原型选择中的特征多样性，从而改进基于原型的解释。

原作者： Jacek Karolczak, Jerzy Stefanowski

发布于 2026-05-22

📖 1 分钟阅读☕ 轻松阅读

原作者： Jacek Karolczak, Jerzy Stefanowski

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你有一台非常聪明但神秘的“黑箱”计算机，它会做出决策——比如批准贷款、诊断疾病或分拣水果。你信任它，因为它准确，但你无法看到它如何思考。为了解决这个问题，科学家通常使用原型。

将原型视为一个“代表性示例”。如果计算机说：“这个苹果熟了”，它可能会从训练数据中指出一张完美红苹果的具体照片，并说：“我之所以这么说，是因为它看起来和这个一模一样。”

问题：
有时，指出整个示例并无帮助。如果原型是一张包含 20 种不同物品的果篮照片，或是一份包含 50 个不同数值的医疗记录，那会令人难以招架。你不知道该示例中哪个具体部分实际上 mattered。是颜色？重量？还是年龄？计算机将最重要的线索隐藏在海量数据之中。

解决方案：“相似部分”
本文作者提出了一种解释这些决策的新方法，称为**“相似部分”**。

该方法不像展示整个原型，而是像一支荧光笔。它审视你询问的具体项目（“实例”）以及与其进行比较的代表性示例（“原型”）。然后，它利用一种特殊的评分系统，找出实例和原型所共有的、且计算机认为对决策最重要的共享特征。

类比：想象你和朋友都戴着红帽子。如果计算机决定你属于“红队”，它不应仅仅展示你朋友的整套着装（牛仔裤、鞋子、夹克）。它应该仅高亮显示你们两人共有的红帽子，因为这些才是真正导致决策的“相似部分”。

他们是如何做到的（两步魔法）：

局部解释（荧光笔）：
在解释单个决策时，系统会计算哪些特征对“你的项目”和“原型”都“重要”。随后，它创建一个掩码，隐藏其他所有内容，仅向你展示关键的共享特征。这防止你被无关细节分散注意力。
全局解释（多元化团队）：
通常，当计算机选择一组原型来代表整个系统时，它们只寻找在数学上最接近数据的示例。作者改变了规则。他们告诉计算机：“不要只挑选最接近的示例；要挑选能覆盖重要特征多样化范围的示例。”
- 类比：如果你要组建一个专家团队来解释一个复杂话题，你不想要五位都精通完全相同内容的专家。你想要一位精通预算，一位精通时间表，一位精通设计。通过迫使计算机挑选一个“多元化团队”的原型，他们确保当你查看整套原型时，能看到决策背后更广泛多样的原因。

他们的发现：
研究人员在六个不同的数据集（如预测葡萄酒质量、糖尿病风险或乘客满意度）上测试了这种方法。

它没有破坏计算机： 添加这些新规则来选择原型并未降低计算机的准确性。事实上，在许多情况下，简化后的“原型”版本计算机的表现与原始复杂版本一样好。
它发现了更好的线索： 在糖尿病数据的测试中，旧方法仅高亮显示“葡萄糖”水平。而新的“相似部分”方法还高亮显示了“年龄”和“家族病史”，这些实际上更具医学相关性。
它展示了更多多样性： 新方法确保用于解释系统的原型集合涵盖了不同类型的特征，而不是仅仅一遍又一遍地重复相同的少数线索。

简而言之：
本文介绍了一种方法，不再向用户展示“整个混乱的画面”，而是开始展示真正驱动决策的“具体、共享的线索”。通过高亮显示“相似部分”，它使人工智能的解释更加清晰，并确保人工智能的示例库具有足够的多样性，能够在不损失准确性的情况下解释不同类型的决策。

技术摘要：相似部分：一种基于特征信息的局部与全局原型解释方法

问题陈述
基于原型的解释提供了一种直观、基于示例的方法来解释黑盒机器学习分类器，通过将预测结果与具有代表性的训练实例联系起来。然而，存在一个显著的局限性：虽然原型提供了整体视图，但它们往往缺乏特征层面的细粒度。用户难以识别原型中哪些具体特征与预测最相关，导致在处理高维表格数据时产生认知过载。此外，全局原型选择通常优先考虑空间分布或距离最小化，而未确保所选原型的特征归因具有多样性，从而可能遗漏关键且多样的决策边界。

方法论
作者提出了一个框架，在两个不同层面整合特征重要性评分，以解决上述差距：局部解释细化和全局原型选择增强。

局部解释：“相似部分”
本文提出了一种方法来识别“相似部分”，定义为分类实例（ $x_i$ ）与其最近邻原型（ $p_j$ ）之间最相关且共享的特征子集。
- 过程：使用模型无关或模型特定的估计器（例如 Tree SHAP、Tree Interpreter）计算实例和原型的特征重要性评分（ $\phi$ ）。
- 对齐：该方法计算一个权重向量（ $w$ ），表示实例与原型之间重要性评分的相似度。这是通过相似度算子（ $\circ$ ）实现的，例如哈达玛积（逐元素乘法）、逐元素 $l_1$ 或 $l_2$ 距离。
- 掩码：生成一个二元掩码，以突出重要性对齐超过阈值的特征。策略包括均值阈值或自适应 Top- $k$ 选择（例如 $k = \lceil\sqrt{d}\rceil$ 或 $k = \lceil\log(d)\rceil$ ）。
- 输出：这将用户的注意力引导至实例与原型共享的有限且高相关性的特征子集，而不是呈现整个特征向量。
全局解释：增强目标函数
作者修改了标准原型选择目标函数，以主动促进特征归因的多样性。
- 标准目标：传统的 $k$ -medoids 方法最小化训练实例与其最近邻原型之间的距离 $d(x_i, p_j)$ 。
- 增强目标：作者引入了一个特征重要性项（ $f_i$ ），该术语源自局部方法中使用的对齐评分。新的目标函数为：
  $f(P) = \sum_{i=1}^{|S|} \min_{p_j \in P} (d(x_i, p_j) + \beta \cdot f_i(x_i, p_j))$
  其中， $\beta$ 作为度量距离与特征重要性对齐之间的权衡参数。这鼓励选择不仅覆盖数据空间，而且代表多样化重要特征子集的原型。

主要贡献

相似部分识别：一种新颖的方法，用于生成二元掩码，突出实例与其最近邻原型之间共享的高重要性特征，从而增强局部可解释性。
特征多样化原型选择：对原型生成算法（特别是 G-KM、SM-A 和 A-PETE）的扩展，将特征重要性纳入优化循环，以确保特征归因的全局多样性。
综合评估：该研究评估了多种原型生成算法以及新的评估函数，探索了更广泛的特征重要性算法（Tree SHAP、Tree Interpreter），并对超参数（例如 $\beta$ 、相似度算子、掩码策略）进行了广泛的敏感性分析。
模型无关性：该框架设计为与各种底层组件兼容，尽管实验主要集中在随机森林集成和基于树的距离度量上。

实验结果
实验在六个基准数据集（苹果质量、澳大利亚降雨、乳腺癌、糖尿病、乘客满意度、葡萄酒质量）上进行，使用随机森林作为黑盒模型。

保真度：与原始（原始）原型选择相比，增强的选择过程保持或在某些情况下提高了代理 1-近邻（1-NN）模型的预测保真度。统计分析（Wilcoxon 符号秩检验）表明保真度呈积极改善趋势（ $p \approx 0.068$ ），并且相较于朴素贝叶斯、逻辑回归和决策树等标准可解释基线有显著改善（ $p < 0.05$ ）。
特征多样性：基于特征重要性（FI）的方法成功识别了具有更大特征多样化的原型。例如，在糖尿病数据集中，基于 FI 的方法突出了临床相关的特征（年龄、糖尿病谱系函数），而这些是仅基于原始距离的方法所遗漏的。
超参数敏感性：哈达玛积被发现在所有数据集中是最有效的相似度度量。研究指出，虽然某些趋势是全局的，但针对特定数据集仍需对超参数（如忽略方向或归一化）进行定制调整。
激活频率：特征激活频率的分析证实，基于 FI 的目标函数减少了特征使用的方差，迫使选择更多样化的原型集合。

意义与主张
本文主张，将特征重要性整合到原型选择中并不会损害模型保真度；相反，寻求多样化的特征归因可以与基于距离的覆盖相辅相成。其主要意义在于弥合高层原型示例与低层特征推理之间的差距。通过识别“相似部分”，该方法引导用户关注实例与其原型之间共享的具体理由，解决了高维表格数据的可解释性挑战。作者强调，这种方法平衡了可解释性与多样性，增强了局部解释和全局原型选择过程，而无需修改底层黑盒模型的内部逻辑。

作者谦逊地指出，虽然该方法提高了解释的质量（通过保真度和特征多样性等代理指标），但核心假设——即“相似部分”能改善用户的实际理解——需要通过正式的人机交互研究进行未来验证。此外，虽然当前的实现专注于树集成，但其模块化设计允许通过替换距离和重要性估计组件来适应其他架构（例如神经网络）。

类似论文