🤖 AI

Explainable AI Through a Democratic Lens: DhondtXAI for D'Hondt-Projected Feature Attribution

本文介绍了 DhondtXAI，一种针对表格数据的、独立于 SHAP 的新型可解释人工智能框架，它通过背景干预效应、特征联盟和阈值来应用 D'Hondt 配额法进行特征归因分配，在合成测试中展示了高准确性，并在医疗数据集上与 SHAP 保持了高度一致性，同时通过构造过程保证了完备性。

原作者： Turker Berk Donmez

发布于 2026-06-02

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Turker Berk Donmez

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你有一个非常聪明但又神秘的计算机程序（人工智能），它能帮助医生预测患者是否患有乳腺癌或糖尿病。问题在于，这个计算机是一个“黑匣子”。它会给出答案，但却无法轻易解释其做出选择的原因。它观察着许多线索（比如细胞大小、年龄或症状），但我们不知道哪些线索最为重要。

这篇论文介绍了一种理解这些线索的新方法，称之为 DhondtXAI。作者 Türker Berk Dönmez 没有使用复杂的数学术语，而是决定将 AI 的决策过程比作一场民主选举。

以下是该方法的运作方式，通过简单的概念进行拆解：

1. 特征即政党

在正常的选举中，不同的政党竞选公职。在这个 AI 系统中，计算机观察的每一个“线索”（或特征）都被视为一个政党。

选票： 计算机计算每个线索的重要性。这种重要性得分被转化为“选票”。一个非常重要的线索会获得数百万张选票；而不那么重要的线索获得的选票则较少。
席位： 目标是看每个线索赢得了多少个“议会席位”。总席位数是固定的（例如 600 个议会席位）。

2. 顿特法（D'Hondt Method）：一种公平的计票方式

论文使用了一种被称为顿特法的具体规则来统计选票。这是一种现实世界中使用的规则，在土耳其和西班牙等国家广泛应用，旨在确保小党派也能获得公平的代表权，而不仅仅是让大党通吃。

运作方式： 想象计算机有 60 席空缺席位需要填补。它先看谁获得的选票最多，然后给他们一个席位。接着，它会为其他人重新计算胜算。它会一个接一个地发放席位，直到 600 个席位全部填满。
结果： 获得最多“席位”的线索，就是 AI 在做出决策时最为依赖的线索。如果“细胞形状”获得了 124 个席位，而“年龄”仅获得 26 个席位，你就知道计算机比起年龄，更看重细胞的形状。

3. 结盟（团队合作）

在现实政治中，小党派有时会联合起来组成“联盟”或“联合政府”，以便共同赢得更多席位。DhondtXAI 也允许你对 AI 线索进行同样的操作。

案例： 在糖尿病研究中，作者将相关的症状组合在一起。他没有将“口渴”、“尿频”和“体重减轻”视为三个独立的政党，而是将它们放入了一个名为“糖尿病症状”的大型“联盟”中。
益处： 这个联盟合并了它们的选票。突然之间，这个“超级政党”赢得了大量的席位（600 席中的 361 席），这表明作为一组整体的症状是最强大的预测因子，即使单个症状看起来可能并不显著。

4. 门槛过滤器（最低标准）

有时，太多的微小政党（或不重要的线索）会扰乱议会。论文引入了一个门槛（Threshold），这就像是一个政党进入选举必须跨越的最低标准。

运作方式： 用户可以设定：“只有获得至少 10% 选票的政党才能获得席位。”
结果： 任何未能达标的线索都会被剔除。它们的选票随后会被重新分配给那些确实达标的强势线索。这清理了噪声，让你得到一份清晰的、仅包含最重要因素的名单。

他们发现了什么？

作者将这种新的“选举系统”与一种标准的、广为人知的名为 SHAP 的方法（利用复杂数学来解释 AI）进行了对比测试。

乳腺癌测试： 当他们在乳腺癌模型上运行测试时，“选举”和“数学”的结果几乎完全一致。在议会中赢得最多席位的线索，正是数学方法所认为最重要的那些线索。
糖尿病测试： 他们对糖尿病也做了同样的工作。结果再次吻合。“糖尿病症状”联盟赢得了选举，证实了这些症状是驱动预测的关键因素。

为什么这很重要？

论文认为，这种方法之所以出色，是因为它将枯燥、令人困惑的数据转化为了我们都能理解的故事：政治。

与其盯着一张数字表格，医生或患者可以观察一个“议会”，并看到哪些“政党”（线索）掌握着最多的权力。
它让 AI 变得更加透明和公平，就像一个民主制度，每个声音（线索）都有机会被听到，但最响亮的声音（最重要的线索）会获得最多的席位。

简而言之，DhondtXAI 将 AI 那可怕且隐形的逻辑，转化为了一个可见的、民主的选举，让你能清晰地看到谁在掌控决策。

技术摘要：通过民主视角解读可解释人工智能：利用顿特法实现比例特征重要性的 DhondtXAI

问题陈述
本文探讨了复杂机器学习模型（特别是如神经网络和集成树模型（如 CatBoost、XGBoost）等“黑盒”系统）在可解释性方面面临的挑战。虽然现有的可解释人工智能（XAI）技术（如 SHAP 和 LIME）提供了事后解释，但作者认为，需要一种能够提供直观、结构化且透明表示的替代框架。具体而言，本文旨在通过将民主选举制度的原则应用于特征归因领域，弥合技术模型机制与人类理解之间的鸿沟。其核心问题是如何以一种能够实现比例代表制、联盟形成（对相关特征进行分组）和阈值处理（过滤低影响变量）的方式来呈现特征重要性，从而增强高风险领域（如医疗保健）中的用户信任和清晰度。

方法论
本研究引入了 DhondtXAI，这是一个库及方法论，它应用了用于在政治选举中分配“席位”（代表单位）的顿特法（D'Hondt method）——一种比例代表制系统——来根据计算出的重要性向特征或特征组分配“席位”。该方法论通过以下结构化步骤进行：

特征重要性计算： 过程始于从树模型（随机森林、梯度提升树）中提取标准的特征重要性。这是通过汇总所有使用该特征作为分裂准则的节点和树中的不纯度减少量（信息增益）来计算的。
用户定义参数： 该框架允许用户指定：
- 总票数 ( $V$ )： 代表要分配的总资源的标量。
- 总席位 ( $M$ )： 要分配的代表单位数量。
- 排除项： 用于从分析中移除的特征。
- 联盟： 被视为单一投票实体的用户定义特征分组。
- 阈值： 具备获得席位分配资格所需的最低票数百分比。
选票分配： 最初将票数根据特征或联盟相对于总重要性的重要性得分，按比例分配给它们。
阈值应用与重新分配： 如果设置了用户定义的阈值，低于该票数的特征或联盟将被排除。它们的票数将根据其相对重要性，按比例重新分配给剩余的“高于阈值”的实体。
席位分配（顿特法）： 席位通过迭代方式进行分配。对于每个特征/联盟 $i$ ，计算席位比例 $S_i$ ，公式为 $S_i = \frac{\text{重新分配后的票数}_i}{k + 1}$ ，其中 $k$ 是当前持有的席位数。获得最高 $S_i$ 的实体获得下一个席位， $k$ 随之递增，并重复此过程，直到分配完所有 $M$ 个席位。

核心贡献

新颖框架： 本文提出了 DhondtXAI，这是一种将特征重要性转化为“议会式”视图的新颖方法，其中特征根据比例代表制竞争席位。
联盟机制： 它引入了“特征联盟”的概念，允许用户将相关的变量进行分组（例如疾病的症状），以评估它们的集体影响，类似于政党组建联盟。
阈值处理： 它结合了选举式的阈值来过滤噪声，确保只有具有显著影响力的特征在最终解释中被突出显示。
与标准 XAI 集成： 该方法旨在作为现有技术（如 SHAP）的补充，从资源分配的角度提供传统的数学归因之外的视角。

结果
研究使用两个数据集验证了 DhondtXAI：

威斯康星州乳腺癌数据集（CatBoost 模型）：
- 该模型实现了 96% 的准确率和 1.00 的 AUC。
- DhondtXAI 向 10 个特征分配了 600 个席位。“平均凹点”（Mean concave points）获得的席位最多（124 个），其次是“平均纹理”（Mean texture）（121 个）。
- DhondtXAI 席位计数与全局 SHAP 值之间的 Spearman 相关性分析显示，其系数为 0.83 ( $p=0.0029$ )，表明存在强烈的、具有统计学意义的正相关性。
- 议会式可视化成功反映了 SHAP 对顶层特征的识别及其方向性相关性（例如，红色表示与良性结果呈负相关）。
早期糖尿病风险预测数据集（XGBoost 模型）：
- 该模型实现了 98% 的准确率和 1.00 的 AUC。
- 特征被分为若干联盟（例如，Diabetes_Symptoms [糖尿病症状]、Metabolic_Body [代谢身体]）。
- Diabetes_Symptoms 联盟在分配中占据主导地位，获得了 600 个席位中的 361 个。
- 联盟席位计数与平均 SHAP 值之间的 Spearman 相关性为 0.40 ( $p=0.505$ )，这在统计学上并不显著。作者注意到了这一差异，但认为基于联盟的方法为分组特征提供了一个不同且更直观的视角。
- 阈值应用： 应用 10% 的票数阈值过滤掉了 Vision_Nervous 和 Psychological 联盟（将其席位降至 0），同时增加了前三个联盟（Metabolic_Body、Diabetes_Symptoms、Skin_Infection）的席位计数，展示了该方法精炼关注重点的能力。

意义与主张
论文声称 DhondtXAI 提供了一个互补的且直观的可解释人工智能工具。其意义在于：

使可解释性民主化： 通过使用熟悉的政治隐喻（议会席位），它使复杂的模型决策对非技术利益相关者而言变得易于理解，从而为不同特征的公平代表提供了一种感觉。
增强灵活性： 能够形成联盟并应用阈值，使其能够对特征交互和噪声减少进行更细致的分析，而传统的基于点的重要性指标可能无法明确支持这一点。
符合伦理 AI 标准： 比例代表制框架被呈现为迈向伦理 AI 的一步，确保特征的影响力得到透明的分配，并确保通过联盟（alliances）可以不被忽视的微小但具有集体重要性的因素。
验证： 与乳腺癌数据集在 SHAP 上的强相关性表明，DhondtXAI 提供了连贯的特征重要性排名，验证了其作为二次解释工具的可靠性。

作者总结道，虽然 DhondtXAI 可能无法取代用于个体预测分析的细粒度方法（如 SHAP），但它提供了一个结构化的、具有社会共鸣的框架，用于理解高风险决策环境中特征的集体影响。