💻 computer science

Trusted and Explainable Collective Learning for Conflictive Multi-View Decision-Making

本文提出了一种可信且可解释的集体学习（TECL）方法，该方法并非简单地消除多视图数据中的冲突，而是主动利用这些冲突来评估个体一致性、优先排序视图，并生成可靠且具解释性的集体决策。

原作者： Nengjun Zhu, Zhiyu Zhang, Shenghui Lan, Jian Cao, Siji Zhu

发布于 2026-06-29

📖 1 分钟阅读☕ 轻松阅读

原作者： Nengjun Zhu, Zhiyu Zhang, Shenghui Lan, Jian Cao, Siji Zhu

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一名患有复杂健康问题的患者，当你走进一间病房时，发现里面坐着五位不同的医生。你有一个骨骼问题，但其中一位是心脏专家，另一位是胃部专家，还有一位是骨科医生。

问题所在：所谓的“冲突”通常被视为负面因素
在过去，当这些医生产生分歧时，计算机系统（甚至是一些人类团队）会试图消除这种分歧。它们会说：“好吧，三个医生说是‘心脏’问题，两个说是‘骨骼’问题。让我们忽略骨科医生的意见，听从大多数人的意见，”或者“让我们把他们的意见取个平均值，直到分歧消失为止。”

这篇论文的作者认为这是一个错误。他们指出：分歧实际上是有用的信息。 当医生们产生分歧时，它告诉了我们他们为什么会有不同的思考方式。心脏医生在观察你的心脏；骨科医生在观察你的骨架。如果我们不理解冲突的原因，就只是简单地将他们的意见混合在一起，我们就会丢失那些可能挽救你生命的细微差别。

解决方案：TECL（“值得信赖的团队领导者”）
这篇论文介绍了一种名为 TECL（可信且可解释的集体学习）的新型计算机方法。请将 TECL 想象成不是一个试图让团队保持沉默的裁判，而是一个超级智能的团队领导者，它主持一场会议，确保每个人的声音都被听到，但最终的决策是基于谁对这位特定患者了解得最深。

以下是 TECL 的运作方式，分为几个简单的步骤：

1. “双概念”眼镜（观察细节）

想象每位医生都戴上了一副特殊的眼镜。

特征眼镜（Feature Glasses）： 这些眼镜会突出显示医生正在观察的具体身体部位。心脏医生的眼镜会放大心脏；骨科医生的眼镜会放大骨架。这有助于计算机理解每位医生关注的重点是什么。
决策眼镜（Decision Glasses）： 这些眼镜展示了医生的最终结论及其态度。它回答了：“你是支持团队的最终计划，还是强烈反对它？”

通过使用这些“眼镜”，系统不仅仅看到了“是/否”的答案，还看到了答案背后的推理过程。

2. “证据库”（核实事实）

TECL 不仅仅因为某位医生拥有高级头衔（如“首席心脏病专家”）就盲目信任他，而是会询问：“针对这位特定患者，你有什么证据？”

它使用一种数学工具（称为“证据深度学习”）来检查证据的强度。
如果一位医生说：“这位患者需要进行骨骼手术，”TECL 会检查数据。如果证据薄弱，该医生的意见会被标记为“不确定”；如果证据充足，则会被标记为“可靠”。
至关重要的是，TECL 保留了冲突的存在。它不会仅仅因为骨科医生与心脏医生意见不一就删除骨科医生的意见。它会记录下存在分歧的事实，并计算这种分歧在多大程度上降低了对最终决策的信心。

3. “动态优先级”系统（谁来主持会议？）

这是最聪明的部分。在真实的会议中，通常由“首席医生”领导。但在 TECL 中，领导者会根据情况发生变化。

内在重要性（Inherent Importance）： 这是医生的永久排名（类似于他们的职位）。
动态感知（Dynamic Perception）： 这是医生在此时此刻的相关程度。
- 示例： 如果患者腿部骨折，骨科医生（即使可能只是一位初级医生）在这一特定案例中会突然变成“团队领导”，即使首席心脏病专家也在场。TECL 会自动提升骨科医生的权重，因为他们的专业知识与患者的具体问题相匹配。
- 如果患者是心肌梗死，首席心脏病专家就会获得提升。

4. 最终裁决（“可靠的”决策）

TECL 使用一种特殊的公式来综合所有这些意见。

如果所有人达成一致，最终决策是高可靠性。
如果他们产生分歧，系统并不会简单地选出一个赢家。它会说：“我们存在冲突。骨科医生关于骨骼的问题是正确的，但心脏病专家对心脏状况表示担忧。最终决策是骨骼手术，但可靠性评分为中等，因为存在心脏方面的顾虑。”

这为最终答案提供了两样东西：

决策： 我们应该怎么做？
解释： 我们为什么做出这个选择？（例如：“我们选择骨骼手术，是因为骨科专家针对此特定病例提供了最强的证据，尽管心脏专家持有异议。”）

为什么这种方法更好？

它倾听少数派的声音： 如果一位初级医生对某个特定问题拥有正确答案，TECL 会让他们发声，而不是让他们被“首席专家”的声音淹没。
它具有自我解释能力： 它可以向你展示是哪些特征（如特定的基因或症状）导致了医生的分歧。
它对不确定性保持诚实： 如果医生们意见不一，系统会承认“我们不是 100% 确定”，而不是假装自己很有信心。

总结：
这篇论文提出了一种聪明的系统，它将分歧视为一种宝贵的线索，而非错误。它就像一位睿智的会议主持人，知道何时该让心脏专家主导，何时该让骨科专家主导，从而确保最终的决策不仅准确，而且具有可解释性，并且对自己的信心水平保持诚实。

注：论文在涉及多位医生会诊的真实乳腺癌咨询数据集上测试了这种方法，结果发现它在做出准确决策和解释原因方面，表现优于现有方法。

技术摘要：用于冲突性多视图决策的可信且可解释的集体学习

1. 问题定义

本文探讨了多视图决策中的挑战，即不同的数据源（视图）或专家提供冲突意见的情况。在现实场景中（如多学科医学会诊），不同的视图往往拥有独特的见解，从而导致分歧。现有方法通常将冲突视为负面因素，旨在通过负向操作（如对齐视图或丢弃冲突实例）来消除或最小化冲突。然而，这种方法往往忽略了冲突在揭示视图差异以及评估决策可靠性方面的价值。

此外，当前的多视图学习方法存在两个主要局限性：

缺乏可靠性建模： 它们通常无法量化单个视图决策以及最终集体意见的不确定性和可靠性，尤其是在发生冲突时。
缺乏可解释性： 虽然存在一些可解释模型（例如概念瓶颈模型），但它们通常只关注最终决策，而无法解释单个视图的特征级推理过程或它们之间冲突的根本原因。

目标是开发一种能够主动建模冲突而非抑制冲突的方法，从而在准确预测单个视图输出和最终共识的同时，增强集体决策的可信度和可解释性。

2. 方法论：可信且可解释的集体学习 (TECL)

作者提出了 TECL（及其变体 TrustCL），这是一个旨在通过三个核心模块处理冲突性多视图数据的框架：

A. 双层概念学习模块 (Dual-Concepts Learning Module)

该模块旨在从特征层和决策层捕捉概念，以增强可解释性。

特征概念： 对输入特征 ( $x_v$ ) 应用注意力机制以生成特征概念 ( $a_v$ )，代表特定视图对样本特征的关注程度。
决策概念： 在特征概念的引导下，增强后的实例 ( $\hat{x}_v$ $\overset{x}{^}_{v}$ ) 被输入到态度捕获网络和证据深度神经网络 (DNN) 中。这产生了：
- 个体决策： 该视图预测的类别。
- 支持态度： 一个二进制指标（0 或 1），显示该视图是否支持最终的集体决策。
共识判断： 如果所有视图保持一致（无冲突），则立即生成一个高度可靠的集体决策。如果存在冲突，则进入下一个模块。

B. 视图特定证据学习模块 (View-Specific Evidence Learning Module)

该模块利用证据深度学习 (EDL) 来量化每个视图意见的可靠性。

证据获取： 模型不进行标准分类，而是为每个视图输出证据向量 ( $e_v$ )。
可靠性计算： 利用主观逻辑 (Subjective Logic) 和 Dirichlet 分布，模型将证据转换为多元意见 $w_v = \{b_v, u_v\}$ ，其中 $b_v$ 代表信念质量， $u_v$ 代表不确定性。
核心创新： 模型使用单个视图的地面真值 ( $y_v$ ) 作为监督信号，而非仅仅使用集体真值。这保留了视图之间固有的冲突和差异，使 DNN 能够学习关于每个观点及其相关不确定性的特定知识。

C. 面向可靠性的集体学习 (RoCL) 模块

该模块通过为每个视图计算动态优先级来融合冲突的意见。

优先级定义： 视图的优先级 $c_v$ $c_{v}$ 由两个因素决定：
1. 内在重要性 ( $\mu$ )： 基于视图历史地位或角色的静态先验（例如，主任心脏科医生与全科医生）。
2. 动态感知 ( $\sigma$ )： 基于视图与特定数据实例相关性的实例特定重要性（例如，骨科医生对于骨损伤具有更高的相关性）。
融合机制： 优先级通过 Dirichlet 分布 进行采样并建模为 正态分布。最终的集体意见通过使用这些优先级作为权重来融合视图特定意见 ( $w_v$ $w_{v}$ ) 生成。
- 融合规则（公式 8）在数学上结合了信念和不确定性。如果视图发生冲突，集体意见的不确定性会增加，反映出共识可靠性的降低。
- 如果视图达成一致，则信念得到强化。

D. 损失函数

训练目标结合了三个部分：

基于证据的交叉熵 ( $L_{ace}$ )： 使用 Dirichlet 分布确保正确的标签预测，以捕捉二阶不确定性。
KL 散度 ( $L_{KL}$ )： 最小化预测的 Dirichlet 分布与均匀分布之间的差异，确保抑制误导性的证据。
二元交叉熵 ( $L_{bce}$ )： 训练模型预测视图决策是否与集体意见一致。
总损失对单个视图误差和集体预测误差同时进行惩罚，将冲突视为学习的动力而非需要消除的错误。

3. 主要贡献

主动冲突建模： 本文提出了 TrustCL 和 TECL，它们通过主动建模个体间的冲突来突出视图差异并揭示决策的可靠性，而非抑制冲突。
双层可解释性： TECL 在特征层（视图关注哪些特征）和决策层（为什么视图支持特定结果）建模概念，为个体和集体决策提供解释。
动态优先级与可靠性融合： 该方法根据内在地位和实例特定贡献动态确定视图优先级。它将这些优先级与视图特定证据相结合，以生成最终的集体意见及其可靠性评分。
实证验证： 该方法在真实世界的多学科医学会诊数据集 (BCDB) 上得到了验证，证明了其在准确率、召回率和平均倒数排名 (MRR) 方面优于基准模型。

4. 实验结果

作者在 BCDB（乳腺癌数据库） 数据集上评估了 TECL 和 TrustCL，该数据集包含 9,015 个涉及六位医生（视图）的多学科医学建议实例。

性能： TECL 在单视图预测（个体医生准确率）和集体预测（最终共识准确率）方面均优于最先进的基准模型（包括 TMC、ECML 和 MLP 变体）。
- 集体准确率 (CA)： TECL 达到了 78.5%，而次优模型 (ECMLboth) 为 77.9%。
- 个体准确率 (IA)： TECL 达到了 74.5%，优于 ECML (73.5%) 和 TMC (70.6%)。
消融实验： 移除动态感知组件 ( $\sigma$ ) 或仅依赖内在重要性 ( $\mu$ ) 会显著降低性能，证实了根据特定实例动态调整视图必要性的必要性。
可解释性分析： 可视化结果表明，模型能够正确识别何时特定的医生（例如，针对骨骼问题的骨科医生）尽管其“头衔”较低，却应具有更高的优先级。它还成功量化了当视图强烈分歧时，集体可靠性会随之下降，从而提供了一种透明的决策置信度度量。

5. 意义与主张

本文声称 TECL 代表了可靠且可解释多视图学习的一个新分支。其核心意义在于将范式从冲突减少转向冲突利用。通过将冲突意见视为可靠性建模的有价值信息，该方法：

通过显式建模不确定性，增强了集体决策的可信度。
为“为什么做出决策”以及“为什么发生冲突”提供了可解释性，这对于医疗诊断等安全至上的应用至关重要。
确保了“少数派的声音”（例如，具有特定专注领域的专家）不会被多数派或静态等级制度所淹没，只要证据支持这一点。

作者总结道，他们的方法有效地平衡了准确的集体决策需求与理解复杂多学科环境下底层推理及可靠性的需求。未来的工作建议探索集成大语言模型 (LLM) 以处理大规模语义上下文。