💻 computer science

Trusted and Explainable Collective Learning for Conflictive Multi-View Decision-Making

Dit artikel stelt Trusted and Explainable Collective Learning (TECL) voor, een nieuwe methode die actief gebruikmaakt van conflicten in multi-view data om individuele consistentie te beoordelen, views te prioriteren en betrouwbare, interpreteerbare collectieve beslissingen te genereren, in plaats van dergelijke conflicten simpelweg te elimineren.

Oorspronkelijke auteurs: Nengjun Zhu, Zhiyu Zhang, Shenghui Lan, Jian Cao, Siji Zhu

Gepubliceerd 2026-06-29

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Nengjun Zhu, Zhiyu Zhang, Shenghui Lan, Jian Cao, Siji Zhu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een patiënt bent met een complex gezondheidsprobleem en je loopt een ziekenhuiskamer binnen vol met vijf verschillende artsen. Je hebt een botprobleem, maar één arts is een hartspecialist, een andere is een maagspecialist en een derde is een orthopeed.

Het Probleem: Het "Conflict" wordt meestal als slecht gezien
In het verleden, wanneer deze artsen het oneens waren, probeerden computersystemen (en zelfs menselijke teams) de onenigheid te sussen. Ze zeiden: "Oké, drie artsen zeggen 'Hart', twee zeggen 'Bot'. Laten we de botartsen gewoon negeren en voor de meerderheid gaan," of "Laten we hun meningen middelen totdat de onenigheid verdwijnt."

De auteurs van dit artikel stellen dat dit een fout is. Ze zeggen: Onenigheid is eigenlijk waardevolle informatie. Wanneer artsen het oneens zijn, vertelt dat ons waarom ze anders denken. De hartarts kijkt naar je hart; de botarts kijkt naar je skelet. Als we hun meningen simpelweg samenvoegen zonder de onenigheid te begrijpen, verliezen we de nuance die je leven kan redden.

De Oplossing: TECL (De "Betrouwbare Teamleider")
Het artikel introduceert een nieuwe computermethode genaamd TECL (Trusted and Explainable Collective Learning). Denk aan TECL niet als een scheidsrechter die het team tot zwijgen brengt, maar als een superintelligente teamleider die een vergadering leidt waarin iedereen wordt gehoord, maar waarbij de uiteindelijke beslissing gebaseerd is op wie het meest weet over deze specifieke patiënt.

Zo werkt TECL, onderverdeeld in eenvoudige stappen:

1. De "Dual-Concept" Brillen (De details zien)

Stel je voor dat elke arts een speciale bril opzet.

Feature Brillen: Deze brillen benadrukken de specifieke lichaamsdelen waar de arts naar kijkt. De bril van de hartarts zoomt in op het hart; de bril van de botarts zoomt in op het skelet. Dit helpt de computer te begrijpen waarop elke arts zich concentreert.
Decision Brillen: Deze brillen tonen het definitieve oordeel van de arts en de houding ervan. Het beantwoordt de vraag: "Steun je het uiteindelijke plan van de groep, of ben je er fel tegenover?"

Door deze "brillen" te gebruiken, ziet het systeem niet alleen een "Ja/Nee"-antwoord; het ziet de redenering achter het antwoord.

2. De "Evidence Vault" (De feiten controleren)

In plaats van een arts blind te vertrouwen vanwege een chique titel (zoals "Hoofdcardioloog"), vraagt TECL: "Welk bewijs heb je voor deze specifieijke patiënt?"

Het gebruikt een wiskundig hulpmiddel (genaamd "Evidential Deep Learning") om te controleren hoe sterk het bewijs is.
Als een arts zegt: "Deze patiënt heeft een botoperatie nodig," controleert TECL de gegevens. Als het bewijs zwak is, wordt de mening van de arts gemarkeerd als "onzeker". Als het bewijs sterk is, wordt het gemarkeerd als "betrouwbaar".
Cruciaal is dat TECL de conflict levend houdt. Het wist de mening van de botarts niet simpelweg omdat de hartarts het er niet mee eens is. Het legt vast dat er een onenigheid is en berekent hoeveel deze onenigheid het algemene vertrouwen in de uiteindelijke beslissing verlaagt.

3. Het "Dynamic Priority" Systeem (Wie leidt de vergadering?)

Dit is het slimste deel. In een echte vergadering leidt de "Hoofdarts" meestal. Maar in TECL verandert de leider afhankelijk van de situatie.

Inherent Belang: Dit is de permanente rang van de arts (zoals hun functietitel).
Dynamische Perceptie: Dit is hoe relevant de arts op dit moment is.
- Voorbeeld: Als de patiënt een gebroken been heeft, wordt de Orthopeed (die misschien een junior arts is) plotseling de "Teamleider" voor deze specifie�s casus, zelfs als de Hoofdcardioloog aanwezig is. TECL verhoogt automatisch het gewicht van de Orthopeed omdat hun expertise overeenkomt met het specifieke probleem van de patiënt.
- Als de patiënt een hartaanval krijgt, krijgt de Hoofdcardioloog de verhoging.

4. Het Uiteindelijke Vonnis (De "Betrouwbare" Beslissing)

TECL combineert al deze meningen met een speciale formule.

Als iedereen het eens is, is de uiteindelijke beslissing Hoge Betrouwbaarheid.
Als ze het oneens zijn, kiest het systeem niet simpelweg een winnaar. Het zegt: "Er is een conflict. De Orthopeed heeft gelijk over het bot, maar de Cardioloog maakt zich zorgen over het hart. De uiteindelijke beslissing is Botoperatie, maar de Betrouwbaarheidsscore is Medium vanwege de zorg over het hart."

Dit geeft de uiteindelijke beslissing twee dingen:

De Beslissing: Wat moeten we doen?
De Uitleg: Waarom hebben we hiervoor gekozen? (bijv. "We hebben gekozen voor de botoperatie omdat de botexpert het sterkste bewijs had voor deze specifieke casus, ook al was de hartexpert het er niet mee eens.")

Waarom is dit beter?

Het luistert naar de minderheid: Als een junior arts het juiste antwoord heeft voor een specifiek probleem, laat TECL hen spreken, in plaats van dat ze worden overstemd door de "Hoofdarts".
Het legt zichzelf uit: Het kan laten zien welke kenmerken (zoals een specifiek gen of symptoom) ervoor zorgden dat de artsen het oneens waren.
Het is eerlijk over onzekerheid: Als de artsen ruzie maken, geeft het systeem toe: "We weten het niet 100% zeker," in plaats van te doen alsof het vol vertrouwen is.

Samenvattend:
Het artikel stelt een slim systeem voor dat onenigheid behandelt als een waardevolle aanwijzing in plaats van een fout. Het fungeert als een wijze voorzitter van een vergadering die weet wanneer hij de hartspecialist de leiding moet geven en wanneer hij de botspecialist de leiding moet geven, waardoor de uiteindelijke beslissing niet alleen accuraat is, maar ook uitlegbaar en eerlijk over de mate van zekerheid.

Noot: Het artikel testte deze methode op een echte dataset van borstkankerconsultaties waarbij meerdere artsen betrokken waren en stelde vast dat deze methode beter presteerde dan bestaande methoden bij het nemen van accurate beslissingen en het uitleggen van de redenen daarvoor.

Technische Samenvatting: Vertrouwd en Uitlegbaar Collectief Leren voor Conflictueuze Multi-View Besluitvorming

1. Probleemdefinitie

Het artikel behandelt de uitdaging van multi-view besluitvorming waarbij verschillende gegevensbronnen (views) of experts conflicterende meningen geven. In real-world scenario's, zoals multidisciplinaire medische consultaties, bevatten verschillende views vaak unieke inzichten die leiden tot onenigheid. Bestaande methoden behandelen conflict doorgaans als een negatieve factor, met als doel het te elimineren of te minimaliseren door middel van negatieve operaties (bijv. het afstemmen van views of het verwijderen van conflicterende instanties). Deze benadering negeert echter vaak de waarde van conflict bij het onthullen van onderscheid tussen views en het beoordelen van de betrouwbaarheid van beslissingen.

Bovendien lijden huidige multi-view leermethoden onder twee belangrijke beperkingen:

Gebrek aan Betrouwbaarheidsmodellering: Ze falen vaak in het kwantificeren van de onzekerheid en betrouwbaarheid van zowel individuele view-beslissingen als de uiteindelijke collectieve opinie, vooral wanneer er conflicten ontstaan.
Gebrek aan Uitlegbaarheid: Hoewel er interpreteerbare modellen bestaan (bijv. Concept Bottleneck Models), richten deze zich vaak op de uiteindelijke beslissing zonder de feature-niveau redenering van individuele views of de grondoorzaken van conflicten tussen hen te verklaren.

Het doel is om een methode te ontwikkelen die conflicten actief modelleert in plaats van ze te onderdrukken, waardoor de betrouwbaarheid en interpreteerbaarheid van collectieve beslissingen wordt verbeterd, terwijl zowel de individuele view-outputs als de uiteindelijke consensus nauwkeurig worden voorspeld.

2. Methodologie: Trusted and Explainable Collective Learning (TECL)

De auteurs stellen TECL (en de variant TrustCL) voor, een framework ontworpen om conflictueuze multi-view data te verwerken via drie kernmodules:

A. Dual-Concepts Learning Module

Deze module heeft als doel concepten te vangen op zowel het feature-niveau als het beslissingsniveau om de interpreteerbaarheid te verbeteren.

Feature Concepts: Een aandachtsmethode (attention mechanism) wordt toegepast op input features ( $x_v$ ) om feature concepten ( $a_v$ ) te genereren, die de mate van aandacht vertegenwoordigen die een specifieke view besteedt aan sample features.
Decision Concepts: Verbeterde instanties ( $\hat{x}_v$ $\overset{x}{^}_{v}$ ), geleid door feature concepten, worden ingevoerd in een attitude capture netwerk en een evidentieel Deep Neural Network (DNN). Dit produceert:
- Individuele Beslissingen: De voorspelde categorie voor de view.
- Ondersteunende Attitudes: Een binaire indicator (0 of 1) die aangeeft of de view de uiteindelijke collectieve beslissing ondersteunt.
Consensus Oordeel: Als alle views consistent zijn (geen conflict), wordt onmiddellijk een zeer betrouwbare collectieve beslissing gegenereerd. Als er conflicten bestaan, gaat het proces door naar de volgende module.

B. View-Specific Evidence Learning Module

Deze module maakt gebruik van Evidential Deep Learning (EDL) om de betrouwbaarheid van de opinie van elke view te kwantificeren.

Evidence Acquisition: In plaats van standaard classificatie, geeft het model evidence vectoren ( $e_v$ ) uit voor elke view.
Betrouwbaarheidsberekening: Met behulp van Subjective Logic en de Dirichlet-distributie zet het model evidence om in een multinominale opinie $w_v = \{b_v, u_v\}$ , waarbij $b_v$ de geloofsmassa's (belief masses) representeert en $u_v$ de onzekerheid.
Kerninnovatie: Het model gebruikt de grondwaarheid van de individuele view ( $y_v$ ) als een gesuperviseerd signaal in plaats van alleen de collectieve waarheid. Dit behoudt de inherente conflicten en verschillen tussen views, waardoor de DNN specifieke kennis over elk standpunt en de bijbehorende onzekerheid kan leren.

C. Reliability-Oriented Collective Learning (RoCL) Module

Deze module fuseert conflicterende opinies door een dynamische prioriteit voor elke view te berekenen.

Definitie van Prioriteit: De prioriteit $c_v$ $c_{v}$ van een view wordt bepaald door twee factoren:
1. Inherente Belangrijkheid ( $\mu$ ): Een statische prior gebaseerd op de historische status of rol van de view (bijv. een hoofdarts cardiologie versus een huisarts).
2. Dynamische Perceptie ( $\sigma$ ): Een instantie-specifieke belangrijkheid afgeleid van de relevantie van de view voor de specifieke data-instantie (bijv. een orthopedist met een hogere relevantie voor een botletsel).
Fusiemechanisme: De prioriteiten worden gemodelleerd met behulp van een Normale distributie gesampled via een Dirichlet-distributie. De uiteindelijke collectieve opinie wordt gegenereerd door de view-specifieke opinies ( $w_v$ $w_{v}$ ) te fuseren met behulp van deze prioriteiten als gewichten.
- De fusieregel (Vergelijking 8) combineert wiskundig geloof en onzekerheid. Als views conflicteren, neemt de onzekerheid van de collectieve opinie toe, wat de verminderde betrouwbaarheid van de consensus reflecteert.
- Als views het eens zijn, wordt het geloof versterkt.

D. Loss Function

Het trainingsdoel combineert drie componenten:

Evidence-based Cross-Entropy ( $L_{ace}$ ): Zorgt voor correcte labelvoorspelling met behulp van de Dirichlet-distributie om tweede-orde onzekerheid te vangen.
KL Divergentie ( $L_{KL}$ ): Minimaliseert het verschil tussen de voorspelde Dirichlet-distributie en een uniforme distributie voor incorrecte labels, om ervoor te zorgen dat misleidende evidence wordt onderdrukt.
Binary Cross-Entropy ( $L_{bce}$ ): Traint het model om te voorspellen of de beslissing van een view overeenkomt met de collectieve opinie.
De totale loss straft zowel de fouten van individuele views als de fouten in de collectieve voorspelling af, waarbij conflict wordt behandeld als een motief voor leren in plaats van een fout die geëlimineerd moet worden.

3. Belangrijkste Bijdragen

Actieve Conflict Modellering: Het artikel stelt TrustCL en TECL voor, die actief conflicten tussen individuen modelleren om view-onderscheid te benadrukken en de betrouwbaarheid van beslissingen te onthullen, in plaats van ze te onderdrukken.
Interpretabiliteit op Dubbel Niveau: TECL modelleert concepten op zowel het feature-niveau (waarop een view zich richt) als het beslissingsniveau (waarom een view een specifieke uitkomst ondersteunt), wat verklaringen biedt voor zowel individuele als collectieve beslissingen.
Dynamische Prioriteit & Betrouwbaarheidsfusie: De methode bepaalt dynamisch de prioriteiten van views op basis van zowel inherente status als instantie-specifieke bijdragen. Het combineert deze prioriteiten met view-specifieke evidence om een uiteindelijke collectieve opinie en de bijbehorend betrouwbaarheidsscore te genereren.
Empirische Validatie: De aanpak wordt gevalideerd op een real-world multidisciplinaire medische consultatie dataset (BCDB), waarbij superieuriteit wordt aangetoond ten opzichte van baselines in nauwkeurigheid, recall en Mean Reciprocal Rank (MRR).

4. Experimentele Resultaten

De auteurs evalueerden TECL en TrustCL op de BCDB (Breast Cancer Database) dataset, die 9.015 instanties bevat van multidisciplinaire medische aanbevelingen waarbij zes artsen (views) betrokken zijn.

Prestaties: TECL presteerde beter dan state-of-the-art baselines (inclusief TMC, ECML en MLP varianten) in zowel single-view voorspelling (individuele arts nauwkeurigheid) als collectieve voorspelling (uiteindelijke consensus nauwkeurigheid).
- Collectieve Nauwkeurigheid (CA): TECL behaalde 78,5%, vergeleken met 77,9% voor de op één na beste (ECMLboth).
- Individuele Nauwkeurigheid (IA): TECL behaalde 74,5%, waarmee het ECML (73,5%) en TMC (70,6%) versloeg.
Ablatie-studies: Het verwijderen van de dynamische perceptiecomponent ( $\sigma$ ) of het vertrouwen op enkel de inherente belangrijkheid ( $\mu$ ) leidde tot een significante verslechtering van de prestaties, wat de noodzaak bevestigt om de belangstelling van views dynamisch aan te passen op basis van specifieke instanties.
Interpretabiliteitsanalyse: Visualisaties toonden aan dat het model correct identificeerde wanneer een specifieke arts (bijv. een orthopedist voor een botprobleem) een hogere prioriteit zou moeten hebben, ondanks een lagere "titel" dan een generalist. Het slaagde er ook in te kwantificeren dat de collectieve betrouwbaarheid afneemt wanneer views sterk van mening verschillen, wat een transparante maatstaf biedt voor beslissingsvertrouwen.

5. Betekenis en Claims

Het artikel claimt dat TECL een nieuw tak van betrouwbaar en uitlegbaar multi-view leren vertegenwoordigt. De primaire betekenis ligt in de verschuiving van het paradigma van conflictreductie naar conflictbenutting. Door conflicterende opinies te behandelen als waardevolle informatie voor betrouwbaarheidsmodellering, zorgt de methode voor:

Een verbetering van de geloofwaardigheid van collectieve beslissingen door expliciet onzekerheid te modelleren.
Het bieden van uitlegbaarheid over waarom een beslissing is genomen en waarom conflicten ontstonden, wat cruciaal is voor veiligheidskritische toepassingen zoals medische diagnoses.
Het waarborgen dat de "stem van de minderheid" (bijv. een specialist met een specifieke focus) niet wordt overstemd door de meerderheid of door een statische hiërarchie, mits de evidence dit ondersteunt.

De auteurs concluderen dat hun methode effectief een balans vindt tussen de behoefte aan nauwkeurige collectieve beslissingen en de behoefte aan begrip van de onderliggende redenering en de betrouwbaarheid van die beslissingen in complexe, multidisciplinaire omgevingen. Toekomstig werk suggereert het verkennen van de integratie van Large Language Models (LLMs) voor grootschalige semantische contexten.