💻 computer science

Trusted and Explainable Collective Learning for Conflictive Multi-View Decision-Making

Dieses Paper schlägt Trusted and Explainable Collective Learning (TECL) vor, eine neuartige Methode, die Konflikte in Multi-View-Daten aktiv nutzt, um die individuelle Konsistenz zu bewerten, Ansichten zu priorisieren und zuverlässige, interpretierbare kollektive Entscheidungen zu generieren, anstatt solche Konflikte lediglich zu eliminieren.

Ursprüngliche Autoren: Nengjun Zhu, Zhiyu Zhang, Shenghui Lan, Jian Cao, Siji Zhu

Veröffentlicht 2026-06-29

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Nengjun Zhu, Zhiyu Zhang, Shenghui Lan, Jian Cao, Siji Zhu

Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Patient mit einem komplexen Gesundheitsproblem und Sie betreten ein Krankenhauszimmer, das mit fünf verschiedenen Ärzten gefüllt ist. Sie haben ein Problem mit den Knochen, aber einer der Ärzte ist ein Herzspezialist, ein anderer ein Magenexperte und ein dritter ein Orthopäde.

Das Problem: Der „Konflikt“ wird meist als schlecht angesehen
In der Vergangenheit, wenn diese Ärzte uneinig waren, versuchten Computersysteme (und sogar einige menschliche Teams), die Uneinigkeit zum Schweigen zu bringen. Sie sagten: „Okay, drei Ärzte sagen ‚Herz‘, zwei sagen ‚Knochen‘. Lassen Sie uns die Knochenärzte einfach ignorieren und mit der Mehrheit entscheiden“, oder „Lassen wir ihre Meinungen so lange im Durchschnitt verschmelzen, bis die Uneinigkeit verschwindet.“

Die Autoren dieser Arbeit argumentieren, dass dies ein Fehler ist. Sie sagen: Uneinigkeit ist tatsächlich eine nützliche Information. Wenn Ärzte uneins sind, sagt uns das, warum sie unterschiedlich denken. Der Herzarzt schaut auf Ihr Herz; der Knochenarzt schaut auf Ihr Skelett. Wenn wir ihre Meinungen einfach zusammenmischen, ohne den Konflikt zu verstehen, verlieren wir die Nuancen, die Ihr Leben retten könnten.

Die Lösung: TECL (Der „Vertrauenswürdige Teamleiter“)
Das Papier stellt eine neue Computermethode namens TECL (Trusted and Explainable Collective Learning) vor. Denken Sie an TECL nicht als einen Schiedsrichter, der das Team zum Schweigen bringt, sondern als einen superintelligenten Teamleiter, der eine Sitzung leitet, in der jeder gehört wird, aber die endgültige Entscheidung darauf basiert, wer am meisten über diesen spezifischen Patienten weiß.

So funktioniert TECL, unterteilt in einfache Schritte:

1. Die „Dual-Concept“-Brillen (Die Details sehen)

Stellen Sie sich vor, jeder Arzt setzt eine spezielle Brille auf.

Feature-Brillen: Diese Brillen heben die spezifischen Körperteile hervor, auf die der Arzt schaut. Die Brille des Herzarztes zoomt auf das Herz; die Brille des Knochenarztes zoomt auf das Skelett. Dies hilft dem Computer zu verstehen, worauf jeder Arzt seinen Fokus legt.
Decision-Brillen: Diese Brillen zeigen das endgültige Urteil des Arztes und seine Einstellung. Sie beantworten die Frage: „Unterstützen Sie den endgültigen Plan der Gruppe oder lehnen Sie ihn entschieden ab?“

Durch die Verwendung dieser „Brillen“ sieht das System nicht nur eine „Ja/Nein“-Antwort; es sieht die Begründung hinter der Antwort.

2. Der „Evidence Vault“ (Die Fakten prüfen)

Anstatt einem Arzt nur deshalb zu vertrauen, weil er einen schicken Titel trägt (wie „Leitender Kardiologe“), fragt TECL: „Welche Beweise haben Sie für diesen spezifischen Patienten?“

Es verwendet ein mathematisches Werkzeug (genannt „Evidential Deep Learning“), um zu prüfen, wie stark die Beweislage ist.
Wenn ein Arzt sagt: „Dieser Patient benötigt eine Knochenoperation“, prüft TECL die Daten. Wenn die Beweise schwach sind, wird die Meinung des Arztes als „unsicher“ markiert. Wenn die Beweise stark sind, wird sie als „zuverlässig“ markiert.
Entscheidend ist, dass TECL den Konflikt am Leben erhält. Es löscht die Meinung des Knochenarztes nicht einfach, nur weil der Kardiologe widerspricht. Es hält fest, dass eine Uneinigkeit besteht, und berechnet, wie sehr diese Uneinigkeit das Vertrauen in die endgültige Entscheidung verringert.

3. Das „Dynamic Priority“-System (Wer leitet die Sitzung?)

Dies ist der cleverste Teil. In einer echten Sitzung leitet meist der „Chef-Arzt“. Aber in TECL ändert sich der Leiter je nach Situation.

Inhärente Wichtigkeit: Dies ist der permanente Rang eines Arztes (wie sein Jobtitel).
Dynamische Wahrnehmung: Dies ist die Frage, wie relevant der Arzt genau jetzt ist.
- Beispiel: Wenn der Patient ein gebrochenes Bein hat, wird der Orthopäde (der vielleicht ein Assistenzarzt ist) plötzlich zum „Teamleiter“ für diesen spezifischen Fall, selbst wenn der leitende Kardiologe im Raum ist. TECL erhöht automatisch das Gewicht des Orthopäden, weil seine Expertise zur spezifischen Problematik des Patienten passt.
- Wenn der Patient einen Herzinfarkt erleidet, erhält der leitende Kardiologe den Schub.

4. Das Endurteil (Das „zuverlässige“ Urteil)

TECL kombiniert all diese Meinungen unter Verwendung einer speziellen Formel.

Wenn alle zustimmen, ist die endgültige Entscheidung „Hoch Zuverlässig“.
Wenn sie sich uneinig sind, wählt das System nicht einfach einen Gewinner. Es sagt: „Wir haben einen Konflikt. Der Orthopäde hat recht bezüglich des Knochens, aber der Kardiologe ist besorgt wegen des Herzens. Die endgültige Entscheidung lautet Knochenoperation, aber der Zuverlässigkeitswert ist Mittel, da die Herzproblematik besteht.“

Dies liefert dem Endergebnis zwei Dinge:

Die Entscheidung: Was sollen wir tun?
Die Erklärung: Warum haben wir uns dafür entschieden? (z. B. „Wir haben uns für die Knochenoperation entschieden, weil der Knochenexperte die stärksten Beweise für diesen spezifischen Fall hatte, obwohl der Herzexperte widersprach.“)

Warum ist das besser?

Es hört auf die Minderheit: Wenn ein Assistenzarzt die richtige Antwort für ein spezifisches Problem hat, lässt TECL ihn zu Wort kommen, anstatt ihn vom „Chef“ übertönen zu lassen.
Es erklärt sich selbst: Es kann aufzeigen, welche Merkmale (wie ein bestimmtes Gen oder ein Symptom) dazu geführt haben, dass die Ärzte uneins waren.
Es ist ehrlich bezüglich der Unsicherheit: Wenn die Ärzte streiten, gibt das System zu: „Wir sind uns nicht zu 100 % sicher“, anstatt vorzutäuschen, man sei absolut sicher.

Zusammenfassend:
Das Paper schlägt ein intelligentes System vor, das Uneinigkeit als wertvollen Hinweis und nicht als Fehler betrachtet. Es agiert wie ein weiser Sitzungsmoderator, der weiß, wann er den Herzspezialisten führen lassen muss und wann er den Knochenspezialisten führen muss, um sicherzustellen, dass die endgültige Entscheidung nicht nur präzise, sondern auch erklärbar und ehrlich in Bezug auf das eigene Vertrauen ist.

Hinweis: Das Paper testete diese Methode an einem realen Datensatz von Brustkrebs-Konsultationen, an denen mehrere Ärzte beteiligt waren, und stellte fest, dass diese Methode im Vergleich zu bestehenden Methoden besser darin abschneidet, genaue Entscheidungen zu treffen und zu erklären, warum diese getroffen wurden.

Technisches Resümee: Vertrauenswürdiges und erklärbares kollektives Lernen für konfliktbehaftende Multi-View-Entscheidungsfindung

1. Problemdefinition

Die Arbeit befasst sich mit der Herausforderung der Multi-View-Entscheidungsfindung (Multi-View Decision-Making), bei der verschiedene Datenquellen (Views) oder Experten widersprüchliche Meinungen liefern. In realen Szenarien, wie etwa multidisziplinären medizinischen Konsultationen, führen unterschiedliche Ansichten oft zu einzigartigen Erkenntnissen, die Disagreements zur Folge haben. Bestehende Methoden behandeln Konflikte typischerweise als negativen Faktor und zielen darauf ab, sie durch negative Operationen (z. B. das Abgleichen von Views oder das Verwerfen widersprüchlicher Instanzen) zu eliminieren oder zu minimieren. Dieser Ansatz übersieht jedoch häufig den Wert von Konflikten für die Aufdeckung von View-Unterschieden und die Bewertung der Zuverlässigkeit von Entscheidungen.

Darüber hinaus leiden aktuelle Multi-View-Learning-Methoden unter zwei Hauptbeschränkungen:

Mangelnde Modellierung der Zuverlässigkeit: Sie versäumen es oft, die Unsicherheit und Zuverlässigkeit sowohl der individuellen View-Entscheidungen als auch der endgültigen kollektiven Meinung zu quantifizieren, insbesondere wenn Konflikte auftreten.
Mangelnde Erklärbarkeit: Obwohl einige interpretierbare Modelle existieren (z. B. Concept Bottleneck Models), konzentrieren sich diese oft auf die endgültige Entscheidung, ohne die Merkmals-basierte Begründung der einzelnen Views oder die Ursachen der Konflikte zwischen ihnen zu erklären.

Das Ziel ist die Entwicklung einer Methode, die Konflikte aktiv modelliert, anstatt sie zu unterdrücken, um dadurch die Vertrauenswürdigkeit und Interpretierbarkeit kollektiver Entscheidungen zu erhöhen und gleichzeitig sowohl die Ausgaben der einzelnen Views als auch den endgültigen Konsens präzise vorherzusagen.

2. Methodik: Vertrauenswürdiges und erklärbares kollektives Lernen (TECL)

Die Autoren schlagen TECL (und dessen Variante TrustCL) vor, ein Framework, das darauf ausgelegt ist, konfliktbehaftete Multi-View-Daten durch drei Kernmodule zu verarbeiten:

A. Dual-Concepts Learning Modul

Dieses Modul zielt darauf ab, Konzepte sowohl auf der Merkmalsebene (Feature Level) als auch auf der Entscheidungsebene (Decision Level) zu erfassen, um die Interpretierbarkeit zu verbessern.

Feature-Konzepte: Ein Attention-Mechanismus wird auf die Eingangsmerkmale ( $x_v$ ) angewendet, um Feature-Konzepte ( $a_v$ ) zu generieren, welche den Grad der Aufmerksamkeit darstellen, den ein spezifischer View auf bestimmte Stichprobenmerkmale legt.
Entscheidungs-Konzepte: Durch Feature-Konzepte gesteuerte, verbesserte Instanzen ( $\hat{x}_v$ $\overset{x}{^}_{v}$ ) werden in ein Attitude Capture Network und ein evidentielles Deep Neural Network (DNN) eingespeist. Dies erzeugt:
- Individuelle Entscheidungen: Die vorhergesagte Kategorie für den jeweiligen View.
- Unterstützende Einstellungen (Supporting Attitudes): Ein binärer Indikator (0 oder 1), der zeigt, ob der View die endgültige kollektive Entscheidung unterstützt.
Konsens-Urteil: Wenn alle Views konsistent sind (kein Konflikt), wird sofort eine hochgradig zuverlässige kollektive Entscheidung generiert. Bestehen Konflikte, setzt sich der Prozess im nächsten Modul fort.

B. View-spezifisches Evidence Learning Modul

Dieses Modul nutzt Evidential Deep Learning (EDL), um die Zuverlässigkeit der Meinung jedes Views zu quantifizieren.

Erwerb von Evidenz: Anstelle einer Standardklassifizierung gibt das Modell Evidenzvektoren ( $e_v$ ) für jeden View aus.
Berechnung der Zuverlässigkeit: Unter Verwendung von Subjective Logic und der Dirichlet-Verteilung konvertiert das Modell die Evidenz in eine multinomiale Meinung $w_v = \{b_v, u_v\}$ , wobei $b_v$ die Glaubensmassen (Belief Masses) und $u_v$ die Unsicherheit repräsentiert.
Kernelement: Das Modell verwendet die Ground Truth des individuellen Views ( $y_v$ ) als überwachtes Signal anstatt nur der kollektiven Wahrheit. Dies bewahrt die inhärenten Konflikte und Unterschiede zwischen den Views, wodurch das DNN in der Lage ist, spezifisches Wissen über jeden Standpunkt und die damit verbundene Unsicherheit zu erlernen.

C. Reliability-Oriented Collective Learning (RoCL) Modul

Dieses Modul führt widersprüchliche Meinungen zusammen, indem es eine dynamische Priorität für jeden View berechnet.

Definition der Priorität: Die Priorität $c_v$ $c_{v}$ eines Views wird durch zwei Faktoren bestimmt:
1. Inhärente Wichtigkeit ( $\mu$ ): Ein statischer Prior basierend auf dem historischen Status oder der Rolle des Views (z. B. ein leitender Kardiologe gegenüber einem Allgemeinmediziner).
2. Dynamische Wahrnehmung ( $\sigma$ ): Eine instanzspezifische Wichtigkeit, die sich aus der Relevanz des Views für die spezifische Dateninstanz ergibt (z. B. die höhere Relevanz eines Orthopäden bei einer Knochenverletzung).
Fusionsmechanismus: Die Prioritäten werden mittels einer Normalverteilung modelliert, die über eine Dirichlet-Verteilung gezogen wird. Die endgültige kollektive Meinung wird generiert, indem die View-spezifischen Meinungen ( $w_v$ $w_{v}$ ) unter Verwendung dieser Prioritäten als Gewichte fusioniert werden.
- Die Fusionsregel (Gleichung 8) kombiniert mathematisch Glauben (Belief) und Unsicherheit. Wenn die Views im Konflikt stehen, erhöht sich die Unsicherheit der kollektiven Meinung, was die reduzierte Zuverlässigkeit des Konsenses widerspiegelt.
- Wenn die Views übereinstimmen, wird der Glaube verstärkt.

D. Verlustfunktion (Loss Function)

Das Trainingsziel kombiniert drei Komponenten:

Evidenz-basierte Kreuzentropie ( $L_{ace}$ ): Stellt eine korrekte Label-Vorhersage sicher, indem die Dirichlet-Verteilung genutzt wird, um zweitgradige Unsicherheit zu erfassen.
KL-Divergenz ( $L_{KL}$ ): Minimiert die Differenz zwischen der vorhergesagten Dirichlet-Verteilung und einer Gleichverteilung für falsche Labels, um sicherzustellen, dass irreführende Evidenz unterdrückt wird.
Binäre Kreuzentropie ( $L_{bce}$ ): Trainiert das Modell darauf, vorherzusagen, ob die Entscheidung eines Views mit der kollektiven Meinung übereinstimmt.
Der Gesamtverlust bestraft sowohl die Fehler der individuellen Views als auch den Fehler der kollektiven Vorhersage, wobei Konflikt als Motiv für das Lernen und nicht als zu eliminierender Fehler behandelt wird.

3. Wichtigste Beiträge

Aktive Konfliktmodellierung: Die Arbeit schlägt TrustCL und TECL vor, die Konflikte zwischen Individuen aktiv modellieren, um View-Unterschiede hervorzuheben und die Zuverlässigkeit von Entscheidungen aufzuzeigen, anstatt sie zu unterdrücken.
Interpretierbarkeit auf zwei Ebenen: TECL modelliert Konzepte sowohl auf der Merkmalsebene (worauf ein View fokussiert) als auch auf der Entscheidungsebene (warum ein View ein bestimmtes Ergebnis unterstützt) und liefert so Erklärungen für sowohl individuelle als als auch kollektive Entscheidungen.
Dynamische Priorität & Zuverlässigkeitsfusion: Die Methode bestimmt dynamisch die Prioritäten der Views basierend auf sowohl der inhärenten Stellung als auch den instanzspezifischen Beiträgen. Sie kombiniert diese Prioritäten mit View-spezifischer Evidenz, um eine endgültige kollektive Meinung und deren Zuverlässigkeitswert zu generieren.
Empirische Validierung: Der Ansatz wird an einem realen Datensatz für multidisziplinäre medizinische Konsultationen (BCDB) validiert und zeigt eine Überlegenheit gegenüber Baselines in Bezug auf Genauigkeit, Recall und Mean Reciprocal Rank (MRR).

4. Experimentelle Ergebnisse

Die Autoren evaluierten TECL und TrustCL auf dem BCDB (Breast Cancer Database) Datensatz, der 9.015 Instanzen multidisziplinärer medizinischer Empfehlungen unter Beteiligung von sechs Ärzten (Views) enthält.

Leistung: TECL übertraf moderne Baselines (einschließlich TMC, ECML und MLP-Varianten) sowohl bei der Single-View-Vorhersage (Genauigkeit des einzelnen Arztes) als auch bei der kollektiven Vorhersage (endgültige Konsensgenauigkeit).
- Kollektive Genauigkeit (CA): TECL erreichte 78,5 %, verglichen mit 77,9 % beim nächstbesten Modell (ECMLboth).
- Individuelle Genauigkeit (IA): TECL erreichte 74,5 % und übertraf damit ECML (73,5 %) und TMC (70,6 %).
Ablationsstudien: Das Entfernen der Komponente der dynamischen Wahrnehmung ( $\sigma$ ) oder das alleinige Vertrauen auf die inhärente Wichtigkeit ( $\mu$ ) verschlechterte die Leistung erheblich, was die Notwendigkeit bestätigt, die Bedeutung der Views basierend auf spezifischen Instanzen dynamisch anzupassen.
Interpretabilitätsanalyse: Visualisierungen zeigten, dass das Modell korrekt identifizierte, wann ein spezifischer Arzt (z. B. ein Orthopäde bei einem Knochenproblem) trotz eines niedrigeren "Titels" als ein Generalist eine höhere Priorität haben sollte. Es konnte zudem erfolgreich quantifizieren, dass die kollektive Zuverlässigkeit sinkt, wenn die Views stark voneinander abweichen, was ein transparentes Maß für die Entscheidungskonfidenz liefert.

5. Bedeutung und Ansprüche

Die Arbeit behauptet, dass TECL einen neuen Zweig des zuverlässigen und erklärbaren Multi-View-Learnings darstellt. Ihre primäre Bedeutung liegt im Wechsel des Paradigmas von der Konfliktreduktion zur Konfliktnutzung. Indem sie widersprüchliche Meinungen als wertvolle Information für die Modellierung der Zuverlässigkeit behandelt, ermöglicht die Methode:

Eine Steigerung der Glaubwürdigkeit kollektiver Entscheidungen durch die explizite Modellierung von Unsicherheit.
Die Bereitstellung von Erklärbarkeit für das Warum einer Entscheidung und das Warum von Konflikten, was für sicherheitskritische Anwendungen wie die medizinische Diagnose entscheidend ist.
Sicherstellung, dass die "Stimme der Minderheit" (z. B. ein Spezialist mit einem spezifischen Fokus) nicht durch die Mehrheit oder eine statische Hierarchie übertönt wird, sofern die Evidenz dies stützt.

Die Autoren kommen zu dem Schluss, dass ihre Methode effektiv das Gleichgewicht zwischen der Notwendigkeit präziser kollektiver Entscheidungen und dem Verständnis der zugrunde liegenden Begründung sowie der Zuverlässigkeit dieser Entscheidungen in komplexen, multidisziplinären Umgebungen wahrt. Als zukünftige Arbeit wird vorgeschlagen, die Integration von Large Language Models (LLMs) für groß angelegte semantische Kontexte zu untersuchen.