Not Just How Much, But Where: Decomposing Epistemic Uncertainty into Per-Class Contributions

Diese Arbeit schlägt vor, die epistemische Unsicherheit in tiefen neuronalen Netzen durch eine neue per-Klasse-Zerlegung der Mutual Information zu quantifizieren, die in sicherheitskritischen Anwendungen wie der medizinischen Diagnostik und der Erkennung von Ausreißern eine präzisere Fehleranalyse und Risikominderung ermöglicht als herkömmliche skalare Metriken.

Das Wesentliche

Stell dir vor, du bist ein Arzt, der eine KI-App nutzt, um Röntgenbilder von Augen zu untersuchen. Die KI soll erkennen, ob ein Patient eine harmlose, leichte Entzündung hat oder eine schwere, blindheitsbedrohende Krankheit.

Das Problem: Die KI ist manchmal unsicher. Aber wie sagt sie uns, worum sie unsicher ist?

Bisherige Methoden sagten nur: „Ich bin zu 30 % unsicher." Das ist wie ein Rauchmelder, der nur „Feuer!" schreit, aber nicht sagt, ob es ein harmloser Toastbrot-Rauch ist oder ein brennendes Haus. In der Medizin ist dieser Unterschied lebenswichtig. Wenn die KI unsicher ist, ob es „gesund" oder „leicht krank" ist, können wir das Bild vielleicht ignorieren. Wenn sie unsicher ist zwischen „gesund" und „blindheitsbedrohend", müssen wir sofort einen menschlichen Experten hinzuziehen.

Diese neue Forschungslösung aus McGill University nennt sich „Nicht nur wie viel, sondern wo" (Not Just How Much, But Where). Hier ist die Erklärung in einfachen Worten:

1. Das alte Problem: Der „Einheits-Schätzwert"

Bisher hat die KI ihre Unsicherheit als eine einzige Zahl berechnet (Mutual Information).

• Die Analogie: Stell dir vor, du hast einen Geldbeutel mit 100 Münzen. Die alte Methode sagt dir nur: „Du hast 50 Münzen Unsicherheit." Sie sagt dir aber nicht, ob diese 50 Münzen aus harmlosen 1-Cent-Stücken bestehen oder aus wertvollen Goldmünzen.
• Das Risiko: Wenn die KI bei einer schweren Krankheit (der Goldmünze) unsicher ist, aber die alte Methode das nicht von einer harmlosen Unsicherheit (der 1-Cent-Münze) unterscheiden kann, könnte die KI gefährliche Fälle übersehen.

2. Die neue Lösung: Der „Unsicherheits-Karten"

Die Forscher haben eine Methode entwickelt, die die Gesamtunsicherheit in Kategorien aufteilt. Statt einer Zahl geben sie dir eine Liste für jede mögliche Diagnose.

• Die Analogie: Statt nur zu sagen „50 Münzen Unsicherheit", sagt die neue KI: „Ich bin unsicher bei: 45 Münzen für 'Gesund', 4 Münzen für 'Leichte Entzündung' und 1 Münze für 'Blindheitsgefahr'."
• Der Clou: Auch wenn die „Blindheitsgefahr"-Kategorie nur eine winzige Münze hat, ist sie extrem wichtig. Die neue Methode gewichtet diese Kategorie höher, weil sie gefährlich ist. Sie erkennt: „Achtung! Hier liegt das Problem, auch wenn die Zahl klein aussieht."

3. Warum das so clever ist (Die „Rand-Problematik")

Es gibt ein mathematisches Problem bei seltenen Krankheiten. Wenn eine Krankheit sehr selten ist (z. B. nur 1 % der Fälle), neigen alte Methoden dazu, die Unsicherheit dort als „null" zu betrachten, einfach weil die Wahrscheinlichkeit so niedrig ist.

• Die Analogie: Stell dir vor, du suchst nach einem winzigen Diamanten in einem riesigen Sandhaufen. Wenn du nur auf die Menge Sand schaust, siehst du den Diamanten nicht. Die alte Methode sagt: „Da ist kaum Sand, also ist da auch keine Unsicherheit."
• Die Lösung: Die neue Methode schaut sich die Form des Sandhaufens an. Sie sagt: „Auch wenn da nur ein winziger Haufen ist, ist die Form so seltsam, dass wir unsergehen müssen, ob da ein Diamant versteckt ist." Sie korrigiert also den Fehler, dass seltene, aber gefährliche Fälle ignoriert werden.

4. Wo wurde es getestet?

Die Forscher haben ihre Methode an drei Szenarien geprüft:

1. Augenheilkunde (Diabetische Retinopathie):

   • Ergebnis: Die KI konnte viel besser entscheiden, welche Patienten sofort zum Arzt müssen. Sie hat die Gefahr, eine schwere Krankheit zu übersehen, um fast 35 % reduziert, verglichen mit den alten Methoden. Sie hat genau erkannt, welche Art von Unsicherheit gefährlich ist.

2. Fremde Daten (Out-of-Distribution):

   • Szenario: Die KI sieht Bilder, die sie noch nie gesehen hat (z. B. japanische Schriftzeichen statt Kleidungsbilder).
   • Ergebnis: Die alte Methode war verwirrt. Die neue Methode konnte genau zeigen: „Ich bin unsicher, weil diese Bilder gar nicht zu meinen Kategorien passen." Sie hat die Art der Verwirrung sichtbar gemacht.

3. Lernen mit schlechten Daten (Label Noise):

   • Szenario: Die KI wurde mit falschen Beschriftungen trainiert (wie ein Schüler, dem der Lehrer falsche Antworten gibt).
   • Ergebnis: Die neue Methode war robuster. Sie hat nicht so sehr in Panik geraten, wenn die Daten verrauscht waren, sondern hat besser zwischen „echtem Unwissen" und „Datenrauschen" unterscheiden können.

Zusammenfassung

Stell dir die alte Methode wie einen Thermometer vor, das nur die Temperatur anzeigt. Es sagt dir, ob es heiß ist, aber nicht, ob es ein brennender Ofen oder eine heiße Suppe ist.

Die neue Methode ist wie ein Wärmebildkamera mit Beschriftung. Sie zeigt dir nicht nur, wo es heiß ist, sondern sagt dir: „Hier ist ein Ofen (Gefahr!), dort ist nur eine Tasse Tee (harmlos)."

Der Kern der Erkenntnis:
Es reicht nicht zu wissen, wie viel Unsicherheit eine KI hat. Man muss wissen, wo sie sitzt. Denn in sicherheitskritischen Bereichen (wie Medizin oder autonomes Fahren) ist eine kleine Unsicherheit bei einer tödlichen Gefahr viel schlimmer als eine große Unsicherheit bei einer harmlosen Sache. Diese neue Methode hilft uns, genau diese Unterschiede zu sehen und Leben zu retten.

Technische Zusammenfassung

1. Problemstellung

In sicherheitskritischen Klassifizierungsaufgaben (z. B. medizinische Diagnostik, autonomes Fahren) sind die Kosten für Fehler oft asymmetrisch. Das Verpassen einer lebensbedrohlichen Erkrankung ist katastrophal, während ein falsch-positives Ergebnis oft nur zu einer weiteren Untersuchung führt.

Bisherige Methoden des Bayesian Deep Learning fassen die epistemische Unsicherheit (Modell-Unwissenheit) jedoch meist durch einen einzigen skalaren Wert zusammen, typischerweise die gegenseitige Information (Mutual Information, MI).

• Das Defizit: Die MI gibt Auskunft darüber, wie unsicher ein Modell ist, aber nicht, welche Klassen diese Unsicherheit antreiben.
• Die Folge: Ein MI-Wert von 0,3 kann bedeuten, dass das Modell zwischen zwei harmlosen Klassen verwirrt ist, oder dass es zwischen einer harmlosen und einer kritischen Klasse unsicher ist. Diese Unterscheidung ist für die Risikobewertung entscheidend.
• Bestehende Ansätze: Andere per-Klassen-Metriken (z. B. reine Varianz) leiden unter dem Problem der Grenzunterdrückung (Boundary Suppression): Da Wahrscheinlichkeiten im Intervall $[0, 1]$ liegen, ist die Varianz einer Klasse mit sehr niedriger mittlerer Wahrscheinlichkeit ($\mu_k \approx 0$) strukturell begrenzt und geht gegen Null, selbst wenn das Modell stark uneinig ist. Dies macht Unsicherheitsmaße für seltene, aber kritische Klassen unbrauchbar.

2. Methodik: Per-Klassen-Epistemische Unsicherheit ($C_k$)

Die Autoren schlagen eine neue Zerlegung der gegenseitigen Information vor, die eine vektorielle Darstellung der Unsicherheit pro Klasse ermöglicht.

Theoretische Herleitung

Die Methode basiert auf einer Taylor-Entwicklung zweiter Ordnung der Shannon-Entropie $H(p)$ um den Erwartungswert der Vorhersage $\mu$.

• Die gegenseitige Information wird definiert als $I(y; \omega | x) = H(\mu) - \mathbb{E}[H(p)]$.
• Durch die Entwicklung von $\mathbb{E}[H(p)]$ ergibt sich eine additive Zerlegung über die Klassen.
• Die zentrale Größe ist der per-Klassen-Beitrag $C_k(x)$:
  $$C_k(x) = \frac{1}{2} \frac{\text{Var}[p_k](x)}{\mu_k(x)}$$
  Dabei ist $\text{Var}[p_k]$ die Varianz der Wahrscheinlichkeit für Klasse $k$ über $S$ stochastische Vorwärtsdurchläufe (z. B. via MC Dropout oder Ensembles) und $\mu_k$ der Mittelwert dieser Wahrscheinlichkeiten.

Schlüsselmechanismen

1. Normalisierung durch $1/\mu_k$: Dieser Faktor stammt aus der Hesse-Matrix der Entropie. Er kompensiert die Grenzunterdrückung. Für Klassen mit sehr niedriger Wahrscheinlichkeit ($\mu_k \to 0$) wird die Varianz durch den Nenner hochskaliert, sodass auch kleine Varianzen bei seltenen Klassen eine hohe informationstheoretische Bedeutung erhalten.
2. Additivität: Per Konstruktion gilt $\sum_k C_k(x) \approx I(y; \omega | x)$. Die Summe der per-Klassen-Werte approximiert die gesamte epistemische Unsicherheit.
3. Diagnostik (Schiefe): Da die Taylor-Approximation bei starker Schiefe der Posterior-Verteilung (besonders bei $\mu_k \approx 0$) ungenau wird, führen die Autoren einen Schiefe-Diagnostik-Wert $\rho_k$ ein. Dieser misst das Verhältnis des dritten Moments zum zweiten Moment und warnt, wenn die Approximation von $C_k$ unzuverlässig wird.
4. Fallback-Metrik (CBEC): Wenn die Taylor-Approximation für kritische Klassen unzuverlässig ist, wird eine alternative Metrik namens CBEC (Cross-Boundary Epistemic Confusion) verwendet, die auf der empirischen Korrelation zwischen sicheren und kritischen Klassen basiert.

3. Wichtige Beiträge

1. Theoretische Herleitung: Ableitung von $C_k$ aus der Entropie-Expansion und Charakterisierung der axiomatischen Eigenschaften im Vergleich zu bestehenden Metriken (z. B. Sale et al., 2024).
2. Lösung des Grenzproblems: Nachweis, dass die Normalisierung durch $1/\mu_k$ die strukturelle Unterdrückung der Varianz bei seltenen Klassen behebt, ohne die Vergleichbarkeit zwischen Klassen zu verlieren.
3. Validierung in drei Szenarien:
   • Selektive Vorhersage bei diabetischer Retinopathie.
   • Out-of-Distribution (OoD) Detektion.
   • Untersuchung der Entkopplung von aleatorischem und epistemischem Rauschen unter Label-Rauschen.
4. Erkenntnis zur Posterior-Näherung: Die Qualität der Unsicherheitsmetrik hängt mindestens genauso stark von der Qualität der Posterior-Näherung (z. B. End-to-End-Bayesian-Training vs. Transfer-Learning) ab als von der Wahl der Metrik selbst.

4. Ergebnisse

A. Selektive Vorhersage (Diabetische Retinopathie)

• Aufgabe: Vorhersage von Augenerkrankungen, wobei das Übersehen schwerer Stadien (Klasse 2/3) kritisch ist.
• Ergebnis: Die Strategie, die auf $C_{crit\_max}$ (maximales $C_k$ über kritische Klassen) basiert, reduziert das selektive Risiko (AUSC) um 34,7 % im Vergleich zur skalaren MI und um 56,2 % im Vergleich zu reinen Varianz-Baselines.
• Interpretierbarkeit: Während skalare MI-Werte für katastrophale Fehler (Klasse 3 als 0 vorhergesagt) und weniger schwere Fehler (Klasse 3 als 2 vorhergesagt) ähnlich waren, zeigten die $C_k$-Signaturen völlig unterschiedliche Muster. Dies ermöglichte gezielte Remediationsstrategien.

B. Out-of-Distribution (OoD) Detektion

• Aufgabe: Erkennung von Daten, die nicht der Trainingsverteilung entsprechen (z. B. FashionMNIST vs. KMNIST).
• Ergebnis: Die aggregierte Metrik $\sum C_k$ erreichte auf beiden Datensätzen die höchste AUROC.
• Einblick: Die per-Klassen-Zerlegung zeigte, dass Verteilungsverschiebungen asymmetrisch sein können (z. B. betrifft sie bei medizinischen Daten nur die Überlebens-Klasse, nicht die Mortalitäts-Klasse). Skalare Metriken verpassen diese Nuancen.

C. Entkopplung von Unsicherheitsarten

• Aufgabe: Unterscheidung zwischen aleatorischem Rauschen (Label-Rauschen) und epistemischer Unsicherheit.
• Ergebnis: Unter End-to-End-Bayesian-Training waren beide Metriken ($\sum C_k$ und MI) gut entkoppelt.
• Kritischer Befund: Unter Transfer Learning (frozen Backbone + Bayesian Head) verschlechterte sich die Entkopplung drastisch (Faktor 10). Dies zeigt, dass die Art, wie Unsicherheit durch das Netzwerk propagiert wird (Training vs. Fine-Tuning), einen größeren Einfluss auf die Qualität der Unsicherheitsquantifizierung hat als die gewählte Metrik selbst.

5. Bedeutung und Fazit

Das Paper liefert einen wichtigen Fortschritt für den Einsatz von Deep Learning in sicherheitskritischen Bereichen:

• Von "Wie viel" zu "Wo": Es ermöglicht nicht nur die Messung des Unsicherheitsniveaus, sondern die Lokalisierung der Unsicherheit auf spezifische Klassen. Dies ist essenziell, um Risiken zu priorisieren (z. B. "Ist das Modell unsicher über eine harmlose oder eine tödliche Krankheit?").
• Robustheit: Die Methode $C_k$ ist robust gegenüber Klassenungleichgewichten und löst das Problem der Grenzunterdrückung, das reine Varianzmetriken plagt.
• Systemische Erkenntnis: Die Autoren betonen, dass die Entwicklung neuer Metriken allein nicht ausreicht. Die Posterior-Näherung (z. B. durch End-to-End-Training) ist mindestens genauso wichtig wie die Metrik selbst. Post-hoc-Bayesian-Methoden auf vortrainierten Modellen können zu irreführenden Unsicherheitsschätzungen führen, wenn die zugrunde liegende Varianzstruktur nicht korrekt gelernt wurde.

Zusammenfassend bietet die vorgestellte Zerlegung $C(x)$ ein präzises, interpretierbares und theoretisch fundiertes Werkzeug, um epistemische Unsicherheit in mehrklassigen Klassifizierungsaufgaben zu analysieren und zu managen.