🤖 AI

Label Dropout: Improved Deep Learning Echocardiography Segmentation Using Multiple Datasets With Domain Shift and Partial Labelling

Die vorgestellte Arbeit führt ein neuartiges „Label Dropout"-Verfahren ein, das die Robustheit von Deep-Learning-Modellen für die Echokardiographie-Segmentierung verbessert, indem es verhindert, dass Modelle fälschlicherweise Zusammenhänge zwischen Domänenmerkmalen und dem Vorhandensein von Labels lernen, was bei der Nutzung mehrerer teilweise gelabelter Datensätze zu einer signifikanten Steigerung der Segmentierungsgenauigkeit führt.

Ursprüngliche Autoren: Iman Islam, Esther Puyol-Antón, Bram Ruijsink, Andrew J. Reader, Andrew P. King

Veröffentlicht 2026-04-15

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Iman Islam, Esther Puyol-Antón, Bram Ruijsink, Andrew J. Reader, Andrew P. King

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Der verwirrte Koch

Stellen Sie sich vor, Sie wollen einen Koch (das ist unser KI-Modell) trainieren, der Herz-Ultraschallbilder analysiert und die wichtigsten Teile des Herzens (wie die Herzkammer oder den Herzmuskel) genau umrandet.

Normalerweise bekommt der Koch ein Kochbuch mit perfekten Rezepten und Fotos, auf denen genau markiert ist, was wohin gehört. Aber in der echten Welt ist das anders. Wir haben drei verschiedene "Kochbücher" (Datenbanken) von verschiedenen Kliniken:

Buch A: Zeigt Bilder von Patienten aus Klinik X. Hier sind alle Teile des Herzens markiert.
Buch B: Zeigt Bilder von Klinik Y. Hier sind nur einige Teile markiert, andere fehlen.
Buch C: Zeigt Bilder von Klinik Z. Wieder andere Teile fehlen.

Wenn Sie alle drei Bücher mischen, um den Koch zu trainieren, entsteht ein Chaos: Auf dem einen Bild ist der Herzmuskel rot markiert, auf dem nächsten Bild desselben Typs ist er gar nicht markiert. Der Koch ist verwirrt.

Die Falle: Der "Abkürzungs-Trick" (Shortcut Learning)

Früher dachten Forscher: "Kein Problem! Wir nutzen eine spezielle Regel (die adaptive Verlustfunktion), die sagt: 'Wenn eine Markierung fehlt, ignoriere sie einfach und lerne nur von dem, was da ist'."

Aber die Forscher haben entdeckt, dass der Koch einen bösen Trick gelernt hat. Er lernt nicht, wie ein Herz aussieht, sondern er lernt: "Aha! Wenn das Bild so aussieht (z. B. etwas dunkler oder von einem bestimmten Gerät), dann fehlen auf diesem Bild immer die Markierungen für den Herzmuskel. Also werde ich den Herzmuskel auf solchen Bildern gar nicht erst suchen!"

Das nennt man "Shortcut Learning" (Abkürzungs-Lernen). Der Koch nimmt sich die Mühe nicht, das Herz wirklich zu erkennen, sondern schaut nur auf den "Stil" des Bildes und schließt daraus, was fehlt. Das funktioniert super, solange er nur diese Bilder sieht. Aber sobald er ein neues Bild bekommt, das wie ein altes aussieht, aber tatsächlich den Herzmuskel zeigen soll, versagt er komplett. Er denkt: "Oh, das Bild sieht aus wie die alten, wo nichts markiert war, also ist hier auch nichts."

Die Lösung: Das "Versteck-Spiel" (Label Dropout)

Um dem Koch diesen Trick auszutreiben, haben die Forscher eine neue Methode namens "Label Dropout" (Markierungs-Ausfall) erfunden.

Stellen Sie sich das so vor:
Während des Trainings nehmen die Forscher dem Koch willkürlich Markierungen weg, auch wenn sie eigentlich da wären.

Auf einem Bild, auf dem der Herzmuskel eigentlich markiert ist, sagen sie dem Koch: "Vergiss mal, dass hier eine Markierung ist. Tu so, als wäre sie weg."
Auf einem anderen Bild, wo die Markierung eh fehlt, lassen sie sie weg.

Warum hilft das?
Jetzt kann der Koch nicht mehr sagen: "Oh, dieses Bild sieht aus wie die alten, also fehlen hier die Markierungen." Denn plötzlich sind auf Bildern, die wie die "alten" aussehen, plötzlich wieder Markierungen zu sehen (weil die Forscher sie künstlich eingefügt haben) und auf Bildern, die wie die "neuen" aussehen, fehlen sie plötzlich.

Der Koch muss sich also wieder auf das Herz selbst konzentrieren und nicht mehr auf den "Stil" des Bildes. Er muss lernen: "Ein Herz ist ein Herz, egal ob die Markierung da ist oder nicht."

Das Ergebnis: Ein viel besserer Koch

Das Experiment war ein voller Erfolg:

Ohne diese neue Methode war der Koch bei den fehlenden Markierungen fast blind (sehr schlechte Ergebnisse).
Mit dem "Versteck-Spiel" (Label Dropout) wurde er plötzlich 62 % besser darin, den Herzmuskel zu erkennen und 25 % besser beim linken Vorhof.

Zusammenfassend:
Die Forscher haben gezeigt, dass KI-Modelle manchmal faule Tricks lernen, wenn sie mit unvollständigen Daten aus verschiedenen Quellen trainiert werden. Mit ihrer neuen Methode, bei der sie den KI-Modellen während des Trainings absichtlich Informationen entziehen, zwingen sie die KI dazu, wirklich zu verstehen, was sie sieht, statt nur Muster im Bildstil zu erkennen. Das macht die medizinische Diagnose viel sicherer und robuster.

1. Problemstellung

Die Automatisierung der Segmentierung kardialer Strukturen in Echokardiographie-Bildern (Ultraschall) mittels Deep Learning ist entscheidend für die klinische Anwendung. Ein Hauptziel ist die Entwicklung robuster Modelle, die auf Daten verschiedener Scanner und Operateure verallgemeinerbar sind. Dies erfordert das Training mit mehreren heterogenen Datensätzen.

Das zentrale Problem bei der Kombination solcher Datensätze ist jedoch die partielle Beschriftung (Partial Labelling):

Verschiedene öffentliche Datensätze (z. B. CAMUS, Unity Imaging, EchoNet Dynamic) enthalten unterschiedliche Ground-Truth-Masken für dieselben anatomischen Strukturen (z. B. Linker Ventrikel, Myokard, linker Vorhof).
Wenn diese Datensätze kombiniert werden, fehlen für bestimmte Bilder Labels für einige Strukturen.
Herkömmliche Ansätze zur Handhabung fehlender Labels (z. B. adaptive Cross-Entropy-Loss-Funktionen, die fehlende Labels ignorieren) führen in Kombination mit Domain Shift (unterschiedliche Bildcharakteristika zwischen den Datensätzen) zu einem Phänomen des „Shortcut Learning".
Shortcut Learning: Das Modell lernt fälschlicherweise, Bildmerkmale (Domain-Charakteristika) mit dem Vorhandensein oder Fehlen von Labels zu assoziieren. Es lernt beispielsweise: „Wenn das Bild aus Datensatz A stammt, sind alle Labels vorhanden; wenn es aus Datensatz B stammt, fehlen bestimmte Labels." Dies führt dazu, dass das Modell bei fehlenden Labels im Testset versagt, da es erwartet, dass diese Strukturen in diesem spezifischen Domänenkontext gar nicht existieren oder nicht vorhergesagt werden müssen.

2. Methodik

Datensätze:
Die Studie nutzte drei öffentliche 2D-Echokardiographie-Datensätze:

CAMUS: 500 Probanden, Labels für LV, LVM, LA.
Unity Imaging: 400 Bilder, Labels für LV, LVM, LA (manuell bereinigt).
EchoNet Dynamic: ~20.000 Bilder, nur Label für LV.
Alle Bilder wurden auf $256 \times 256$ Pixel skaliert und der Ultraschall-Kegel wurde maskiert.

Basis-Modelle:

Architektur: U-Net.
Verlustfunktionen:
1. Standard Loss: Klassische kategoriale Cross-Entropy (CCE) über alle Klassen.
2. Adaptive Loss: Eine modifizierte CCE, bei der fehlende Ground-Truth-Labels aus der Verlustberechnung ausgeschlossen werden (basierend auf [6]).

Der vorgeschlagene Ansatz: Label Dropout
Um das Shortcut Learning zu unterbrechen, wurde ein neues Schema namens Label Dropout entwickelt:

Prinzip: Während des Trainings wird mit einer bestimmten Wahrscheinlichkeit $p$ ein Label aus dem Ground-Truth-Masken-Bild eines teilweise beschrifteten Samples künstlich entfernt (d. h. auf „Hintergrund" gesetzt).
Ziel: Dies zwingt das Modell, die Struktur auch dann zu lernen, wenn sie in einem bestimmten Bild (und damit in einer bestimmten Domäne) nicht als Label vorhanden ist. Es bricht die Korrelation zwischen Domänenmerkmalen und dem Vorhandensein von Labels.
Implementierung:
- Anwendung nur auf teilweise beschriftete Klassen.
- Bei mehreren fehlenden Klassen wird zufällig eine ausgewählt.
- Die Dropout-Wahrscheinlichkeit wurde experimentell variiert (0,0 bis 1,0).

3. Experimente und Ergebnisse

Die Studie führte vier Experimente durch, um das Problem und die Lösung zu validieren:

Experiment 1 (Notwendigkeit diverser Daten): Zeigte, dass Modelle, die nur auf einem Datensatz trainiert wurden, bei Tests auf anderen Datensätzen schlechter abschneiden. Training mit mehreren Datensätzen ist für die Generalisierbarkeit essenziell.
Experiment 2 (Das Problem mit dem Adaptive Loss): Beim Training mit allen drei kombinierten, teilweise beschrifteten Datensätzen versagte der Adaptive Loss (ohne Dropout) bei Strukturen mit fehlenden Labels (LVM, LA) in bestimmten Domänen (z. B. EchoNet Dynamic). Das Modell lernte, diese Strukturen basierend auf dem Bildtyp gar nicht vorherzusagen.
Experiment 3 (Kontrolliertes Experiment): Bei Verwendung nur des CAMUS-Datensatzes (kein Domain Shift) und künstlich entfernten Labels funktionierte der Adaptive Loss hervorragend und erreichte fast die Leistung eines vollständig beschrifteten Benchmarks. Dies bestätigte, dass der Domain Shift die Ursache für das Versagen im Experiment 2 war.
Experiment 4 (Label Dropout):
- Setup: Kombination von CAMUS und Unity Imaging (mit künstlich entferntem LA-Label in Unity).
- Ergebnis: Die Einführung von Label Dropout (selbst bei niedrigen Wahrscheinlichkeiten wie 10 %) brach den Shortcut-Learning-Effekt.
- Quantitative Ergebnisse: Beim Training mit allen drei Datensätzen und Label Dropout verbesserte sich der Dice-Score für das Linker Ventrikel-Myokard (LVM) um 62 % (von 0,319 auf 0,518) und für den Linken Vorhof (LA) um 25 % (von 0,553 auf 0,689) im Vergleich zum Adaptive Loss ohne Dropout.
- Statistische Signifikanz wurde durch den Wilcoxon Signed Rank Test ( $p < 0,05$ ) bestätigt.

4. Wichtige Beiträge

Identifikation eines neuen Phänomens: Das Paper zeigt erstmals, dass fortschrittliche Loss-Funktionen für teilweise beschriftete Daten (wie der Adaptive Loss) durch Shortcut Learning negativ beeinflusst werden können, wenn Domain Shift und Label-Abwesenheit korrelieren.
Neue Lösung (Label Dropout): Einführung einer einfachen, aber effektiven Technik, die das Lernen von Domänen-Label-Korrelationen verhindert, indem Labels während des Trainings stochastisch entfernt werden.
Klinische Relevanz: Die Methode ermöglicht das Training robusterer Modelle durch die Kombination heterogener, teilweise beschrifteter klinischer Datensätze, was für die breite klinische Einführung von KI in der Kardiologie entscheidend ist.

5. Bedeutung und Ausblick

Die Arbeit ist von großer Bedeutung für die Entwicklung generalisierbarer medizinischer KI-Modelle. Sie demonstriert, dass reine Datenaggregation ohne Berücksichtigung der Label-Konsistenz zu suboptimalen Modellen führt. Der vorgeschlagene Label Dropout-Ansatz bietet einen praktikablen Weg, um die Vorteile großer, diverser Datensätze zu nutzen, ohne auf perfekte manuelle Annotationen aller Strukturen in jedem Bild angewiesen zu sein.

Zukünftige Arbeiten sollen die Methode auf andere Architekturen (z. B. Transformer) und andere Bildgebungsmodalitäten erweitern sowie alternative Strategien zur Behandlung partieller Labels untersuchen.