Gradient based Severity Labeling for Biomarker Classification in OCT

Diese Arbeit stellt eine neue Strategie für das kontrastive Lernen in der medizinischen Bildgebung vor, bei der unlabeled OCT-Scans mittels Gradienten-basierter Anomalieerkennung nach Krankheitsseverity gruppiert werden, um die Klassifizierung von Biomarkern bei diabetischer Retinopathie im Vergleich zu selbstüberwachten Baselines um bis zu 6 % zu verbessern.

Das Wesentliche

Stellen Sie sich vor, Sie sind ein erfahrener Augenarzt, der versucht, die Gesundheit von Netzhäuten zu beurteilen. Normalerweise schauen Sie sich Bilder an und sagen: „Das ist gesund" oder „Das ist krank". Aber was, wenn Sie Tausende von Bildern haben, aber nur für ein paar davon wissen, wie krank sie genau sind? Die meisten Bilder sind „unbeschriftet" – Sie wissen nicht, ob sie leicht oder schwer krank sind.

Das ist das Problem, das diese Forscher lösen wollen. Hier ist die Erklärung ihrer Methode, vereinfacht und mit ein paar bildhaften Vergleichen:

1. Das Problem: Der falsche Weg, Bilder zu vergleichen

In der Welt der künstlichen Intelligenz (KI) gibt es eine beliebte Methode, um KI-Modelle zu trainieren, die kontrastives Lernen heißt.

• Wie es normalerweise funktioniert: Man nimmt ein Bild, macht ein paar „Verzerrungen" daran (z. B. drehen, unscharf machen, Farben ändern) und sagt der KI: „Das ist das gleiche Bild wie das Original!" (Positives Paar). Alle anderen Bilder sind „falsch" (Negatives Paar).
• Das Problem bei medizinischen Bildern: Stellen Sie sich vor, Sie haben ein Foto von einem winzigen, wichtigen Fleck auf der Netzhaut (einem Biomarker). Wenn Sie das Bild jetzt unscharf machen oder drehen, könnte dieser winzige Fleck verschwimmen oder verschwinden. Das wäre wie wenn Sie ein wichtiges Detail auf einem Polizeifoto verwischen – die KI lernt dann das Falsche.

2. Die Lösung: Die „Krankheits-Schwere"-Skala

Die Forscher sagen: „Lassen Sie uns die Bilder nicht nach zufälligen Verzerrungen gruppieren, sondern nach ihrem Krankheitszustand."

• Die Idee: Ein Bild mit einer leichten Krankheit sollte dem KI-Modell als „Verwandter" eines anderen Bildes mit leichter Krankheit erscheinen. Ein schwer krankes Bild sollte zu anderen schweren Bildern gehören.
• Aber wie wissen wir, wie schwer ein Bild krank ist, wenn wir keine Labels haben? Hier kommt der geniale Trick.

3. Der Trick: Der „Lern-Gradient" als Schmerzindikator

Stellen Sie sich die KI wie einen Schüler vor, der lernt, was ein „gesundes Auge" aussieht.

• Gesunde Bilder: Wenn der Schüler ein gesundes Bild sieht, denkt er: „Aha, das kenne ich schon!" Er muss sich kaum ändern. Der „Lernimpuls" (der Gradient) ist klein.
• Kranke Bilder: Wenn der Schüler ein krankes Bild sieht, denkt er: „Ups, das passt nicht zu meinem gesunden Wissen!" Er muss sich stark anpassen, um das zu verstehen. Der „Lernimpuls" ist groß.

Die Forscher nutzen genau diesen Lernimpuls, um eine Schwere-Skala zu erstellen.

• Geringer Impuls = Gesund.
• Hoher Impuls = Schwer krank.

Sie nennen das „Gradient-basiertes Labeling". Es ist wie ein Schmerzthermometer: Je mehr das Modell „schmerzt" (lernen muss), um das Bild zu verstehen, desto schwerer ist die Krankheit.

4. Der Prozess: Vom Chaos zur Ordnung

Hier ist der Ablauf in drei Schritten:

1. Die Basis lernen: Die KI lernt zuerst nur auf Bildern von gesunden Augen. Sie baut ein perfektes inneres Modell davon, wie ein gesundes Auge aussieht.
2. Die Skala erstellen: Jetzt werfen sie Tausende von unbekannten Bildern auf die KI. Die KI sagt nicht „krank" oder „gesund", sondern gibt eine Zahl aus: „Wie stark weicht dieses Bild von meinem gesunden Ideal ab?"
   • Sie sortieren alle Bilder nach dieser Zahl und stecken sie in Fächer (Bins).
   • Fächer 1-1000: Sehr gesund.
   • Fächer 1000-2000: Leicht krank.
   • Fächer 5000+: Sehr schwer krank.
   • Analogie: Es ist wie ein Musikfestival, bei dem man die Besucher nicht nach Namen, sondern nach ihrer Lautstärke (Schwere der Krankheit) in Zonen einteilt.
3. Das Training: Jetzt nutzen diese „Fächer" als Labels. Die KI lernt: „Alle Bilder in Fach 5000 sind sich ähnlich (schwer krank), alle in Fach 100 sind sich ähnlich (gesund)." Sie lernt so, die feinen Unterschiede zwischen den Krankheitsstadien zu erkennen.

5. Das Ergebnis: Bessere Diagnose

Am Ende haben sie ein KI-Modell, das viel besser darin ist, spezifische Augenerkrankungen (wie Diabetes-bedingte Netzhautschäden) zu erkennen als Modelle, die nur mit zufälligen Verzerrungen trainiert wurden.

• Der Gewinn: Die Genauigkeit stieg um bis zu 6 %.
• Warum? Weil die KI gelernt hat, die Struktur der Krankheit zu verstehen, anstatt nur zufällige Bildmuster zu erkennen.

Zusammenfassung in einem Satz

Statt die KI durch zufälliges Verwackeln von Bildern zu verwirren, haben die Forscher ihr beigebracht, die „Schmerzen" zu messen, die ein Bild verursacht, wenn es nicht ins Bild eines gesunden Auges passt – und haben diese Schmerzen genutzt, um die Krankheit genau zu klassifizieren.

Das ist ein cleverer Weg, um aus einer riesigen Menge an „unwissenden" Daten wertvolles Wissen zu ziehen, ohne dass teure Experten jede einzelne Diagnose abnehmen müssen.

Technische Zusammenfassung

Technische Zusammenfassung: Gradient-basierte Schweregrad-Markierung für die Biomarker-Klassifizierung in OCT

1. Problemstellung

Die Früherkennung und Behandlung der diabetischen Retinopathie (DR) hängt maßgeblich von der Detektion spezifischer Biomarker in optischen Kohärenztomographie (OCT)-Scans ab. Ein Hauptproblem im medizinischen Bereich ist jedoch die Abhängigkeit von großen Mengen an gelabelten Trainingsdaten, deren Erstellung durch Experten (Grader) teuer und zeitaufwendig ist.

Herkömmliche selbstüberwachte Lernansätze (Self-Supervised Learning), insbesondere Contrastive Learning, nutzen oft Daten-Augmentierungen (z. B. Gauß-Verwischung), um positive Paare zu generieren. Im medizinischen Kontext ist dies problematisch, da solche Augmentierungen kleine, lokalisierte Regionen, die kritische Biomarker enthalten, verzerren oder unkenntlich machen können. Es fehlt eine Methode, die positive Paare basierend auf medizinisch sinnvollen Kriterien (z. B. ähnlicher Krankheitsverlauf oder Schweregrad) statt auf zufälligen Bildtransformationen auswählt.

2. Methodik

Die Autoren schlagen einen neuen Rahmen vor, der unbeschriftete OCT-Daten nutzt, um Pseudo-Schweregrad-Labels (Severity Labels) zu generieren, welche dann für ein supervised contrastive learning verwendet werden. Der Prozess gliedert sich in folgende Schritte:

• Lernen der gesunden Verteilung:
  Zuerst wird ein Auto-Encoder nur auf einem Datensatz gesunder OCT-Scans (Kermany-Datensatz) trainiert. Dabei wird die GradCON-Methode verwendet, die während des Trainings eine Gradientenbeschränkung einführt. Dies sorgt dafür, dass die Gradienten gesunder Bilder stark korrelieren, während Abweichungen (Anomalien) deutlichere Gradienten aufweisen.

• Generierung von Schweregrad-Scores (Severity Scores):
  Für alle unbeschrifteten OCT-Scans (aus dem Prime + TREX DME-Datensatz) wird ein „Schweregrad-Score" (SS) berechnet. Dieser Score basiert auf zwei Komponenten:

  1. Rekonstruktionsfehler ($L_{recon}$): Der mittlere quadratische Fehler zwischen Eingabe und Rekonstruktion.
  2. Gradienten-Ähnlichkeit ($L_{grad}$): Die durchschnittliche Kosinus-Ähnlichkeit zwischen den Gradienten des Eingabebildes und den Referenzgradienten des gesunden Trainingsdatensatzes.

  Die Formel lautet: $SS = -L_{recon} + \alpha L_{grad}$ (wobei $\alpha = 0.03$).
  Ein hoher Score deutet auf eine größere Anomalie (schwerere Erkrankung) im Vergleich zur gesunden Verteilung hin.

• Erstellung von Pseudo-Labels (Binning):
  Die berechneten Scores werden sortiert und in $N$ gleich große Bins (Intervalle) unterteilt. Bilder im selben Bin erhalten dasselbe Pseudo-Label (Severity Label, SL). Der Hyperparameter $N$ (Anzahl der Bins) wird experimentell optimiert (getestet wurden Werte zwischen 5.000 und 20.000).

• Supervised Contrastive Learning:
  Ein Encoder (ResNet-18) wird mit einem supervised contrastive loss trainiert, wobei die generierten Pseudo-Labels als Zielvariablen dienen. Das Ziel ist es, Embeddings von Bildern mit demselben Schweregrad im Vektorraum näher zusammenzubringen und solche mit unterschiedlichem Schweregrad weiter voneinander zu entfernen.

• Fine-Tuning:
  Nach dem Training des Encoders wird eine lineare Klassifikationsschicht angehängt und auf dem kleinen Satz an echten, manuell gelabelten Biomarker-Daten (ca. 7.500 Scans) feinabgestimmt, um die spezifischen Biomarker zu detektieren.

3. Wichtige Beiträge

1. Neue Strategie zur Paar-Auswahl: Statt zufälliger Augmentierungen werden positive Paare basierend auf dem geschätzten Krankheits-Schweregrad ausgewählt. Dies ist medizinisch intuitiver, da Bilder ähnlicher Schweregrads wahrscheinlich ähnliche strukturelle Merkmale der Krankheitsprogression aufweisen.
2. Gradient-basierte Anomalie-Erkennung: Die Nutzung von Gradienten-Updates (anstatt nur Rekonstruktionsfehlern) zur Quantifizierung der Anomalie und Ableitung eines Schweregrad-Scores.
3. Verbesserung der Klassifizierung: Demonstration, dass diese schwachen Labels (Pseudo-Labels) in einem Contrastive-Learning-Framework die Leistung bei der Biomarker-Detektion signifikant steigern, selbst wenn nur wenige echte Labels für das Fine-Tuning verfügbar sind.

4. Ergebnisse

Die Methode wurde auf fünf verschiedene Biomarker getestet (Intraretinale Flüssigkeit - IRF, Diabetisches Makulaödem - DME, etc.) und mit State-of-the-Art-Methoden (SimCLR, PCL, MoCo v2) verglichen.

• Leistungssteigerung: Der Ansatz übertraf alle selbstüberwachten Baselines. Die Genauigkeit bei der Klassifizierung wichtiger Indikatoren für die diabetische Retinopathie konnte um bis zu 6 % gesteigert werden.
• Einfluss der Bins ($N$): Die Anzahl der Schweregrad-Bins hatte einen signifikanten Einfluss.
  • Ein moderates $N$ (z. B. 5.000 oder 10.000) führte zu den besten Ergebnissen im Multi-Label-Klassifikations-Szenario (durchschnittlicher AUC: 0,774 vs. 0,769 bei MoCo v2).
  • Für spezifische, klarer definierte Biomarker (wie DME und IRF) waren höhere Bin-Zahlen (15.000–20.000) vorteilhafter.
• Vergleich mit anderen Anomalie-Detektoren: Die vorgeschlagene Gradienten-Methode (SL) schnitt besser ab als andere Anomalie-Detektionsverfahren wie MSP, ODIN oder Mahalanobis-Distanz, wenn diese zur Generierung der Pseudo-Labels verwendet wurden.

5. Bedeutung und Fazit

Das Paper zeigt, dass die Integration von unbeschrifteten Daten in das Training durch die Nutzung von semantisch interpretierbaren Pseudo-Labels (basierend auf Krankheits-Schweregrad) die Leistung von Deep-Learning-Modellen in der medizinischen Bildgebung erheblich verbessern kann.

Der Kern der Innovation liegt darin, dass die „Ähnlichkeit" von Bildern nicht durch zufällige Transformationen, sondern durch die Abweichung von einer gesunden Verteilung definiert wird. Dies ermöglicht es, Modelle robust zu trainieren, ohne auf teure manuelle Annotationen für den gesamten Datensatz angewiesen zu sein. Die Methode ist besonders vielversprechend für klinische Anwendungen, wo die Verfügbarkeit von Experten-Labels begrenzt ist, aber große Mengen an ungelabelten Scans vorliegen.