⚡ electrical engineering

MaRS: Robust Out-of-Distribution Detection via Mahalanobis Residual Scoring

Dieses Paper stellt MaRS vor, einen label-freien, post-hoc Out-of-Distribution-Detektor, der die Einschränkungen standardmäßiger rekonstruktionsbasierter Methoden überwindet, indem er die Mahalanobis-Distanz auf Rekonstruktionsresiduen nutzt, um varianzbewusste Abweichungen zu erfassen, und dadurch eine überlegene Leistung über verschiedene medizinische Bildgebungsmodalitäten und Verteilungsverschiebungen hinweg erzielt.

Ursprüngliche Autoren: Francesco Di Salvo, Sebastian Doerrich, Christian Ledig

Veröffentlicht 2026-06-23

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Francesco Di Salvo, Sebastian Doerrich, Christian Ledig

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Wenn die KI verwirrt ist

Stellen Sie sich vor, Sie haben einen sehr intelligenten KI-Arzt, der tausende Röntgenaufnahmen gesunder erwachsener Lungen studiert hat. Er weiß genau, wie eine „normale“ erwachsene Lunge aussieht.

Nun stellen Sie sich vor, dieser KI wird eine Röntgenaufnahme einer Kinderlunge gezeigt. Obwohl es immer noch eine Lunge ist, sind Form und Größe anders. Oder stellen Sie sich vor, die Röntgenaufnahme wurde mit einer anderen Marke von Geräten aufgenommen, die das Bild etwas körniger erscheinen lässt.

Für die KI sehen diese neuen Bilder „seltsam“ aus. In der Fachsprache nennt man das Out-of-Distribution (OOD). Die Gefahr besteht darin, dass die KI trotzdem versucht, sie zu diagnostizieren, und dabei voller Selbstvertrauen eine falsche Antwort gibt. Wir brauchen einen „Sicherheitswachmann“, der diese seltsamen Bilder erkennt, bevor die KI versucht, sie zu diagnostizieren, und sagt: „Hey, so etwas habe ich noch nie gesehen; hier bin ich mir nicht sicher.“

Der alte Weg: Messung von „Distanz“ und „Rekonstruktion“

Wissenschaftler haben versucht, diesen Sicherheitswachmann auf verschiedene Arten zu bauen:

Konfidenz-Check: Die KI fragen: „Wie sicher bist du dir?“ (Aber die KI kann sich auch sicher irren).
Distanz-Check: Messen, wie weit das neue Bild von den Bildern entfernt ist, die die KI kennt.
Rekonstruktions-Check: Dies ist die Methode, auf die sich dieses Paper konzentriert. Stellen Sie sich eine Maschine vor, die versucht, das Bild basierend auf dem, was sie weiß, neu zu zeichnen.
- Wenn man ihr eine normale Lunge zeigt, zeichnet sie diese perfekt nach.
- Wenn man ihr eine Kinderlunge zeigt, hat sie Schwierigkeiten. Sie versucht, die Kinderlunge so aussehen zu lassen, als wäre sie eine erwachsene Lunge, und die „nachgezeichnete“ Version sieht unordentlich aus.
- Der Unterschied zwischen dem Originalbild und der unordentlichen nachgezeichneten Version wird als Residuum (oder Fehler) bezeichnet.

Der Fehler: Die alte Art, diesen Fehler zu messen, war wie die Verwendung eines Standard-Lineals. Es hat einfach alle Fehler gleichmäßig aufsummiert. Wenn die KI an 100 verschiedenen Stellen einen kleinen Fehler gemacht hat, sah der Gesamtfehler groß aus. Aber wenn sie in eine ganz bestimmte Richtung einen einzigen, riesigen, seltsamen Fehler gemacht hat, konnte das Lineal dies vielleicht übersehen, weil es jede Richtung als gleich behandelt hat.

Die neue Lösung: MaRS (Mahalanobis Residual Scoring)

Die Autoren dieser Arbeit haben erkannt, dass die Fehler der KI nicht zufällig sind. Sie haben eine spezifische Form.

Die Analogie: Das „dehnbare Trampolin“

Stellen Sie sich vor, das Wissen der KI über „normale Lungen“ ist wie ein Trampolin, das in einer bestimmten Form gespannt ist.

Normale Lungen (In-Distribution): Diese liegen direkt auf dem Trampolin. Wenn man einen Ball darauf fallen lässt, springt er ein wenig (kleiner Fehler), weil das Trampolin in einigen Richtungen elastisch und in anderen steif ist.
Seltsame Lungen (Out-of-Distribution): Diese versuchen, neben dem Trampolin zu liegen.

Die alte Methode (L2-Norm): Diese Methode misst nur die Gesamthöhe des Balls über dem Trampolin. Es ist ihr egal, wo der Ball ist. Wenn das Trampolin in einer Richtung sehr elastisch (leicht zu dehnen) ist, ist ein Ball, der dort hoch springt, nicht unbedingt „seltsam“ – das ist einfach die Natur des Trampolins.

Die MaRS-Methode (Mahalanobis-Distanz): Diese Methode ist klüger. Sie betrachtet die Textur des Trampolins.

Sie weiß, dass das Trampolin in einigen Richtungen sehr steif (schwer zu dehnen) ist. Wenn ein Ball in einer steifen Richtung auch nur minimal abweicht, ist das eine große Sache.
In anderen Richtungen ist das Trampolin locker und elastisch. Wenn ein Ball in einer lockeren Richtung abweicht, ist das wahrscheinlich nur normales Rauschen.

MaRS verwendet ein spezielles „mathematisches Lineal“, das die Fehler in den steifen Richtungen verstärkt und die Fehler in den elastischen Richtungen ignoriert. Dies ermöglicht es, die wirklich seltsamen Bilder viel besser zu erkennen als das alte Lineal.

Wie sie es getestet haben

Die Forscher testeten diesen „smarten Lineal“ auf drei verschiedenen Arten von medizinischen Bildern:

Mikroskopische Schnitte von Zellen (Suche nach Krebs).
Röntgenaufnahmen des Brustkorbs (Vergleich von Erwachsenen vs. Kindern).
Hautfotos (Vergleich verschiedener Arten von Muttermalen).

Sie verwendeten verschiedene „Gehirn“-Modelle (Backbones), um die Bilder zu verarbeiten, von kleinen bis hin zu großen Modellen.

Die Ergebnisse

Bessere Erkennung: MaRS erkannte die „seltsamen“ Bilder viel genauer als die alten Methoden (wie Standard-Rekonstruktion oder Distanz-Checks).
Keine Labels nötig: Es musste nicht darauf trainiert werden, was eine „Kinderlunge“ oder ein „anderes Gerät“ ist. Es lernte einfach, was „normal“ ist, und erkannte die Abweichungen.
Funktioniert bei großen und kleinen Modellen: Es funktionierte gut, egal ob die KI ein kleines, einfaches Modell oder ein massives, komplexes Modell war.
Das Geheimnis: Die Forscher fanden heraus, dass die „seltsamen“ Signale oft in den leisen, steifen Richtungen der Daten verborgen sind. Die alten Methoden haben diese leisen Richtungen ignoriert, aber MaRS dreht die Lautstärke in diesen Richtungen auf.

Zusammenfassung

Das Paper stellt MaRS vor, ein neues Werkzeug, das KI-Systeme hilft zu erkennen, wenn sie etwas sehen, das sie zuvor noch nicht gesehen haben. Anstatt nur zu messen, wie „falsch“ ein Bild mit einem einfachen Lineal aussieht, nutzt MaRS ein smartes, flexibles Lineal, das genau weiß, welche Arten von Fehlern wichtig sind und welche nur normales Rauschen darstellen. Dies macht medizinische KI sicherer und zuverlässiger im Umgang mit neuen Patienten oder neuer Ausrüstung.

Technische Zusammenfassung: MaRS – Robuste Out-of-Distribution-Detektion mittels Mahalanobis-Residuen-Scoring

Problemstellung
Foundation-Modelle liefern hochgradig deskriptive Repräsentationen für medizinische Bilder, doch ihre Zuverlässigkeit sinkt unter Verteilungsverschiebungen (Distribution Shifts), die durch Änderungen in Patientenpopulationen, Bildgebungsgeräten oder Akquisitionsbedingungen verursacht werden. Während die Erkennung von Out-of-Distribution (OOD)-Daten für einen sicheren klinischen Einsatz essenziell ist, stehen bestehende Methoden vor spezifischen Einschränkungen. Konfidenzbasierte Methoden leiden oft unter Fragilität aufgrund von Klassenimbalancen und Fehlkalibrierung. Distanzbasierte Methoden (z. B. Deep kNN, Mahalanobis) können in hochdimensionalen Einbettungen degradieren, in denen die Distanzen zu nächsten Nachbarn weniger informativ werden und Kovarianzschätzungen schwer zu regularisieren sind. Rekonstruktionsbasierte Methoden, die eine In-Distribution (ID)-Mannigfaltigkeit lernen und Proben mit großen Rekonstruktionsfehlern markieren, haben aufgrund inkonsistenter Leistung eine begrenzte Anwendung erfahren. Die Autoren postulieren, dass diese Inkonsistenz nicht auf einer schlechten Rekonstruktionsqualität beruht, sondern darauf, wie Rekonstruktionsfehler bewertet werden. Standardansätze verwenden eine uniforme $L_2$ -Residuennorm, welche die anisotrope Struktur der Residuen kollabieren lässt und dadurch informative Abweichungen unterdrückt, die in Richtungen mit geringer Varianz auftreten.

Methodik: MaRS
Die Autoren führen MaRS (Mahalanobis Residual Scoring) ein, einen label-freien, vollumfänglich post-hoc OOD-Detektor, der auf gefrorenen Backbone-Features operiert. Die Methode besteht aus drei primären Komponenten:

Mannigfaltigkeits-Projektion via Autoencoder: Gegeben sei ein gefrorener Backbone $\Phi$ , der Features $z$ erzeugt; ein leichtgewichtiger Autoencoder $(E, D)$ wird auf ID-Features trainiert, um den Rekonstruktionsverlust $\|z - \hat{z}\|_2^2$ zu minimieren. Geometrisch implementiert dies eine Projektion $\Pi_{M_{ID}}(z)$ auf die ID-Mannigfaltigkeit. Das Rekonstruktionsresiduum ist definiert als $r(x) = z - \hat{z}$ .
Analyse des Residuenraums: Die Autoren beobachten, dass ID-Residuen zwar klein sind und Rekonstruktionsungenauigkeiten widerspiegeln, OOD-Residuen jedoch systematische Komponenten enthalten, die von der gelernten Mannigfaltigkeit abweichen. Entscheidend ist, dass die Verteilung dieser Residuen hochgradig anisotrop ist.
Mahalanobis-Scoring: Anstatt einer uniformen $L_2$ -Norm berechnet MaRS den OOD-Score mittels der Mahalanobis-Distanz im Residuenraum:
$S_{MaRS}(x) = r(x)^\top \Sigma^{-1} r(x)$
wobei $\Sigma$ die Kovarianzmatrix der ID-Residuen ist. Durch Eigendekomposition $\Sigma = U\Lambda U^\top$ wird der Score als gewichtete Summe der quadrierten Projektionen auf die Hauptkomponenten ausgedrückt:
$S_{MaRS}(x) = \sum_{i=1}^{D} \frac{(u_i^\top r(x))^2}{\lambda_i}$
Diese Formulierung verstärkt Abweichungen entlang von Richtungen mit geringer Varianz (wo $\lambda_i$ klein ist) und gewichtet Richtungen mit hoher Varianz (wo $\lambda_i$ groß ist) ab. Im Gegensatz zu Mahalanobis-Methoden im Embedding-Raum, die sich auf klassenbedingte Mittelwerte stützen, ist MaRS label-frei und basiert auf einer einzigen globalen Kovarianz der Residuen, wodurch die klassensemantische Variation effektiv unterdrückt wird, um die Verteilungsdrift zu isolieren.

Zentrale Beiträge

MaRS-Framework: Ein Plug-and-Play, label-freier OOD-Detektor, der die Mahalanobis-Distanz auf Autoencoder-Rekonstruktionsresiduen anwendet. Er operiert direkt auf gefrorenen Backbone-Features, was Recheneffizienz und Anpassungsfähigkeit über Modalitäten hinweg gewährleistet, ohne ein Fine-Tuning des Backbones zu erfordern.
Identifikation von Residuen-Anisotropie: Das Paper identifiziert Residuen-Anisotropie als ein kritisches, zuvor übersehenes Signal für die OOD-Detektion. Es zeigt, dass eine varianzbewusste Mahalanobis-Scoring-Methode im Residuenraum die uniforme $L_2$ -Aggregation erheblich übertrifft.
Robustheit gegenüber Architektur und Skalierung: Die Autoren zeigen, dass MaRS über verschiedene Backbone-Architekturen (überwachtes ViT und selbstüberwachtes DINOv3) sowie Modellskalen (Small und Base) hinweg robust bleibt. Zudem profitiert die Methode vom Betrieb auf Pre-Normalization-Features, in denen die intrinsische anisotrope Varianzstruktur erhalten bleibt, im Gegensatz zu Latent-Space-Baselines, die eine Normalisierung erfordern.

Experimentelle Ergebnisse
Umfangreiche Experimente wurden über drei Bildgebungsmodalitäten (Histopathologie, Thorax-Röntgen, Dermatoskopie), verschiedene Arten von Verteilungsverschiebungen (Covariate Shift, Near-OOD, Far-OOD, Semantic Shift) und unterschiedliche Modellfamilien durchgeführt.

Performance: MaRS übertraf konsistent etablierte konfidenzbasierte (MSP, ODIN, ViM), distanzbasierte (Deep kNN, OCSVM, Mahalanobis++) und rekonstruktionsbasierte (Residual, AE) Baselines.
Statistische Signifikanz: MaRS übertraf Mahalanobis++ (die stärkste Latent-Space-Baseline) signifikant über 3 Durchläufe und 5 Datensatz-Splits hinweg in Bezug auf AUROC und FPR@95 (gepaarter Wilcoxon-Vorzeichen-Rang-Test, $p < 0,05$ ).
Ablationsstudie-Ergebnisse: Eine Spektralanalyse der Residuen-Kovarianz ergab, dass über 90 % der Varianz in weniger als einem Drittel der Hauptkomponenten konzentriert sind. OOD-Abweichungen konzentrierten sich nachweislich in den verbleibenden Richtungen mit geringer Varianz. Das Verhältnis der OOD-zu-ID-Residuenenergie war im Bereich der geringen Varianz um das 1,64-fache größer, was bestätigt, dass das Mahalanobis-Scoring diese informativen Signale effektiv isoliert.
Sensitivität gegenüber Normalisierung: Während Normalisierung die Performance für Standard-Latent-Space-Baselines verbessert, verschlechtert sie die Leistung von MaRS, indem sie das Varianzspektrum abflacht und die Richtungen mit geringer Varianz unterdrückt, in denen die OOD-Signale am deutlichsten ausgeprägt sind.

Bedeutung
Das Paper behauptet, dass eine zentrale Einschränkung bestehender rekonstruktionsbasierter OOD-Detektoren in der impliziten Annahme isotroper Rekonstruktionsfehler liegt. Durch den Ersatz der uniformen $L_2$ -Aggregation durch eine kovarianzbewusste Mahalanobis-Scoring-Methode adressiert MaRS diese Einschränkung. Die Autoren führen aus, dass dieser Ansatz ein einfaches, aber leistungsfähiges Prinzip für die Post-hoc-OOD-Detektion auf gefrorenen Repräsentationen bietet und eine robuste, label-freie Lösung darstellt, die gut über medizinische Bildgebungsmodalitäten und Modellskalen hinweg generalisiert, ohne auf Klassenlabels oder vordefinierte Subspace-Annahmen angewiesen zu sein. Die Arbeit legt nahe, dass zukünftige Verbesserungen der medizinischen OOD-Detektion eher von einer besseren Modellierung der Residuenraum-Anisotropie abhängen könnten als rein von der Verbesserung der Rekonstruktionsqualität oder der Backbone-Repräsentationen.