MaRS: Robust Out-of-Distribution Detection via Mahalanobis Residual Scoring

Technische Samenvatting: MaRS – Robuuste Out-of-Distribution Detectie via Mahalanobis Residu-scoring

Probleemstelling
Foundation models leveren zeer beschrijvende representaties voor medische beelden, maar hun betrouwbaarheid neemt af onder distributieverschuivingen veroorzaakt door veranderingen in patiëntenpopulaties, beeldvormingsapparatuur of acquisitiecondities. Hoewel Out-of-Distribution (OOD) detectie essentieel is voor veilige klinische inzet, kampen bestaande methoden met specifieke beperkingen. Vertrouwensgebaseerde methoden lijken vaak fragiel door klassenimbalans en miskalibratie. Afstandsgebaseerde methoden (bijv. Deep kNN, Mahalanobis) kunnen degraderen in hoogdimensionale embeddings waar de afstanden tot dichtstbijzijnde buren minder informatief worden en covariantieschattingen moeilijk te regulariseren zijn. Reconstructiegebaseerde methoden, die een in-distributie (ID) manifold leren en monsters met grote reconstructiefouten markeren, hebben een beperkte adoptie gezien vanwege inconsistente prestaties. De auteurs stellen dat deze inconsistentie niet voortkomt uit een slechte reconstructiekwaliteit, maar eerder uit de manier waarop reconstructiefouten worden gescoord. Standaard benaderingen maken gebruik van uniforme $L_2$ residunormen, die de anisotrope structuur van residuen laten instorten, waardoor informatieve afwijkingen die optreden in richtingen met een lage variantie worden onderdrukt.

Methodologie: MaRS
De auteurs introduceren MaRS (Mahalanobis Residual Scoring), een label-vrije, volledig post-hoc OOD-detector ontworpen om te opereren op bevroren backbone-features. De methode bestaat uit drie primaire componenten:

1. Manifold Projectie via Autoencoder: Gegeven een bevroren backbone $\Phi$ die features $z$ produceert, wordt een lichtgewicht autoencoder $(E, D)$ getraind op ID-features om de reconstructieverlies $\|z - \hat{z}\|_2^2$ te minimaliseren. Geometrisch implementeert dit een projectie $\Pi_{M_{ID}}(z)$ op de ID-manifold. Het reconstructieresidu wordt gedefinieerd als $r(x) = z - \hat{z}$.
2. Residu-ruimte Analyse: De auteurs observeren dat terwijl ID-residuen klein zijn en imperfecties in de reconstructie reflecteren, OOD-residuen systematische componenten bevatten die afwijkingen van de geleerde manifold reflecteren. Cruciaal is dat de distributie van deze residuen sterk anisotroop is.
3. Mahalanobis Scoring: In plaats van een uniforme $L_2$-norm berekent MaRS de OOD-score met behulp van de Mahalanobis-afstand in de residu-ruimte:
   $$S_{MaRS}(x) = r(x)^\top \Sigma^{-1} r(x)$$
   waarbij $\Sigma$ de covariantie-matrix van de ID-residuen is. Door middel van eigendecompositie $\Sigma = U\Lambda U^\top$ wordt de score uitgedrukt als een gewogen som van gekwadrateerde projecties op de hoofdcomponenten:
   $$S_{MaRS}(x) = \sum_{i=1}^{D} \frac{(u_i^\top r(x))^2}{\lambda_i}$$
   Deze formulering versterkt afwijkingen langs richtingen met een lage variantie (waar $\lambda_i$ klein is) en weegt richtingen met een hoge variantie (waar $\lambda_i$ groot is) naar beneden. In tegen tegenstelling tot Mahalanis-methoden in de embedding-ruimte die vertrouwen op klasse-conditionele gemiddelden, is MaRS label-vrij en vertrouwt het op een enkele globale covariantie van de residuen, wat effectief de klasse-semantische variatie onderdrukt om distributieve drift te isoleren.

Belangrijkste Bijdragen

• MaRS Framework: Een plug-and-play, label-vrije OOD-detector die Mahalanis-afstand toepast op autoencoder-reconstructieresiduen. Het werkt direct op bevroren backbone-features, wat computationele efficiëntie en aanpasbaarheid over modaliteiten heen garandeert zonder dat backbone fine-tuning vereist is.
• Identificatie van Residuele Anisotropie: Het paper identificeert residuele anisotropie als een kritisch, voorheen over het hoofd gezien signaal voor OOD-detectie. Het demonstreert dat variantie-bewuste Mahalanis-scoring in de residu-ruimte de uniforme $L_2$ aggregatie aanzienlijk overtreft.
• Robuustheid tegen Architectuur en Schaal: De auteurs tonen aan dat MaRS robuust blijft over verschillende backbone-architecturen (gesuperviseerde ViT en zelf-gesuperviseerde DINOv3) en model-schalen (Small en Base). Bovendien profiteert de methode van het werken op pre-normalisatie features, waarbij de intrinsieke anisotrope variantie-structuur behouden blijft, in tegenstelling tot latent-space baselines die normalisatie vereisen.

Experimentele Resultaten
Uitgebreide experimenten werden uitgevoerd over drie beeldmodaliteiten (histopathologie, thoraxfoto, dermatoscopie), meerdere typen distributieverschuivingen (covariaat, near-OOD, far-OOD, semantisch) en verschillende modelfamilies.

• Prestaties: MaRS presteerde consistent beter dan gevestigde confidence-gebaseerde (MSP, ODIN, ViM), afstand-gebaseerde (Deep kNN, OCSVM, Mahalanobis++) en reconstructie-gebaseerde (Residual, AE) baselines.
• Statistische Significantie: MaRS presteerde significant beter dan Mahalanobis++ (de sterkste latent-space baseline) over 3 runs en 5 dataset-splits in termen van AUROC en FPR@95 (gepaarde Wilcoxon signed-rank test, $p < 0.05$).
• Ablatie Bevindingen: Spectrale analyse van de residu-covariantie onthulde dat meer dan 90% van de variantie geconcentreerd is in minder dan een derde van de hoofdcomponenten. OOD-afwijkingen bleken geconcentreerd te zijn in de resterende richtingen met een lage variantie. De ratio van OOD-naar-ID residu-energie was 1,64$\times$ groter in de laag-variante subspace, wat bevestigt dat Mahalanis-scoring deze informatieve signalen effectief isoleert.
• Normalisatie Gevoeligheid: Hoewel normalisatie de prestaties verbetert voor standaard latent-space baselines, degradeert het MaRS door het spectrum van de variantie af te vlakken en de richtingen met een lage variantie te onderdrukken waar OOD-signalen het meest uitgesproken zijn.

Significantie
Het paper stelt dat een centrale beperking van bestaande reconstructie-gebaseerde OOD-detectoren de impliciete aanname van isotrope reconstructiefouten is. Door uniforme $L_2$ aggregatie te vervangen door covariantie-bewuste Mahalanis-scoring, adresseert MaRS deze beperking. De auteurs stellen dat deze benadering een simpel maar krachtig principe biedt voor post-hoc OOD-detectie op bevroren representaties, en een robuuste, label-vrije oplossing biedt die goed generaliseert over medische beeldmodaliteiten en model-schalen zonder afhankelijk te zijn van klasse-labels of vooraf gedefinieerde subspace-aannames. Het werk suggereert dat toekomstige verbeteringen in medische OOD-detectie mogelijk afhangen van een betere modellering van de residu-ruimte anisotropie in plaats van enkel het verbeteren van de reconstructiekwaliteit of backbone-representaties.