Improved Anomaly Detection in Medical Images via Mean Shift Density Enhancement

Probleemstelling

Het detecteren van afwijkingen (anomalieën) in medische beeldvorming is cruciaal voor het identificeren van zeldzame pathologische aandoeningen. Een groot obstakel in dit domein is het gebrek aan grote, geannoteerde datasets van abnormale gevallen vanwege de zeldzaamheid van bepaalde ziekten, de hoge kosten van expertannotatie en privacybeperkingen.
Traditionele methoden vallen vaak in drie categorieën:

1. Reconstructie-gebaseerde methoden (bijv. auto-encoders): Deze hebben moeite met subtiele of lokale afwijkingen die de reconstructiefout niet significant beïnvloeden.
2. Functie-gebaseerde methoden: Deze gebruiken vooraf getrainde modellen om representaties te extraheren, maar veronderstellen vaak een statische, Euclidische functieruimte zonder rekening te houden met de intrinsieke manifold-structuur van de data.
3. Dichtheids-gebaseerde methoden: Deze modelleren de verdeling van normale data, maar negeren vaak de geometrische eigenschappen van de data-manifold.

De huidige staat van de techniek (SOTA) behandelt de latent feature space vaak als statisch na de extractie, wat leidt tot suboptimale modellering van normale data-verdelingen in complexe medische scenario's.

Methodologie: Het MSDE Framework

Het auteurs stellen een hybride raamwerk voor dat zelf-supervisie combineert met manifold-gebaseerde dichtheidsschatting. De aanpak volgt een "one-class learning" paradigma, waarbij alleen normale steekproeven worden gebruikt voor training. Het proces verloopt in drie hoofdfasen:

1. Functie-extractie (Feature Extraction):

   • Medische afbeeldingen worden ingebed in een 512-dimensionale latent feature space.
   • Hiervoor worden vooraf getrainde backbones gebruikt: AnatPaste (een zelf-supervisie model specifiek voor anatomische data) voor borstfoto's (X-ray) en ResNet18 (ImageNet-voorgeïmplementeerd) voor andere modaliteiten zoals MRI, dermatoscopie en histopathologie.

2. Mean Shift Density Enhancement (MSDE):

   • Dit is de kerninnovatie. De geëxtraheerde features ondergaan een iteratief proces om de latent space te verfijnen.
   • Het algoritme schat steekproef-specifieke dichtheidsweights ($w_i$) op basis van lokale buurman-structuren.
   • Vervolgens worden de embeddings iteratief bijgewerkt via een gewogen Mean Shift-operatie:
     $$x_i^{(t+1)} = x_i^{(t)} + \eta (\tilde{x}_i^{(t)} - x_i^{(t)})$$
     waarbij $\tilde{x}_i$ het gewogen gemiddelde is van de lokale buren.
   • Dit proces "schuift" de representaties van normale steekproeven naar gebieden met een hogere waarschijnlijkheid (dichtheid) in de latent space, waardoor normale clusters compacter worden en afwijkende steekproeven naar de periferie worden geduwd.

3. Dichtheids-gebaseerde Anomalie Scoring:

   • Na de verfijding wordt de dimensie gereduceerd van 512 naar 256 via Principal Component Analysis (PCA), uitsluitend gefit op de normale trainingsdata.
   • In deze gereduceerde ruimte wordt een Gaussian Density Estimator (GDE) toegepast.
   • De anomalie-score wordt berekend met de Mahalanobis-afstand, die rekening houdt met de covariantiestructuur van de data (in tegenstelling tot de Euclidische afstand).
   • De ruwe scores worden gestandaardiseerd en getransformeerd via een sigmoid-functie naar het interval [0, 1].

Belangrijkste Bijdragen

• Innovatieve Intermediaire Stap: Het introduceert dichtheids-gebaseerde verfijning als een nieuwe tussenstap tussen functieverwerving en scoring, een richting die in medische anomaliedetectie eerder onbenut was.
• Hybride Benadering: Het combineert succesvolle zelf-supervisie met expliciete geometrische manipulatie van de latent space (manifold shifting).
• Modulariteit: Het framework is modulair en kan worden toegepast op bestaande feature-extractoren zonder dat de backbone opnieuw getraind hoeft te worden.
• Robuustheid: Het werkt effectief met een vaste set hyperparameters over verschillende datasets en modaliteiten heen.

Resultaten

Het framework werd getest op zeven publiek beschikbare medische datasets (inclusief RSNA, VinDr-CXR, Brain Tumor, LAG, ISIC 2018, Camelyon16, en BraTS2021).

• Algemene Prestatie: MSDE behaalde state-of-the-art resultaten, met de hoogste AUC op 4 van de 7 datasets en de hoogste Average Precision (AP) op 5 van de 7 datasets.
• Opmerkelijke Prestaties:
  • Brain Tumor Detectie: Een bijna perfecte score van 0.981 voor zowel AUC als AP. Dit is opmerkelijk omdat modellen vaak een trade-off hebben tussen deze twee metrics; MSDE lost dit op.
  • Camelyon16 (Histopathologie): MSDE (AUC 0.812, AP 0.820) versloeg de geavanceerde generatieve diffusion-baseline AutoDDPM (AUC 0.807, AP 0.767), ondanks dat MSDE lichter is en geen zware generatieve processen gebruikt.
  • VinDr-CXR: Verbetering van de vorige best-scorende AE-U (0.769 AUC) naar 0.819 AUC.
• Uitzondering: Op het ISIC 2018 dataset (dermatoscopie) presteerde MSDE minder goed dan de specifieke AnatPaste-baseline. Dit wordt toegeschreven aan de homogene texturen in deze data die minder gestructureerde anatomische priors bieden, wat de kwaliteit van de initiële features beperkt ("garbage in, garbage out").

Betekenis en Toekomstperspectief

• Klinische Relevantie: Het framework biedt een schaalbaar hulpmiddel voor klinische besluitvorming, vooral nuttig in settings met weinig labels (low-label settings) en voor screening van zeldzame ziekten.
• Efficiëntie: Omdat het werkt op reeds geëxtraheerde features en geen end-to-end hertraining vereist, is het computatie-efficiënter dan reconstructie- of diffusion-gebaseerde methoden.
• Nieuwe Paradigma: De studie suggereert dat toekomstige vooruitgang in anomaliedetectie niet alleen komt van betere encoders, maar ook van betere transformatiestrategieën van de feature-space zelf.
• Beperkingen: De prestaties zijn afhankelijk van de kwaliteit van de initiële latent embeddings. Als de backbone geen onderscheidende informatie bevat, kan MSDE dit niet compenseren.

Kortom, dit paper demonstreert dat het actief herstructureren van de latent space via Mean Shift Density Enhancement een krachtige, onderbenutte methode is om de detectie van afwijkingen in medische beelden aanzienlijk te verbeteren.