Interpretable Probabilistic Medical Image Segmentation via Gaussian Process with Explicit Modelling of Annotation Bias and Variability

Technische Samenvatting: Interpreteerbare Probabilistische Medische Beeldsegmentatie via Gaussische Processen met Expliciete Modellering van Annotatiebias en Variabiliteit

Probleemstelling
Op deep learning gebaseerde medische beeldsegmentatie berust op geannoteerde gegevens die inherent systematische biases en variabiliteit tussen verschillende beoordelaars bevatten. Bestaande probabilistische multi-beoordelaarsbenaderingen kunnen weliswaar annotatorspecifieke delineaties emuleren, maar coderen kenmerken van de annotator doorgaans impliciet binnen diepe latente feature-ruimtes. Deze impliciete codering maakt het moeilijk om direct te analyseren hoe specifieke biases en variabiliteit van beoordelaars voortplanten naar predictieve distributies. Het onderscheiden van onzekerheid die voortvloeit uit intrinsieke beeldambiguïteit versus onzekerheid veroorzaakt door imperfect toezicht blijft daarom een uitdaging, wat de mogelijkheid beperkt om strategieën voor datasetcuratie te optimaliseren of specifieke foutbronnen te mitigeren in klinische omgevingen waar veiligheid cruciaal is.

Methodologie
De auteurs stellen een logit-ruimte probabilistisch segmentatieframework voor, gebaseerd op Stochastic Variational Gaussian Processes (SVGP), dat voorspellingen expliciet ontleedt in een beeldafhankelijke referentiedistributie en annotatorspecifieke perturbaties.

1. Herformulering in de logit-ruimte: Het model scheidt de predictieve distributie $p(y|x, a)$ in een referentie-logitdistributie $l^{(0)}$ (die ideale, ruisvrije supervisie representeert op basis van louter de beeldinhoud) en annotatorspecifieke perturbaties. Geobserveerde annotaties worden gemodelleerd als additieve perturbaties op deze referentielogits, geparametriseerd door een annotatorspecifieke bias $\mu_a$ en variantie $\sigma^2_a$.
   $$p(l | l^{(0)}, a) = \prod_{i=1}^P \mathcal{N}(l^{(0)}_i + \mu_a, \sigma^2_a)$$
   Deze formulering maakt het mogelijk om de intrinsieke onzekerheid van het beeld ($p(l^{(0)}|x)$) te ontkoppelen van de door supervisie geïnduceerde verschuivingen en dispersie.

2. Deep Kernel Gaussian Process: De referentielogits $l^{(0)}$ worden gemodelleerd met behulp van een Gaussian Process (GP) met een diepe kernel. Een convolutionele feature extractor (U-Net) brengt invoerbeelden in kaart naar latente features, die dienen als input voor de GP. De GP-prior wordt gedefinieerd over deze features met behulp van een symmetrische positief semidefiniete kernel (bijv. RBF).

3. Stochastische Variational Inference: Om de computationele onhandelbaarheid van exacte GP-inferentie op grote pixel-wijze datasets ($N = V \times P$) aan te pakken, maken de auteurs gebruik van Stochastic Variational Gaussian Processes (SVGP). Hierbij worden $M$ inducing points gebruikt om de posterieure distributie te benaderen, wat schaalbare training mogelijk maakt.

4. Gesloten vorm Predictieve Waarschijnlijkheid: Een belangrijk voordeel van deze formulering is de afleiding van een gesloten vorm voor de predictieve waarschijnlijkheid bij binaire segmentatie. Door de Gaussische perturbaties te integreren over de GP-predictieve distributie, levert het model:
   $$p_{*,a} = \Phi\left( \frac{\tau + \mu_a}{\sqrt{1 + \eta^2 + \sigma^2_a}} \right)$$
   waarbij $\tau$ en $\eta^2$ de gemiddelde waarde en variantie van de referentielogit zijn, en $\Phi$ de standaard normale cumulatieve distributiefunctie (inverse probit link) is.

5. Trainingsdoelstelling: Het model wordt getraind met een verliesfunctie die Binary Cross-Entropy (BCE), KL-divergentie (voor de variationele benadering) en een soft Dice loss combineert. De leerbare parameters omvatten de gewichten van de feature extractor, kernel hyperparameters, inducing inputs, variationele parameters en de expliciete bias/variantie parameters voor elke annotator.

Belangrijkste Bijdragen

• Expliciete Parametrisering: Het framework parametriseert expliciet de annotatorspecifieke bias en variantie in de logit-ruimte, waarmee het afwijkt van impliciete latente representaties.
• Interpreteerbaarheid en Sensitiviteitsanalyse: De gesloten oplossing maakt directe sensitiviteitsanalyse mogelijk, waardoor onderzoekers kunnen kwantificeren hoe veranderingen in annotatorbias en -variabiliteit de predictieve prestaties en onzekerheidskalibratie systematisch beïnvloeden.
• Onzekerheidskalibratie: De methode beoogt de kalibratie van predictieve waarschijnlijkheden te verbeteren door de bronnen van ruis expliciet te modelleren, waarbij onderscheid wordt gemaakt tussen beeldambiguïteit en annotatie-inconsistentie.

Experimentele Resultaten
De methode werd geëvalueerd op een multi-annotator dataset van transrectale echografie (TRUS) beelden met prostaatklier-annotaties van drie onderzoekers en één hoogwaardige klinische referentie.

• Kalibratieprestaties: Het voorgestelde SVGP-model behaalde de laagste Expected Calibration Error (ECE) en Negative Log-Likelihood (NLL) voor alle annotators vergeleken met individuele U-Net baselines en het state-of-the-art Pionono framework. Opvallend genoeg verbeterde de NLL voor Annotator 2 aanzienlijk (van 0,578/0,753 in baselines naar 0,146).
• Segmentatie-accuratesse: Het SVGP-model behield een segmentatie-accuratesse (Dice score en HD95) die vergelijkbaar is met Pionono, wat aantoont dat verbeterde kalibratie niet ten koste gaat van de segmentatieprestaties.
• Kwantitatieve Bias/Variantie: De geleerde parameters reflecteerden kwantitatief het gedrag van de annotator. Zo kwam een grotere geleerde variantie $\sigma_a$ overeen met slechtere prestatie-indicatoren in de bijbehorende deterministische individuele U-Net, wat suggereert dat het model intra-rater variabiliteit succesvol vastlegt.
• Perturbatie-experimenten: Gecontroleerde experimenten waarbij bias- en variantieparameters werden gevarieerd, toonden aan dat de predictieve kalibratie (ECE) significant gevoeliger is voor systematische bias ($\mu$) dan voor variantie ($\sigma^2$), wat aangeeft dat inter-rater onenigheid een sterkere impact heeft op betrouwbaarheid dan intra-rater variabiliteit.

Betekenis en Claims
Het artikel claimt dat dit framework een interpreteerbaar instrument biedt om te begrijpen hoe annotatievariabiliteit doorwerkt in modelvoorspellingen. Door de beeldafhankelijke onzekerheid expliciet te scheiden van de door annotatie geïnduceerde ruis, biedt de benadering praktische inzichten voor datasetcuratie onder vaste labelingbudgetten. Specifiek stelt het beoefenaars in staat om te beoordelen of het verminderen van systematische inter-rater bias of het aanpakken van intra-rater variabiliteit effectiever zou zijn voor het verbeteren van de predictieve betrouwbaarheid. De auteurs merken op dat hoewel de huidige evaluatie beperkt is tot een specifieke klinische setting, het framework een fundament biedt voor toekomstig werk betreffende ruimtelijk gecorreleerde onenigheid en multi-class segmentatie.