Self-Supervised Conformal Prediction with Equivariant Bootstrapping for Image Uncertainty Quantification

Technische Samenvatting: Zelftoezicht Conformale Voorspelling met Equivariant Bootstrapping voor Kwantificering van Onzekerheid in Afbeeldingen

Probleemstelling
Inverse beeldvormingsproblemen, gedefinieerd als het herstellen van een onderliggend signaal $x^\star$ uit ruisbeïnvloede waarnemingen $y = Ax^\star + \epsilon$, komen veel voor in wetenschappelijke domeinen zoals astronomie en medische diagnostiek. Deze problemen zijn vaak slecht gesteld, wat leidt tot meerdere plausibele oplossingen en aanzienlijke reconstructieonzekerheid. Hoewel nauwkeurige Kwantificering van Onzekerheid (UQ) cruciaal is voor betrouwbare wetenschappelijke analyse, lopen bestaande methoden tegen twee primaire beperkingen aan:

1. Gebrek aan Nauwkeurigheidsgaranties: Veel heuristische UQ-methoden missen statistische strengheid.
2. Afhankelijkheid van Ground Truth: Statistisch strenge methoden, zoals Conformale Voorspelling, vereisen doorgaans uitwisselbare ground truth-data voor kalibratie. In veel domeinen (bijvoorbeeld kosmologie) is ground truth niet beschikbaar, duur om te simuleren of vatbaar voor distributieveranderingen ten opzichte van echte waarnemingen. Het vertrouwen op gesimuleerde kalibratiedata kan verborgen biases introduceren in downstream wetenschappelijke inferenties.

Methodologie
De auteurs stellen een volledig zelftoezichtend UQ-kader voor dat Equivariant Bootstrapping combineert met Risico-beheersende Voorspellingssets (RCPS), gekalibreerd via Stein's Onbevooroordeelde Risicoschatting (SURE). De methodologie verloopt als volgt:

1. Equivariant Bootstrapping:

   • In plaats van standaard parametrisch bootstrapping (dat last heeft van bias bij bootstrapping vanuit een enkele punt-schatting), maakt de methode gebruik van symmetrieën in de beeldvormingstaak.
   • Het maakt gebruik van een verzameling inverteerbare transformaties $\mathcal{G}$ (bijvoorbeeld rotaties, spiegelingen, cyclische verschuivingen) die de signaalruimte invariant laten, maar niet commuteren met de voorwaartse operator $A$ of de reconstructiemethode.
   • Bootstrap-waarnemingen worden gegenereerd door willekeurige transformaties $T_{g_i} \in \mathcal{G}$ toe te passen op de schatter $\hat{x}(y)$, deze door het ruismodel te leiden en de transformatie ongedaan te maken. Dit genereert een verdeling van bootstrap-steekproeven $\{\tilde{x}_i\}$ die reconstructievariabiliteit weerspiegelt zonder ground truth te vereisen.

2. Zelftoezichtende Kalibratie (RCPS met SURE):

   • Om heuristische bootstrap-regio's om te zetten in statistisch strenge betrouwbaarheidssets met gegarandeerde dekking, maakt het kader gebruik van RCPS.
   • De Uitdaging: RCPS vereist een kalibratiedataset om het risico (foutpercentage) te schatten. Aangezien ground truth niet beschikbaar is, vervangen de auteurs de ware niet-conformiteitscore $s(x^\star, \hat{x})$ door een onbevooroordeelde schatting afgeleid van Stein's Onbevooroordeelde Risicoschatting (SURE).
   • Niet-conformiteitscore: De score wordt gedefinieerd in de meetruimte als $s_{A^\top A}(x^\star, \hat{x}(y)) = \frac{1}{m}\|Ax^\star - A\hat{x}(y)\|_2^2$.
   • SURE-schatting: De SURE-formule biedt een onbevooroordeelde schatting van deze score met uitsluitend de waarneming $y$ en de reconstructieoperator $\hat{x}(y)$:
     $$\text{SURE}(y) = \frac{1}{m}\|y - A\hat{x}(y)\|_2^2 - \text{tr}(\Sigma) + \frac{2}{m}\text{tr}\left(\Sigma \frac{\partial}{\partial y} A\hat{x}(y)\right)$$
   • Kalibratie: Een schalingsfactor $\lambda$ wordt bepaald via een wortelvindingsalgoritme om ervoor te zorgen dat de voorspellingsset $C_{\lambda; \alpha}$ voldoet aan de risicobeperking $P(R(C) \le \alpha) \ge 1 - \delta$, waarbij het risico empirisch wordt geschat met behulp van de SURE-waarden.

Belangrijkste Bijdragen

• Zelftoezichtend UQ-kader: Het artikel introduceert een methode die statistisch strenge, per-afbeelding onzekerheidskwantificering genereert zonder enige ground truth-kalibratiedata, waardoor distributieverandering-bias tussen kalibratie- en waarnemingssets wordt geëlimineerd.
• Integratie van Equivariant Bootstrapping en RCPS: Het werk combineert de methode-onafhankelijke onzekerheidsgeneratie van equivariant bootstrapping met de statistische garanties van RCPS, verfijnd door SURE.
• Toepassing op Massakartering bij Zwakke Lensing: Het kader wordt gedemonstreerd op het kosmologische inverse probleem van het reconstrueren van velden van donkere materie-convergentie uit metingen van galaxie-schering. Deze toepassing is bijzonder gevoelig voor kalibratie-bias, aangezien bestaande methoden vaak vertrouwen op gesimuleerde data die gekoppeld zijn aan specifieke kosmologische modellen.
• Methode-onafhankelijkheid: Het UQ-kader is onafhankelijk van het specifieke reconstructie-algoritme dat wordt gebruikt (bijvoorbeeld Kaiser-Squires, deep learning, golffunctie-sparseheid) en fungeert als een post-hoc kalibratielaag.

Experimentele Resultaten
De methode werd geëvalueerd op een taak voor massakartering via zwakke gravitationele lensing met behulp van 300$\times$300 pixels grote mock-convergentiekaarten van de COSMOS-survey.

• Opstelling: Reconstructies werden uitgevoerd met de Kaiser-Squires-methode. Equivariant bootstrapping genereerde 100 steekproeven per afbeelding met behulp van geometrische transformaties en frequentie-schelfilters.
• Kalibratie: RCPS werd toegepast met een doelfoutpercentage $\delta = 0.1$ met gebruikmaking van SURE voor kalibratie.
• Prestaties: De geconformaliseerde voorspellingssets volgden nauwkeurig de ideale dekking-diagonaal over verschillende betrouwbaarheidsniveaus.
• Vergelijking: De zelftoezichtende geconformaliseerde aanpak presteerde aanzienlijk beter dan ongeconformaliseerde equivariant bootstrapping en parametrisch bootstrapping. Parametrisch bootstrapping leverde verwaarloosbare dekking op en slaagde er niet in adequate reconstructievariabiliteit vast te leggen.

Betekenis en Beweringen
De auteurs beweren dat dit kader een robuuste oplossing biedt voor UQ in inverse beeldvorming waar ground truth ontoegankelijk is. Door gesimuleerde kalibratiedata te vermijden, voorkomt de methode het introduceren van verborgen biases die de downstream wetenschappelijke inferentie, zoals de schatting van kosmologische parameters, kunnen compromitteren. De aanpak biedt een statistisch streng alternatief voor bestaande methoden die óf geen nauwkeurigheidsgaranties hebben óf vertrouwen op potentieel bevooroordeelde gesimuleerde datasets.

Beperkingen
Het artikel erkent verschillende beperkingen:

• Aanneming van Uitwisselbaarheid: De kalibratiestap veronderstelt toegang tot meerdere waarnemingen getrokken uit dezelfde verdeling. Bij echte massakartering wordt vaak één grote hemelwaarneming gebruikt, en het genereren van uitwisselbare emulaties daarvan voldoet mogelijk niet perfect aan deze aanname.
• Gevoeligheid voor Nulruimte: De op SURE gebaseerde score is blind voor fouten in de nulruimte van de voorwaartse operator $A$. Hoewel dit minder kritiek is voor massakartering (waar $A$ bijna vol-rang is), kan dit leiden tot onderschatting van onzekerheid bij ernstig rang-deficiënte inverse problemen.
• Granulariteit: Het huidige kader kwantificeert onzekerheid op afbeeldingsniveau (MSE) in plaats van per-pixel onzekerheidsschattingen te bieden, wat gebruikelijk is bij benaderingen met toezicht.
• Berekeningskosten: Het genereren van talrijke bootstrap-steekproeven vereist efficiënte reconstructie-algoritmen.