Self-Supervised Conformal Prediction with Equivariant Bootstrapping for Image Uncertainty Quantification

Technischer Überblick: Selbstüberwachtes konfidenzbasiertes Vorhersagen mit äquivariantem Bootstrapping zur Quantifizierung von Unsicherheiten in Bildern

Problemstellung
Inverse Bildgebungsprobleme, definiert als die Wiederherstellung eines zugrunde liegenden Signals $x^\star$ aus verrauschten Beobachtungen $y = Ax^\star + \epsilon$, sind in wissenschaftlichen Bereichen wie der Astronomie und der medizinischen Diagnostik allgegenwärtig. Diese Probleme sind häufig schlecht gestellt, was zu mehreren plausiblen Lösungen und erheblicher Rekonstruktionsunsicherheit führt. Während eine genaue Quantifizierung der Unsicherheit (UQ) für eine vertrauenswürdige wissenschaftliche Analyse entscheidend ist, weisen bestehende Methoden zwei Hauptbeschränkungen auf:

1. Fehlende Genauigkeitsgarantien: Viele heuristische UQ-Methoden mangeln an statistischer Strenge.
2. Abhängigkeit von Grundwahrheit: Statistisch strenge Methoden, wie das konfidenzbasierte Vorhersagen (Conformal Prediction), erfordern typischerweise austauschbare Grundwahrheitsdaten zur Kalibrierung. In vielen Domänen (z. B. Kosmologie) sind Grundwahrheitsdaten nicht verfügbar, teuer zu simulieren oder anfällig für Verteilungsverschiebungen im Vergleich zu realen Beobachtungen. Die Abhängigkeit von simulierten Kalibrierungsdaten kann versteckte Verzerrungen in nachgelagerte wissenschaftliche Schlussfolgerungen einbringen.

Methodik
Die Autoren schlagen ein vollständig selbstüberwachtes UQ-Rahmenwerk vor, das äquivariantes Bootstrapping mit risikokontrollierenden Vorhersagemengen (RCPS) kombiniert, die über den ungefälschten Risikoschätzer nach Stein (SURE) kalibriert werden. Die Methodik läuft wie folgt ab:

1. Äquivariantes Bootstrapping:

   • Anstelle des standardmäßigen parametrischen Bootstrappings (das bei der Resampling aus einem einzigen Punktschätzer unter Bias leidet), nutzt die Methode Symmetrien in der Bildgebungsaufgabe.
   • Sie verwendet eine Menge invertierbarer Transformationen $\mathcal{G}$ (z. B. Rotationen, Spiegelungen, zyklische Verschiebungen), die den Signalraum invariant lassen, aber nicht mit dem Vorwärtsoperator $A$ oder der Rekonstruktionsmethode kommutieren.
   • Bootstrap-Beobachtungen werden erzeugt, indem zufällige Transformationen $T_{g_i} \in \mathcal{G}$ auf den Schätzer $\hat{x}(y)$ angewendet, durch das Rauschmodell geführt und die Transformation invertiert wird. Dies erzeugt eine Verteilung von Bootstrap-Stichproben $\{\tilde{x}_i\}$, die die Rekonstruktionsvariabilität widerspiegelt, ohne Grundwahrheit zu benötigen.

2. Selbstüberwachte Kalibrierung (RCPS mit SURE):

   • Um heuristische Bootstrap-Regionen in statistisch strenge Konfidenzmengen mit garantierter Abdeckung umzuwandeln, setzt das Rahmenwerk RCPS ein.
   • Die Herausforderung: RCPS benötigt einen Kalibrierungsdatensatz, um das Risiko (Fehlerrate) zu schätzen. Da Grundwahrheit nicht verfügbar ist, ersetzen die Autoren den wahren Nicht-Konformitäts-Score $s(x^\star, \hat{x})$ durch eine unverzerrte Schätzung, die aus dem ungefälschten Risikoschätzer nach Stein (SURE) abgeleitet wird.
   • Nicht-Konformitäts-Score: Der Score wird im Messraum definiert als $s_{A^\top A}(x^\star, \hat{x}(y)) = \frac{1}{m}\|Ax^\star - A\hat{x}(y)\|_2^2$.
   • SURE-Schätzung: Die SURE-Formel liefert eine unverzerrte Schätzung dieses Scores unter Verwendung nur der Beobachtung $y$ und des Rekonstruktionsoperators $\hat{x}(y)$:
     $$\text{SURE}(y) = \frac{1}{m}\|y - A\hat{x}(y)\|_2^2 - \text{tr}(\Sigma) + \frac{2}{m}\text{tr}\left(\Sigma \frac{\partial}{\partial y} A\hat{x}(y)\right)$$
   • Kalibrierung: Ein Skalierungsfaktor $\lambda$ wird mittels eines Nullstellensuchalgorithmus bestimmt, um sicherzustellen, dass die Vorhersagemenge $C_{\lambda; \alpha}$ die Risikobedingung $P(R(C) \le \alpha) \ge 1 - \delta$ erfüllt, wobei das Risiko empirisch unter Verwendung der SURE-Werte geschätzt wird.

Hauptbeiträge

• Selbstüberwachtes UQ-Rahmenwerk: Die Arbeit stellt eine Methode vor, die statistisch strenge, bildweise Unsicherheitsquantifizierung ohne jegliche Grundwahrheits-Kalibrierungsdaten erzeugt und damit Verteilungsverschiebungsverzerrungen zwischen Kalibrierungs- und Beobachtungssätzen eliminiert.
• Integration von äquivariantem Bootstrapping und RCPS: Die Arbeit kombiniert die methodenunabhängige Unsicherheitsgenerierung des äquivarianten Bootstrappings mit den statistischen Garantien von RCPS, verfeinert durch SURE.
• Anwendung auf die Massenkartierung schwacher Linsen: Das Rahmenwerk wird am kosmologischen inversen Problem der Rekonstruktion von Dunkle-Materie-Konvergenzfeldern aus Galaxien-Schermessungen demonstriert. Diese Anwendung ist besonders empfindlich gegenüber Kalibrierungsverzerrungen, da bestehende Methoden oft auf Simulationsdaten angewiesen sind, die an spezifische kosmologische Modelle gebunden sind.
• Methodenunabhängigkeit: Das UQ-Rahmenwerk ist unabhängig vom verwendeten spezifischen Rekonstruktionsalgorithmus (z. B. Kaiser-Squires, Deep Learning, Wavelet-Sparsity) und dient als nachgelagerte Kalibrierschicht.

Experimentelle Ergebnisse
Die Methode wurde an einer Aufgabe zur Massenkartierung mittels schwacher Gravitationslinsung mit 300$\times$300 Pixel großen simulierten Konvergenzkarten der COSMOS-Umfrage evaluiert.

• Aufbau: Rekonstruktionen wurden mit der Kaiser-Squires-Methode durchgeführt. Äquivariantes Bootstrapping erzeugte 100 Stichproben pro Bild unter Verwendung geometrischer Transformationen und Frequenz-Schelfilter.
• Kalibrierung: RCPS wurde mit einer Ziel-Fehlerrate $\delta = 0.1$ unter Verwendung von SURE zur Kalibrierung angewendet.
• Leistung: Die konformalisierten Vorhersagemengen verfolgten die ideale Abdeckungsdiagonale über verschiedene Konfidenzniveaus hinweg eng.
• Vergleich: Der selbstüberwachte konformalisierte Ansatz übertraf das nicht-konformalisierte äquivariante Bootstrapping und das parametrische Bootstrapping signifikant. Das parametrische Bootstrapping lieferte eine vernachlässigbare Abdeckung und versagte darin, eine angemessene Rekonstruktionsvariabilität zu erfassen.

Bedeutung und Behauptungen
Die Autoren behaupten, dass dieses Rahmenwerk eine robuste Lösung für die UQ in inverser Bildgebung bietet, wo Grundwahrheit unzugänglich ist. Durch die Vermeidung simulierter Kalibrierungsdaten verhindert die Methode die Einführung versteckter Verzerrungen, die nachgelagerte wissenschaftliche Schlussfolgerungen, wie die Schätzung kosmologischer Parameter, kompromittieren könnten. Der Ansatz bietet eine statistisch strenge Alternative zu bestehenden Methoden, die entweder Genauigkeitsgarantien vermissen lassen oder auf potenziell verzerrten Simulationsdatensätzen beruhen.

Beschränkungen
Die Arbeit erkennt mehrere Beschränkungen an:

• Annahme der Austauschbarkeit: Der Kalibrierungsschritt setzt den Zugriff auf mehrere Beobachtungen voraus, die aus derselben Verteilung gezogen wurden. Bei der realen Massenkartung wird oft eine einzige große Himmelsbeobachtung verwendet, und die Erzeugung austauschbarer Emulationen daraus erfüllt diese Annahme möglicherweise nicht perfekt.
• Unempfindlichkeit gegenüber dem Nullraum: Der SURE-basierte Score ist blind gegenüber Fehlern im Nullraum des Vorwärtsoperators $A$. Während dies für die Massenkartung weniger kritisch ist (da $A$ nahezu vollen Rang hat), könnte dies zu einer unterschätzten Unsicherheit bei stark rangdefizitären inversen Problemen führen.
• Granularität: Das aktuelle Rahmenwerk quantifiziert die Unsicherheit auf Bildniveau (MSE) anstatt per-Pixel-Unsicherheitsschätzungen bereitzustellen, wie sie bei überwachten Ansätzen üblich sind.
• Rechenkosten: Die Erzeugung zahlreicher Bootstrap-Stichproben erfordert effiziente Rekonstruktionsalgorithmen.