Geometry-Aware Uncertainty Quantification via Conformal Prediction on Manifolds

Technische Samenvatting: Geometrie-bewuste Onzekerheidskwantificatie via Conformal Prediction op Manifolds

Probleemstelling
Conformal prediction (CP) biedt dekkinggaranties met eindige steekproeven en zonder distributie-aannames voor regressietaken. Echter, standaard CP-constructies zijn ontworpen voor Euclidische outputruimtes, waarbij gebruik wordt gemaakt van Euclidische residuen en coördinaatgebaseerde regio's. Wanneer de responsieve variabele $Y$ op een Riemanniaanse manifold ligt (bijv. de eenheidsbol $S^2$ voor geomagnetische richtingen, de torus voor proteïnehoeken, of rotatiegroepen voor de oriëntatie van ruimtevaartuigen), falen deze standaard benaderingen omdat ze de intrinsieke geometrie van de responsruimte niet respecteren.

Twee primaire problemen ontstaan in deze setting:

1. Geometrische Mismatch: Standaard residuen vertrouwen vaak op coördinaatgebaseerde afstanden (bijv. breedtegraad/lengtegraad). Op gekromde ruimtes zijn deze afstanden afhankelijk van de gekozen chart in plaats van de intrinsieke discrepantie tussen responsen. Bijvoorbeeld, een coördinaat-rechthoek met een vaste breedte op een bol heeft een oppervlakte die varieert per breedtegraad (kleiner wordt nabij de polen), terwijl een geodetische kap met een vaste intrinsieke straal een constante oppervlakte behoudt, ongeacht de locatie.
2. Heteroscedasticiteit: De moeilijkheid van voorspellen is zelden constant over de inputruimte. In taken zoals geomagnetische voorspelling verschillen de snelheden van seculaire variatie aanzienlijk per regio. Een voorspellingsset met een constante breedte zal "makkelijke" regio's overdekken en "moeilijke" regio's onderdekken. Hoewel Euclidische regressie dit aanpakt door residuen te normaliseren met lokale schattingen van de moeilijkheid, hebben bestaande methoden voor manifold-gewalueerde CP dit concept niet expliciet aangepast aan de intrinsieke geometrie.

Methodologie
De auteurs stellen Adaptive Geodesic Conformal Prediction voor, een framework dat intrinsieke geometrie integreert met lokale adaptiviteit binnen de split-conformal prediction setting.

• Opzet: De data wordt gesplitst in een trainingsset ($D_{tr}$), een kalibratieset ($D_{cal}$) en een testset. Een base point predictor $\hat{y}: \mathcal{X} \to \mathcal{M}$ en een moeilijkheidsestimator $\hat{\sigma}: \mathcal{X} \to \mathbb{R}^+$ worden uitsluitend getraind met behulp van $D_{tr}$.
• Nonconformity Scores: De methode vergelijkt drie scorestrategieën:
  1. Naïeve Coördinaat: Gebruikt $L_\infty$ afstand in sferische coördinaten, wat resulteert in as-georiënteerde rechthoeken.
  2. Standaard Geodetisch: Gebruikt de ongenormaliseerde geodetische afstand $s_{geo}(x, y) = d_{geo}(\hat{y}(x), y)$, wat constante-straal geodetische bollen (sferische kappen) produceert.
  3. Adaptief Geodetisch (Voorgesteld): Definieert de score als $s_{adapt}(x, y) = d_{geo}(\hat{y}(x), y) / \hat{\sigma}(x)$.
• Moeilijkheidsinschatting: De estimator $\hat{\sigma}(x)$ wordt via 5-voudige cross-validatie op $D_{tr}$ getraind om de geodetische residuen van het basemodel te voorspellen. Deze wordt getraind zonder toegang tot kalibratielabels om geldige conformal garanties te waarborgen.
• Voorspellingsregio: Voor een testpunt $x$ is de voorspellingsset een geodetische bol gecentreerd rond $\hat{y}(x)$ met een straal die wordt bepaald door het conformal kwantiel $\hat{q}_\alpha$ geschaald door de lokale moeilijkheid: $C(x) = B_{geo}(\hat{y}(x), \hat{q}_\alpha \cdot \hat{\sigma}(x))$. Dit staat toe dat de grootte van de regio groter wordt in moeilijke gebieden en kleiner in makkelijke gebieden, terwijl de vorm van een geodetische kap behouden blijft.

Belangrijkste Bijdragen

1. Geometrie-bewuste Regio's: De methode construeert voorspellingssets met behulp van geodetische afstanden, waardoor de oppervlakte van de regio's (bijv. sferische kappen) positie-onafhankelijk is en daarmee de intrinsieke geometrie van de manifold respecteert.
2. Lokaal Adaptieve Kalibratie: Door residuen te schalen met een coördinaat-afhankelijke moeilijkheidsinschatting die uitsluitend op de juiste trainingsdata is getraind, past de methode de regio-omvang aan aan de lokale voorspellingsmoeilijkheid zonder de kalibratielabels te gebruiken voor modeltraining.
3. Empirische Validatie: De aanpak wordt gevalideerd op synthetische sfeerdata en een real-world geomagnetische voorspellingstaak, waarbij verbeteringen in de uniformiteit van de conditionele dekking en de worst-case dekking worden aangetoond, terwijl de marginale dekkinggaranties behouden blijven.

Experimentele Resultaten
De paper evalueert de methode op twee benchmarks: een synthetische sfeer met heteroscedastische ruis en de IGRF-14 geomagnetische veldvoorspellingstaak.

• Synthetische Sfeer ($S^2$):
  • Alle methoden bereikten een geldige marginale dekking nabij het nominale niveau van 0,90.
  • De Adaptive Geodesic methode verminderde de standaarddeviatie van de conditionele dekking met 19% vergeleken met de Standard Geodesic methode.
  • De worst-bin dekking verbeterde van 0,814 (Standard) naar 0,839 (Adaptive).
  • De Naïeve Coördinaat methode had ongeveer 26% meer oppervlakte nodig dan de geodetische methoden om een vergelijkbare dekking te bereiken, wat de kosten van coördinaat-distortie benadrukt.
• IGRF-14 Geomagnetische Voorspelling:
  • De taak betrof het voorspellen van geomagnetische veldvectoren op $S^2$ over 352 locaties met van nature heteroscedastische seculaire variatie (variërend in moeilijkheid van 274-voudig).
  • De moeilijkheidsestimator vertoonde een Pearson correlatie van $r=0,516$ met de werkelijke residuen.
  • De Adaptive Geodesic methode verminderde de standaarddeviatie van de conditionele dekking met 71% (0,031 vs. 0,107 voor Standard Geodesic).
  • De worst-bin dekking nam significant toe van 0,689 (Standard) naar 0,855 (Adaptive).
  • De Standard Geodesic methode bleek onder te dekken in equatoriale regio's waar de veldevolutie het snelst is, terwijl de adaptieve methode de dekking dichter bij het nominale doel over de breedtegraden heen handhaafde.

Betekenis en Claims
Het artikel claimt dat de voorgestelde methode een praktische oplossing biedt voor onzekerheidskwantificatie in manifold-gewalueerde regressie. De betekenis ligt in de combinatie van twee complementaire keuzes:

1. Adaptiviteit: Schalen door $\hat{\sigma}(x)$ maakt de conformity scores vergelijkbaar over regio's met variërende moeilijkheid.
2. Geometrie: Het gebruik van geodetische kappen zorgt ervoor dat de oppervlakte van de voorspellingsset consistent is met de metriek van de manifold, waardoor de distorties die inherent zijn aan coördinaat-gebaseerde benaderingen worden vermeden.

De auteurs merken op dat de effectiviteit van de adaptieve methode correleert met de kwaliteit van de moeilijkheidsestimator. In het IGRF-14 experiment leverde een correlatie van $r=0,516$ substantiële verbeteringen op. Zij suggereren dat als de correlatie tussen de geschatte moeilijkheid en de werkelijke fout zwak is (bijv. onder de 0,15), de standaard geodetische methode de voorkeur verdient. Het werk claimt niet alle manifold-regressieproblemen op te lossen, maar biedt een robuust framework voor gevallen waar de responsieve ruimte gekromd is en de voorspellingsmoeilijkheid ruimtelijk varieert. Genoemde toekomstige richtingen omvatten het uitbreiden van het framework naar niet-exchangeable data en het verkennen van anisotrope regio's voor richting-afhankelijke onzekerheid.