📊 statistics

Multivariate Standardized Residuals for Conformal Prediction

Dit artikel stelt een multivariate conformal prediction-raamwerk voor dat Mahalanobis-afstand-gebaseerde gestandaardiseerde residuen gebruikt om heteroskedasticiteit en outputcorrelaties effectief te behandelen, waardoor verbeterde conditionele dekking wordt bereikt en praktische uitbreidingen zoals het verwerken van ontbrekende waarden mogelijk worden zonder dat kostbare steekproeven nodig zijn.

Oorspronkelijke auteurs: Sacha Braun, Eugène Berta, Michael I. Jordan, Francis Bach

Gepubliceerd 2026-05-08

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Sacha Braun, Eugène Berta, Michael I. Jordan, Francis Bach

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een weerman bent. Je werk is niet alleen om te voorspellen: "Morgen gaat het regenen." Het is om te zeggen: "Het gaat regenen, en ik ben 90% zeker dat de hoeveelheid tussen 1 en 3 duim zal liggen."

In de wereld van machine learning wordt deze "hoeveelheid tussen 1 en 3 duim" een conformal prediction set genoemd. Het is een veiligheidsnet dat garandeert dat je voorspelling een bepaald percentage van de tijd correct is (bijvoorbeeld 90% van de tijd).

Er is echter een addertje onder het gras. De meeste standaardmethoden garanderen alleen dat het veiligheidsnet gemiddeld werkt over alle dagen heen. Ze garanderen niet dat het werkt voor specifieke dagen.

Het probleem: Op een rustige, voorspelbare dag kan je net enorm zijn (1 tot 10 duim), wat je tijd kost. Op een chaotische, stormachtige dag kan je net te klein zijn (1 tot 1,1 duim), en dan word je nat. Dit heet heteroskedasticiteit – de onzekerheid verandert afhankelijk van de situatie.

Het artikel dat je hebt aangeleverd, "Multivariate Standardized Residuals for Conformal Prediction", introduceert een nieuwe manier om dit op te lossen, vooral bij het voorspellen van meerdere dingen tegelijk (multivariate).

Hier is de uitleg in eenvoudige bewoordingen:

1. De kernidee: De "slimme elastische band"

Stel je voor dat je probeert een bal te vangen die door een vriend wordt gegooid.

Oude methode (naïef): Je gebruikt een stijf, vast formaat net. Soms is de bal makkelijk te vangen en is het net te groot. Soms is de bal wild en is het net te klein.
De methode van het artikel: Je gebruikt een slimme, rekbaar elastische band.
- Als de bal zacht wordt gegooid (lage onzekerheid), krimpt de band strak om de bal.
- Als de bal wild wordt gegooid (hoge onzekerheid), rekt de band uit om hem te vangen.
- De draai: De auteurs hebben uitgevonden hoe je dit doet wanneer je meerdere ballen tegelijk vangt die mogelijk tegen elkaar afstoten (gecorreleerde uitkomsten).

2. Hoe het werkt: De "whitening"-truc

In wiskundige termen "witt" het artikel de fout (het verschil tussen de voorspelling en de werkelijkheid).

De analogie: Stel je voor dat je probeert te meten hoe ver een auto verwijderd is van het midden van een baan.
- Als de baan een perfecte cirkel is, meet je gewoon de afstand.
- Maar wat als de baan een ovaal is, of een platgedrukte cirkel, of een vreemde vorm die verandert afhankelijk van waar je bent?
- De methode van de auteurs leert de vorm van de baan (de lokale covariantie) voor elk enkel moment. Het strekt of plakt de ruimte vervolgens zodat de baan er weer uit ziet als een perfecte cirkel.
- Zodra de ruimte "genormaliseerd" (ge whitend) is, kunnen ze een perfecte cirkel (een ellipsoïde in hogere dimensies) om de voorspelling tekenen. Deze cirkel is hun veiligheidsnet.

3. Waarom dit een grote zaak is

Het artikel claimt drie belangrijke overwinningen:

Het is slimmer: Het past zich aan de specifieke situatie aan. Als de data ruisig is, wordt het net groter. Als het schoon is, wordt het net kleiner. Dit maakt de voorspelling veel nuttiger dan methoden die een "one-size-fits-all" net gebruiken.
Het is snel: Andere methoden die dit proberen, behelzen complexe, trage steekproeven (zoals het uitvoeren van een miljoen simulaties om de vorm te raden). De methode van de auteurs gebruikt een gesloten vorm oplossing.
- Analogie: In plaats van de vorm van een wolk te raden door een uur lang te kijken, hebben ze een formule die hen de vorm direct vertelt. Het is rekenkundig goedkoop.
Het gaat om "ontbrekende stukjes" en "nieuwe inzichten":
- Ontbrekende data: Soms heb je niet alle data (bijvoorbeeld, je kent de temperatuur maar niet de luchtvochtigheid). Het artikel laat zien hoe je toch een geldig veiligheidsnet kunt tekenen met alleen de stukken die je hebt, zonder de wiskunde te breken.
- Gedeeltelijke openbaarmaking: Stel je voor dat je de bloedsuiker en het cholesterol van een patiënt voorspelt. Als je de bloedsuiker eerst meet, kun je het veiligheidsnet voor het cholesterol direct verkleinen omdat de twee met elkaar samenhangen. Het artikel stelt je in staat het net direct bij te werken zonder het hele model opnieuw te trainen.
- Transformaties: Als je het verschil tussen twee waarden wilt voorspellen (bijvoorbeeld Winst = Omzet - Kosten), kan de methode direct een net voor dat verschil tekenen, in plaats van een net voor Omzet en Kosten afzonderlijk te tekenen en te hopen dat ze correct overlappen.

4. Wat ze bewezen

De auteurs gokten niet; ze deden de wiskunde.

Ze bewezen dat als de fouten een bepaalde "elliptische" vorm volgen (zoals een uitgerekt cirkel of ovaal), hun methode garandeert dat het veiligheidsnet perfect werkt voor elke enkele invoer, niet alleen gemiddeld.
Zelfs als de data geen perfect ovaal is, lieten ze zien dat hun methode nog steeds zeer dicht bij perfecte nauwkeurigheid komt naarmate je meer data invoert.

5. De resultaten

Ze testten dit op nepdata en real-world data (zoals het voorspellen van huizenprijzen of taxi-routes).

Het resultaat: Hun "slimme elastische band" (Mahalanobis-afstand) creëerde veiligheidsnetten die strakker (preciezer) en nauwkeuriger (raakten het doel 90% van de tijd) waren dan andere methoden.
Snelheid: Het was aanzienlijk sneller dan de andere complexe methoden, waardoor het praktisch toepasbaar is voor gebruik in real-time.

Samenvatting

Het artikel lost het probleem op van "hoe teken ik een perfect, op maat gemaakt veiligheidsnet rond meerdere voorspellingen tegelijk, zelfs als de data rommelig, ontbrekend of veranderlijk is?"

Hun antwoord: "Leer de lokale vorm van de onzekerheid, strek de ruimte uit om er een cirkel van te maken, en teken een perfect net." Dit resulteert in voorspellingen die niet alleen statistisch geldig zijn, maar ook daadwerkelijk nuttig en precies zijn voor de specifieke situatie ter plaatse.

Technische Samenvatting: Multivariate Gestandaardiseerde Residuen voor Conformale Predictie

Probleemstelling
Conformale predictie biedt een model-onafhankelijk raamwerk voor het construeren van predictieve sets met gegarandeerde marginale dekking voor eindige steekproeven. Een aanzienlijke beperking is echter de moeilijkheid om conditionele dekking te bereiken, waarbij geldigheid geldt voor specifieke waargenomen invoer in plaats van slechts gemiddeld. Dit is bijzonder kritiek in heteroskedastische situaties waarbij predictieonzekerheid varieert met de invoerfeatures. Bestaande benaderingen staan voor afwegingen:

Univariate methoden: Technieken zoals "gestandaardiseerde residuen" (normaliseren van fouten door lokale variantie) verbeteren de conditionele dekking in univariate regressie, maar zijn niet van nature uitbreidbaar naar multivariate uitkomsten.
Multivariate dichtheidschatting: Methoden die de volledige conditionele dichtheid schatten, kunnen geldige sets opleveren, maar zijn rekenkundig duur, vereisen vaak steekproeven en worstelen met de "vloek van de dimensionaliteit".
Methoden met vaste vorm: Benaderingen die sets met vaste grootte of niet-adaptieve sets produceren, slagen er niet in invoer-afhankelijke onzekerheid vast te leggen.
Op steekproeven gebaseerde methoden: Recente strategieën om conditionele dekking te verbeteren introduceren vaak willekeur en variabiliteit voor identieke invoer, wat reproduceerbaarheid ondermijnt.

Methodologie
De auteurs stellen een raamwerk voor dat het concept van gestandaardiseerde residuen uitbreidt naar de multivariate setting. De kernidee is het leren van een feature-afhankelijke lokale covariantiematrix om de residuen te "witten", waardoor outputcorrelaties effectief worden ontkoppeld en lokale variantie wordt gestandaardiseerd.

Modellering: Gegeven een featurevector $X$ en een multivariate respons $Y \in \mathbb{R}^k$ , leert de methode twee functies:
- Een predictor $f_\theta(X)$ die de conditionele verwachting $\mathbb{E}[Y|X]$ schat.
- Een covariantie-schatting $\Sigma_\varphi(X)$ die de conditionele covariantiematrix schat.
  Deze kunnen gezamenlijk worden geleerd via maximum likelihood (onder de aanname van een Gaussische benadering) of worden toegepast bovenop een bestaande black-box puntpredictor.
Niet-conformiteitscore: De methode definieert een niet-conformiteitscore gebaseerd op de Mahalanobis-afstand:
$S_{\text{Mah}}(X, Y) = \|\Sigma_\varphi(X)^{-1/2}(Y - f_\theta(X))\|_2$
Deze score meet de afstand van een residu tot het gemiddelde, geschaald door de lokale covariantiestructuur.
Conformale Sets: De resulterende predictieset $C_\alpha(X_{\text{test}})$ is een ellipsoïde gecentreerd rond $f_\theta(X_{\text{test}})$ , met een vorm en grootte bepaald door $\Sigma_\varphi(X_{\text{test}})$ en een drempelwaarde afgeleid uit de kalibratieset. Dit stelt de set in staat zich aan te passen aan heteroskedasticiteit.
Extensies: Het raamwerk ondersteunt van nature enkele praktische uitbreidingen:
- Ontbrekende Uitkomsten: Door de Gaussische dichtheid te marginaliseren naar waargenomen dimensies en de Chi-kwadraat CDF te gebruiken, construeert de methode geldige scores zelfs wanneer kalibratiegegevens ontbrekende waarden bevatten.
- Gedeeltelijk Geopenbaarde Uitkomsten: Als een deel van de output $Y_r$ op testtijd wordt geopenbaard, gebruikt de methode conditionele Gaussische eigenschappen om de predictieset voor het verborgen deel $Y_h$ te verfijnen zonder hertraining.
- Uitkomsttransformaties: Voor lineaire transformaties van de output (bijvoorbeeld portefeuillerendementen) construeert de methode conformale sets direct op de getransformeerde variabelen met behulp van de getransformeerde gemiddelde en covariantie, waardoor de conservatisme van het projecteren van bestaande sets wordt vermeden.

Theoretische Garantiën
Het artikel stelt een voldoende voorwaarde vast voor de methode om asymptotische conditionele dekking te bereiken. Specifiek, als het gestandaardiseerde residu $U = \Sigma(X)^{-1/2}(Y - f(X))$ onafhankelijk is van $X$ , levert de methode asymptotisch exacte conditionele dekking op. Deze voorwaarde geldt voor een brede klasse van verdelingen, waaronder elliptische verdelingen, maar vereist niet strikt dat het ruis elliptisch is. Zelfs wanneer deze onafhankelijkheid niet geldt, wordt aangetoond dat de methode de conditionele dekking verbetert door de eerste twee momenten van de residuen te normaliseren.

Belangrijkste Bijdragen

Multivariate Uitbreiding: Een natuurlijke generalisatie van gestandaardiseerde residuen naar multivariate regressie met behulp van een geleerde lokale covariantiematrix.
Efficiëntie in Gesloten Vorm: In tegenstelling tot op dichtheid gebaseerde methoden die steekproeven vereisen, levert deze aanpak conformale sets in gesloten vorm op, waardoor deze op het moment van inferentie rekenkundig efficiënt is.
Theoretische Karakterisering: Een voldoende voorwaarde die verdelingen karakteriseert waarvoor gestandaardiseerde residuen asymptotische conditionele dekking opleveren.
Praktische Flexibiliteit: Het raamwerk maakt het hanteren van ontbrekende kalibratie-uitkomsten mogelijk, verfijning van sets bij gedeeltelijke openbaarmaking van uitkomsten, en constructie van geldige sets voor uitkomsttransformaties.

Experimentele Resultaten
De auteurs evalueren de methode op synthetische en real-world datasets (bijvoorbeeld Bias, CASP, House, rf1, scm1d, Taxi) tegenover baselines waaronder HPD (op dichtheid gebaseerd), C-PCP, L-CP, ECM (empirische covariantie) en OT (optimale transport).

Conditionele Dekking: De methode bereikt conditionele dekking dichter bij het doelniveau (bijvoorbeeld 90%) dan bestaande multivariate baselines, en presteert met name beter dan "alleen marginale" methoden die in sommige regio's te veel dekking bieden om onderdekking elders te compenseren.
Setgrootte: De methode produceert strakkere (kleinere volume) conformale sets in vergelijking met op dichtheid gebaseerde methoden, terwijl de dekking behouden blijft.
Rekenkundige Efficiëntie: De methode is aanzienlijk sneller dan op dichtheid gebaseerde benaderingen (HPD, PCP, C-PCP), die vaak dure Monte Carlo-steekproeven vereisen. Bijvoorbeeld, het beoordelen van dekking voor 1.000 punten kost verwaarloosbare tijd in vergelijking met de honderden of duizenden seconden die door baselines worden vereist.
Robuustheid: De methode presteert goed zelfs wanneer de onderliggende Gaussische aanname verkeerd is gespecificeerd (bijvoorbeeld met exponentiële ruis), wat wijst op robuustheid buiten de theoretische aannames.

Betekenis en Claims
Het artikel claimt dat deze aanpak een "bemoedigende stap" vormt naar het doel van betrouwbare conditionele dekking onder minimale aannames. Door de noodzaak van volledige conditionele dichtheidschatting te vermijden, biedt de methode een rekenkundig hanteerbaar en robuust alternatief dat de afweging balanceert tussen de strikte garanties van marginale dekking en de adaptiviteit van conditionele dekking. De auteurs benadrukken dat hoewel strikte conditionele dekking niet voor alle verdelingen kan worden gegarandeerd, de methode dit asymptotisch bereikt voor een brede klasse en in de praktijk robuuste benaderende dekking biedt. Het vermogen om ontbrekende waarden te hanteren en predicties te verfijnen met gedeeltelijke informatie breidt de toepasbaarheid van conformale predictie verder uit naar real-world scenario's waar data vaak onvolledig of gedeeltelijk waargenomen is.