🤖 machine learning

Robust Conditional Conformal Prediction via Branched Normalizing Flow

Dit artikel introduceert Branched Normalizing Flow (BNF), een nieuwe methode die gebruikmaakt van omkeerbare transport om conditionele dekkingfouten in conformale voorspelling onder distributieverandering te begrenzen en te verminderen, waardoor de robuustheid over diverse datasets aanzienlijk wordt verbeterd.

Oorspronkelijke auteurs: Rui Xu, Xingyuan Chen, Wenxing Huang, Minxuan Huang, Weiyan Chen, Sihong Xie, Hui Xiong

Gepubliceerd 2026-05-05

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Rui Xu, Xingyuan Chen, Wenxing Huang, Minxuan Huang, Weiyan Chen, Sihong Xie, Hui Xiong

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je bent weerman. Je wilt mensen niet alleen vertellen "Morgen gaat het regenen", maar "Morgen gaat het regenen tussen de 2,5 en 7,5 centimeter". Dit bereik is je voorspellingsset.

In de wereld van AI heet dit Conformal Prediction (CP). De belangrijkste taak is garanderen dat de werkelijke hoeveelheid regen een bepaald percentage van de tijd binnen je voorspelde bereik valt (bijvoorbeeld 90% van de tijd).

Het Probleem: De "Oude" Fout

Meestal worden AI-modellen getraind op "kalibratiegegevens" (het weer van het verleden) en getest op "testgegevens" (het weer van de toekomst). De standaardmethode werkt uitstekend als de toekomst er precies zo uitziet als het verleden.

Maar wat als het klimaat verandert? Wat als de "test"-dagen plotseling veel heter of winderig zijn dan de "kalibratie"-dagen? Dit noemen we een distributieverandering.

Bestaande methoden proberen dit op te lossen door te kijken naar de gemiddelde fout. Ze zeggen: "Gemiddeld geldt onze 90%-garantie." Maar dit is als zeggen: "Gemiddeld beschermt mijn paraplu me tegen regen." Het helpt niet als je op een specifieke plek staat waar de regen zijwaarts waait en je paraplu te klein is.

Het artikel wijst erop dat terwijl de gemiddelde garantie misschien nog steeds geldt, de garantie faalt voor specifieke, lastige situaties. Als de AI onzeker is over een specifiek type dag (bijvoorbeeld een plotselinge hittegolf), kan het een voorspellingsbereik geven dat veel te klein is, waardoor het het echte antwoord mist.

De Oplossing: De "Vormveranderende Vertaler"

De auteurs stellen een nieuwe methode voor genaamd Branched Normalizing Flow (BNF), specifiek een Aangevulde versie.

Stel je het voorspellingsproces van de AI voor als een fabrieksproductielijn:

De Input: Een nieuwe, vreemde weerdag komt binnen (de testgegevens).
Het Probleem: Deze dag lijkt op niets van de dagen waarop de fabriek is getraind. Als we direct proberen te voorspellen, raakt de fabriek in de war en geeft een slecht bereik.
De Vertaler (BNF): Voordat de fabriek de nieuwe dag ziet, fungeert de BNF als een vormveranderende vertaler. Het neemt deze vreemde, nieuwe dag en "vervormt" deze wiskundig zodat het er precies zo uitziet als de oude, vertrouwde dagen die de fabriek kent.
- Analogie: Stel je probeert een vierkante pen in een rond gat te steken. In plaats van de pen te forceren, heb je een magisch gereedschap dat de vierkante pen tijdelijk in een ronde pen verandert zodat hij perfect past.
De Voorspelling: Nu de dag voor de fabriek "normaal" lijkt, genereert de fabriek een voorspellingsbereik dat gegarandeerd correct is (90% dekking), omdat het werkt met vertrouwde gegevens.
De Omgekeerde Vertaler: Hier komt de magische truc. De BNF is inverteerbaar. Zodra de fabriek het "normale" voorspellingsbereik heeft gegeven, gebruikt de BNF zijn "magische gereedschap" in omgekeerde richting om dat bereik terug te vervormen zodat het past bij de originele, vreemde weerdag.

Omdat het gereedschap omkeerbaar is en zorgvuldig ontworpen, is het uiteindelijke voorspellingsbereik voor de vreemde dag net zo betrouwbaar als dat voor de normale dag.

Waarom "Branched" en "Augmented"?

Het artikel introduceert twee speciale kenmerken om dit werkbaar te maken:

De Takken: De vertaler heeft twee aparte armen. De ene arm behandelt de kenmerken (temperatuur, wind, etc.), en de andere behandelt de uitkomst (de hoeveelheid regen).
- Waarom? Wanneer je een voorspelling maakt voor morgen, ken je de temperatuur (kenmerken), maar weet je de regen (uitkomst) nog niet. Het "Takken"-ontwerp stelt de vertaler in staat de kenmerken aan te passen zonder eerst het antwoord te hoeven weten. Het is als het aanpassen van de lens van een camera voordat je de foto maakt, zonder te hoeven weten hoe de foto eruit zal zien.
De Augmentatie (Het "Ruis"-Ingrediënt): Het oorspronkelijke idee was een beetje te stijf. Om de vertaler flexibel genoeg te maken om complexe, rommelige real-world gegevens aan te kunnen, voegen de auteurs een snufje willekeurige ruis toe (als het strooien van een beetje zout in een recept).
- Analogie: Stel je probeert twee zeer verschillende kleisculpturen op elkaar af te stemmen. Als je de klei alleen maar strekt, kan het scheuren. Maar als je een beetje "magisch stof" (ruis) toevoegt dat de klei vrijer laat stromen, kun je het perfect hervormen zonder het te breken. Deze ruis helpt het model complexe vormen te leren die een stijf model niet zou kunnen hanteren.

De Resultaten

Het team testte dit op negen verschillende real-world scenario's, waaronder:

Fietsverhuur: Voorspellen hoeveel fietsen mensen op verschillende tijdstippen van de dag zullen huren.
Verkeer: Voorspellen van de verkeerssnelheid in verschillende steden.
Zorg: Voorspellen hoe lang een patiënt mogelijk in de IC zal blijven.
Epidemieën: Voorspellen van griepgevallen tijdens verschillende fasen van een pandemie.

In al deze gevallen, waar de gegevens "verschilden" (patronen veranderden), hield hun methode de voorspellingsbereiken betrouwbaar. Het handhaafde niet alleen het gemiddelde succespercentage; het zorgde ervoor dat de AI niet specifiek faalde op de moeilijkste, meest ongewone dagen.

In het Kort

Het artikel zegt: "Vertrouw niet alleen op het gemiddelde. Als je AI vreemde, nieuwe situaties gaat tegenkomen, geef het dan een omkeerbare vertaler die die vreemde situaties kan omzetten in vertrouwde ones, de voorspelling doet, en het antwoord vervolgens terugdraait. Dit houdt je veiligheidsnet sterk, zelfs als de grond onder je verandert."

Technische Samenvatting: Robuuste Conditionele Conformale Predictie via een Vertakte Normaliserende Stroom

1. Probleemstelling

Conformale Predictie (CP) levert voorspellingssets op met marginale dekkinggaranties onder de aanname dat kalibratie- en testdata onafhankelijk en identiek verdeeld (i.i.d.) zijn. Echter, bij aanwezigheid van distributieverplaatsingen (waarbij de testdistributie $Q_{XY}$ verschilt van de kalibratiedistributie $P_{XY}$ ), richten bestaande methoden zich doorgaans slechts op het aligneren van de marginale distributies van de conformale scores. Hoewel dit de marginale dekking behoudt, faalt het om de conditionele dekkingfout bij individuele testinputs te controleren. Bijgevolg kunnen CP-sets onbetrouwbaar worden in specifieke regio's waar de conditionele scoredistributies niet overeenkomen, wat leidt tot onderschrijding of excessieve overschrijding van de dekking voor specifieke inputs. De kernuitdaging is het waarborgen van robuuste conditionele dekkinggaranties ( $Pr(Y \in C(X) | X=x) \ge 1-\alpha$ ) onder gezamenlijke distributieverplaatsingen, zonder kennis van de ware testlabels tijdens de inferentie.

2. Methodologie

De voorgestelde oplossing introduceert een theoretisch kader dat distributieverplaatsing koppelt aan degradatie van conditionele dekking, en een nieuwe architectuur om dit te mitigeren.

Theoretisch Kader:

Conditionele Dekkingkloof (CCG): De auteurs definiëren CCG om de discrepantie te meten tussen de conditionele dekking van een testinput onder $Q_{XY}$ versus de garantie onder $P_{XY}$ .
Geïntegreerde Dekkingkloof (ICG): Gedefinieerd als de verwachting van CCG over de testfeaturedistributie $Q_X$ , dienend als een holistische robuustheidsmetriek.
Wasserstein-grens: Het artikel leidt een bovengrens af voor ICG met behulp van de Wasserstein-afstand ( $W$ ) tussen de gezamenlijke kalibratie- en testdistributies ( $P_{XY}$ en $Q_{XY}$ ). Specifiek geldt: $ICG(P, Q) \le \sqrt{2\kappa L} (\eta \cdot W(P_{XY}, Q_{XY}) + 1/4)$ . Deze grens impliceert dat het minimaliseren van de Wasserstein-afstand tussen de distributies theoretisch robuuste conditionele dekking kan bevorderen.

Algoritme: Vertakte Normaliserende Stroom (BNF)
Om de Wasserstein-grens te operationaliseren, stellen de auteurs Vertakte Normaliserende Stroom (BNF) voor, een inverteerbare mapping $f_\theta(x, y) = (f_{\theta_X}(x), f_{\theta_Y}(y)) die is ontworpen om de testdistributie$ Q_{XY}$ te transformeren zodat deze overeenkomt met de kalibratiedistributie $P_{XY}$ .

Architectuur: BNF maakt gebruik van twee onafhankelijke takken. De $X$ -tak ( $f_{\theta_X}$ ) normaliseert testinputs, terwijl de $Y$ -tak ( $f_{\theta_Y}$ ) de labels transformeert. Cruciaal is dat de takken geen parameters delen, waardoor de transformatie van $X$ niet afhankelijk is van het niet-geobserveerde testlabel $Y$ .
Inferentieproces:
1. Transformeer een testinput $X_{n+1}$ naar een genormaliseerde input $\bar{X}_{n+1} = f_{\theta_X}(X_{n+1})$ .
2. Construeer een conditionele voorspellingsset $CC(\bar{X}_{n+1})$ met behulp van de kalibratiedistributie $P_{XY}$ (bijvoorbeeld via Conformalized Quantile Regression).
3. Transformeer de set terug naar de testruimte met behulp van $f_{\theta_Y}^{-1}$ om de uiteindelijke robuuste voorspellingsset $C_{BNF}(X_{n+1})$ te verkrijgen.
Geaugmenteerde BNF: Om complexe distributies te hanteren waarvoor univariate monotone transformaties (vereist voor eenvoudige inverse mapping) ontoereikend zijn, introduceren de auteurs Geaugmenteerde BNF. Deze variant voegt een stochastisch ruiscomponent $\epsilon \sim \mathcal{N}(0,1)$ toe aan de $Y$ -tak-transformatie ( $f_{\theta_Y}^{aug}(y; \epsilon)$ ). Dit verhoogt de expressiviteit, maar vereist het oplossen van een wortelvindingsprobleem (of een grid-search) tijdens de inferentie om de voorspellingsset te construeren, aangezien de transformatie niet langer strikt monotoon is.
Multi-Source Domain Generalization (MSDG): In scenario's waarbij de testdistributie een mengsel is van $K$ bron-distributies, minimaliseert de methode de gemiddelde Wasserstein-afstand tussen de kalibratieset en de getransformeerde bronsets, onder de aanname van uniforme menggewichten.

3. Belangrijkste Bijdragen

Kwantificering van Robuustheid: De definitie van Conditionele Dekkingkloof (CCG) en Geïntegreerde Dekkingkloof (ICG) biedt een theoretische metriek om conditionele dekkingrobustheid onder distributieverplaatsing te evalueren.
Theoretische Grens: De afleiding van een bovengrens voor ICG in termen van de Wasserstein-afstand tussen gezamenlijke distributies, waarmee een theoretisch verband wordt gelegd tussen transportminimalisatie en behoud van conditionele dekking.
Vertakte Normaliserende Stroom (BNF): De introductie van een twee-tak inverteerbare architectuur die transformatie van testinputs naar een kalibratie-achtige distributie mogelijk maakt zonder testlabels te vereisen, waardoor conditionele garanties bij inverse transformatie behouden blijven.
Geaugmenteerde BNF: Een extensie die gebruikmaakt van stochastische augmentatie om de aanpassingscapaciteit voor complexe distributies te verbeteren, gekoppeld aan een methode om conditionele garanties te herstellen ondanks het verlies van monotonie.

4. Experimentele Resultaten

De methode werd geëvalueerd op negen datasets die synthetische verschuivingen en real-world uitdagingen bestrijken (verkoopvoorspelling, verkeersvoorspelling, medische besluitvorming en epidemische modellering) onder Multi-Source Domain Generalization (MSDG) settings.

Metrieken: Prestaties werden gemeten aan de hand van Marginale Dekking, Slechtste-Slice Dekking (WSC) en de voorgestelde Slechtste-Slice Dekkingkloof (WSCG), die zowel onderschrijding als overschrijding bestraft.
Vondsten:
- Robuustheid: Geaugmenteerde BNF in combinatie met Conformalized Quantile Regression (CQR) behaalde consistent de laagste WSCG over alle datasets en betrouwbaarheidsniveaus, en presteerde beter dan baselines zoals Split CP, Importance-Weighted CP, Worst-Case CP en Wasserstein-Regularized CP.
- Dekking: De methode behield marginale dekking en WSC dicht bij het gewenste betrouwbaarheidsniveau ( $1-\alpha = 0.9$ ), terwijl de afwijking van het doel in conditionele slices aanzienlijk werd verminderd.
- Efficiëntie: Hoewel standaard Geaugmenteerde BNF grotere voorspellingssets produceerde om brononzekerheid te compenseren, verkleinde een "Augment-Conditioned" variant (die conditie neemt op de bekende bron tijdens inferentie) de setgrootte aanzienlijk, terwijl de dekking behouden bleef.
- Generalisatie: De methode toonde robuustheid over variërende steekproefgroottes, aantallen bron-domeinen ( $K$ ) en verschillende betrouwbaarheidsniveaus.

5. Betekenis en Claims

Het artikel claimt dat de primaire betekenis ligt in het aanpakken van de degradatie van conditionele dekking van Conformale Predictie onder distributieverplaatsingen, een probleem dat grotendeels onopgelost blijft door bestaande, op marginale dekking gerichte methoden. Door de conditionele ongeldigheid te begrenzen via de Wasserstein-afstand en dit te implementeren via een inverteerbare vertakte stroom, biedt het werk een theoretisch onderbouwde en empirisch effectief mechanisme om ervoor te zorgen dat onzekerheidskwantificering betrouwbaar blijft voor individuele testinputs, zelfs wanneer datadistributies verschuiven. De auteurs positioneren dit als een stap naar veiligere AI-toepassingen in kritieke domeinen (zoals gezondheidszorg, verkeer en epidemische modellering) waar distributieverplaatsingen onvermijdelijk zijn en conditionele betrouwbaarheid van het grootste belang is.

Het artikel erkent beperkingen, waaronder de rekentijd voor wortelvinding in Geaugmenteerde BNF, de stochastische aard van de voorspellingssets en architecturale beperkingen die multivariate inputs vereisen. Het merkt ook op dat hoewel kalibratie-data wordt hergebruikt voor het trainen van de stroom (een potentiële tuning-bias), ablatiestudies suggereren dat deze impact in de praktijk minimaal is.