📊 statistics

Conformal and kNN Predictive Uncertainty Quantification Algorithms in Metric Spaces

Dit artikel stelt een raamwerk voor de kwantificering van onzekerheid in regressiemodellen op metriekruimtes voor, waarbij een conform algoritme met eindige steekproefgaranties voor homoscedastische instellingen en een lokaal adaptieve kNN-procedure voor heteroscedastische gevallen wordt geïntroduceerd, die beide schaalbaar, model-agnostisch en gevalideerd zijn door middel van toepassingen in gepersonaliseerde geneeskunde met betrekking tot complexe willekeurige objecten.

Oorspronkelijke auteurs: Gábor Lugosi, Marcos Matabuena

Gepubliceerd 2026-06-23

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Gábor Lugosi, Marcos Matabuena

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een weerman bent. Normaal gesproken geef je gewoon één getal: "Het wordt morgen 24°C." Maar dat is niet erg nuttig als je een picknick plant. Je moet ook weten: Hoe zeker ben je? Is het waarschijnlijk tussen de 21°C en 27°C, of kan het extreem schommelen van 10°C tot 38°C?

In de wereld van data science wordt deze vraag "hoe zeker ben je?" Onzekerheidskwantificatie genoemd. De meeste huidige methoden zijn goed in het geven van een enkel getal (het gemiddelde), maar ze worstelen met het tekenen van een betrouwbare "veiligheidszone" rond dat getal, vooral wanneer de data complex of rommelig is.

Dit artikel van Lugosi en Matabuena introduceert een nieuwe toolkit voor het tekenen van die veiligheidszones, specifiek voor data die niet netjes in een standaard spreadsheet past (zoals vormen, grafieken of kansverdelingen). Ze noemen deze complexe datapunten "random objects" (toevallige objecten) die leven in "metric spaces" (metrische ruimtes) — een chique manier om te zeggen: "een wereld waarin we afstand kunnen meten tussen dingen, zelfs als het niet alleen om getallen gaat".

Hier is de uitleg van hun oplossing met behulp van eenvoudige analogieën:

1. De twee soorten weer (Homoscedastisch vs. Heteroscedastisch)

De auteurs realiseren zich dat onzekerheid anders werkt afhankelijk van de situatie. Ze splitsen het probleem op in twee scenario's:

Het "Constante Regen" Scenario (Homoscedastisch):
Stel je een dag voor waarop de regen constant is. Het kan hard regenen, maar de variabiliteit (hoeveel het per minuut verandert) is overal hetzelfde.
- De oplossing uit het artikel: Ze gebruiken een methode genaamd Conformal Prediction. Denk hierbij aan het nemen van een emmer met eerdere regenmetingen, het vinden van de "typische" hoeveelheid, en het tekenen van een cirkel eromheen die gegarandeerd 95% van de tijd de regen zal vangen.
- Het voordeel: Deze methode is wiskundig "waterdicht" voor kleine datasets. Het garandeert dat je veiligheidszone correct is zonder dat je complexe aannames hoeft te maken over hoe de regen zich gedraagt. Het is snel en betrouwbaar.
Het "Stormachtige Dag" Scenario (Heteroscedastisch):
Stel je nu een dag voor die chaotisch is. In de ochtend is het rustig (lage onzekerheid), maar in de middag is het een tornado (hoge onzekerheid). De hoeveelheid "speelruimte" die je nodig hebt, verandert afhankelijk van waar je bent of hoe laat het is.
- Het probleem: De "Constante Regen"-methode faalt hier, omdat deze één grote cirkel voor de hele dag tekent. De cirkel is te groot voor de rustige ochtend en te klein voor de stormachtige middag.
- De oplossing uit het artikel: Ze introduceren een k-Nearest Neighbors (kNN) aanpak. Stel je voor dat je het weer voor een specifieke buurt probeert te voorspellen. In plaats van naar de geschiedenis van de hele stad te kijken, kijk je alleen naar de 5 dichtstbijzijnde buurten die vergelijkbare weerpatronen hadden.
- De magie: Dit zorgt ervoor dat de veiligheidszone krimpt wanneer het rustig is en uitzet wanneer het wild is. Het past zich lokaal aan. Hoewel het niet dezelfde "waterdichte" garantie heeft voor kleine datasets als de eerste methode, is het veel slimmer voor complexe, veranderende data.

2. Omgaan met "vreemde" vormen (Metrische ruimtes)

De meeste statistiek gaat ervan uit dat data slechts een lijst met getallen is (zoals lengte en gewicht). Maar in de moderne geneeskunde kan data vreemde vormen hebben:

Kansverdelingen: In plaats van te zeggen "Het gemiddelde glucosegehalte is 100", kunnen we zeggen: "Hier is de volledige curve van hoe de glucosewaarden gedurende de dag fluctueren."
Grafieken: In plaats van een getal, is de data een netwerk van verbindingen (zoals een hersenscan of een sociaal netwerk).

De toolkit van de auteurs werkt in deze "werelden van vreemde vormen". Ze dwingen deze vormen niet in een hokje; ze meten de afstand tussen vormen en tekenen veiligheidszones (bollen) rondom hen.

3. Real-world tests (Wat het artikel daadwerkelijk aantoonde)

De auteurs hebben niet alleen theoretisch gesproken; ze hebben hun tools getest op echte medische data om te bewijzen dat ze werken:

Parkinsonziekte en handschrift: Ze keken naar digitale spiralen getekend door mensen met Parkinson en gezonde mensen. Ze gebruikten hun "Constante Regen"-methode om een "normale" zone te tekenen op basis van gezonde mensen. Ze ontdekten dat de tekeningen van veel Parkinson-patiënten buiten deze zone vielen, wat aantoont dat de methode verschillen in complexe vormen kan opsporen.
Glucosemonitoring: Ze analyseerden continue glucosegegevens van mensen zonder diabetes. In plaats van alleen naar het gemiddelde suikergehalte te kijken, behandelden ze het volledige dagelijkse patroon als één enkel object. Ze bouwden een veiligheidszone die verandert op basis van leeftijd. Ze ontdekten dat naarmate mensen ouder worden, de "veiligheidszone" voor glucosewaarden breder wordt, wat betekent dat oudere volwassenen meer variabiliteit hebben in hun suerspiegel gedurende de dag.

4. Waarom dit ertoe doet (De kern van het verhaal)

Snelheid: Hun methoden zijn snel. Ze kunnen miljoenen datapunten in seconden verwerken, terwijl oudere methoden voor complexe vormen uren duren.
Flexibiliteit: Je kunt elk willekeurig voorspellingsmodel gebruiken (zoals Random Forests of neurale netwerken) en hun onzekerheidstool eromheen plaatsen.
Geen "gladheid" vereist: Veel oude methoden vereisen dat de data perfect vloeiend en voorspelbaar is. Deze nieuwe methoden werken zelfs als de data grillig, discreet of rommelig is.

Samenvattend: Dit artikel geeft wetenschappers een nieuwe manier om te zeggen: "Ik voorspel X, en ik ben 95% zeker dat het echte antwoord binnen deze specifieke vorm valt." Het werkt voor eenvoudige getallen, maar belangrijker nog, het werkt voor complexe, real-world objecten zoals medische grafieken en tijdreeksverdelingen, waarbij het betrouwbaarheidsniveau wordt aangepast aan de chaos van de data.

Technische Samenvatting: Conforme en kNN Voorspellende Onzekerheidskwantificatie Algoritmen in Metrische Ruimtes

1. Probleemdefinitie en Motivatie

Het artikel behandelt de uitdaging van voorspellende onzekerheidskwantificatie voor regressiemodellen waarbij de responsvariabele $Y$ zich bevindt in een algemene scheidbare metrische ruimte $(\mathcal{Y}, d_1)$ , en de predictor $X$ in $\mathbb{R}^p$ zit. Het doel is om een voorspellingsregio $C_\alpha(x) \subset \mathcal{Y}$ te construeren zodan dat de ware respons $Y$ met een waarschijnlijkheid van ten minste $1-\alpha$ binnen deze regio valt, gegeven $X=x$ .

De auteurs identificeren specifieke beperkingen in bestaande methoden, met name conforme inferentie:

Conservatisme: Standaard conforme methoden produceren vaak overdreven conservatieve intervallen, vooral in heteroscedastische settings of hoogdimensionale ruimtes, wat leidt tot een verlies aan statistische efficiëntie.
Smoothing-aannames: Bestaande methoden voor metrische ruimtes (bijv. Zhou en Müller [2025]) vertrouwen op kernel smoothing en differentieerbaarheidsaannames, wat restrictief is voor discrete data of complexe niet-Euclidische structuren.
Schaalbaarheid: Volledige conforme methoden en depth-profile benaderingen zijn computationeel duur voor grote datasets.
Toepasbaarheid: Veel methoden zijn beperkt tot scalaire responsen of Euclidische predictoren, en falen bij het verwerken van "willekeurige objecten" zoals kansverdelingen of grafen die veel voorkomen in de digitale gezondheidszorg.

Het artikel beoogt een framework te ontwikkelen dat eind-steekproef marginale dekkinggaranties biedt (in homoscedastische gevallen) en lokaal adaptieve voorspellingsradii (in heteroscedastische gevallen) zonder sterke smoothing-aannames op te leggen, terwijl het computationeel schaalbaar blijft.

2. Methodologie

Het framework definieert de regressiefunctie $m(x)$ als het conditionele Fréchet-gemiddelde:
$m(x) = \arg\min_{y \in \mathcal{Y}} \mathbb{E}[d_1^2(Y, y) \mid X = x]$
De voorspellingsregio wordt gedefinieerd als een metrische bol $C_\alpha(x) = B(m(x), r(x))$ , waarbij de straal $r(x)$ wordt bepaald door het conditionele kwantiel van de afstand $d_2(Y, m(x))$ . De auteurs maken onderscheid tussen twee metrieken: $d_1$ (gebruikt voor loss/regressie) en $d_2$ (gebruikt voor het definiëren van de voorspellingsregio), wat zorgt voor modelleringflexibiliteit.

De methodologie is verdeeld in drie hoofdcomponenten:

2.1 Homoscedastisch geval: Split Conformal Prediction

De auteurs introduceren een begrip van homoscedasticiteit in metrische ruimtes: de distributie van de afstand $d_2(Y, m(x))$ is onafhankelijk van $x$ .

Algoritme: Een split-conformal benadering wordt gebruikt. De data wordt gesplitst in een trainingsset ( $D_{train}$ ) om het centrum $\hat{m}(x)$ te schatten en een kalibratieset ( $D_{test}$ ) om een globale straal te schatten.
Straalschatting: De straal wordt ingesteld op het empirische kwantiel van de kalibratiescores $\{d_2(Y_i, \hat{m}(X_i))\}_{i \in D_{test}}$ .
Garanties: Dit levert een eind-steekproef marginale dekkinggarantie op: $P(Y \in \hat{C}_\alpha(X)) \geq 1-\alpha$ .
Convergentie: De auteurs bewijzen consistentie en snelle convergentiesnelheden (gedreven door de schattingsfout van het Fréchet-gemiddelde en het kwantiel) onder milde voorwaarden, waarbij specifiek alleen de consistentie van de Fréchet-gemiddelde schatter vereist is.

2.2 Heteroscedastisch geval: Lokale kNN Procedure

Voor settings waar de conditionele distributie van fouten afhangt van $x$ (heteroscedasticiteit), is een globale straal inefficiënt.

Algoritme: Een k-Nearest Neighbors (kNN) benadering wordt voorgesteld. Voor een nieuw punt $x$ wordt de voorspellingsstraal geschat met behulp van enkel de kalibratiepunten in de $k$ -dichtstbijzijnde buurt van $x$ .
Data-gestuurde selectie van $k$ : Een nieuw criterium wordt geïntroduceerd om de omvang van de buurt $k$ te selecteren. Het balanceert globale empirische dekking (het waarborgen dat de algehele dekking dicht bij $1-\alpha$ ligt) en lokale empirische dekking (het waarborgen dat lokale afwijkingen worden geminimaliseerd). Het algoritme selecteert de kleinste $k$ die aan deze beperkingen voldoet.
Garanties: Hoewel deze methode geen eind-steekproef conforme garanties biedt, stellen de auteurs asymptotische consistentie vast en leiden zij eind-steekproef bovengrens-schattingen af voor de verwachte fout. De methode vermijdt smoothing-aannames en past zich aan de lokale geometrische structuur van de predictorruimte aan.

2.3 Sequentiële uitbreiding voor Tijdreeksen

Het framework wordt uitgebreid naar metrische ruimte-gewaardeerde tijdreeksen onder aannames van stationariteit en ergodiciteit.

Methode: Een nearest-neighbor expert aggregatie methode wordt gebruikt. Historische lag-blokken worden vergeleken met de huidige staat om conditionele residu-kwantielen te schatten.
Aggregatie: Lokale kwantiel-experts worden gecombineerd met exponentiële gewichten gebaseerd op de pinball loss om een data-adaptieve straal te produceren.
Garanties: De methode biedt een asymptotische tijdgemiddelde kalibratiegarantie ( $\frac{1}{n}\sum P(Y_{t+1} \in \hat{C}_t) \to 1-\alpha$ ), in plaats van eind-steekproef garanties.

3. Belangrijkste Bijdragen

Nieuwe definitie van Homoscedasticiteit: Een definitie van homoscedasticiteit die is afgestemd op metrische ruimtes, wat de constructie van efficiënte conforme algoritmen met snelle convergentiesnelheden mogelijk maakt.
Drie Algoritmische Frameworks:
- Een split-conformal algoritme voor homoscedastische metrische ruimtes met eind-steekproef marginale garanties.
- Een lokaal kNN-algoritme voor heteroscedastische settings dat goede conditionele kalibratie bereikt zonder smoothing-aannames.
- Een sequentiële expert-aggregatiemethode voor tijdreeksen in metrische ruimtes.
Theoretische Consistentie: Bewijzen van consistentie voor de voorgestelde schatters onder minimale voorwaarden (zwakker dan de voorwaarden vereist in de Euclidische literatuur).
Computationele Efficiëntie: De voorgestelde methoden zijn computationeel schaalbaar en in staat om miljoenen observaties binnen seconden te verwerken, in contrast met depth-profile methoden die uren nodig hebben voor kleinere datasets.
Flexibiliteit: Het framework is compatibel met elk regressiealgoritme (bijv. Random Forests, Globale Fréchet regressie, kNN) en handelt niet-Euclidische responsen af (verdelingen, grafen) en predictoren.

4. Resultaten

4.1 Simulatiestudie

De auteurs evalueerden het framework op scalar-op-scalar regressie en metrische ruimte-gewaardeerde uitkomsten.

Prestaties: In heteroscedastische settings (lineair en niet-lineair) behaalde de voorgestelde adaptieve kNN-methode de laagste Integrated Squared Conditional Error (ISCE) en de hoogste Worst-Slice Coverage (WSC) vergeleken met concurrenten zoals Conformalized Quantile Regression (CQR) en de depth-profile methode van Zhou en Müller [2025].
Homoscedastische Settings: De globale conforme methode presteerde competitief met CQR, wat de efficiëntie bevestigt wanneer de homoscedastische aanname standhoudt.
Efficiëntie: De voorgestelde methoden waren aanzienlijk sneller (seconden versus 50 minuten voor $n=3000$ ) dan de depth-profile benadering.
Robuustheid: De heteroscedastische methode behield een goede marginale kalibratie, zelfs wanneer deze niet conform ge kalibreerd was, hoewel kleine-steekproef stabiliteit voor worst-slice coverage werd genoteerd als een beperking.

4.2 Real-World Applicaties

Het framework werd toegepast op twee biomedische datasets:

Vormanalyse (Parkinsonziekte): Handschrifttrajecten werden behandeld als willekeurige objecten. De methode construeerde Fréchet-gecentreerde referentiegebieden voor gezonde controles. Trajecten van Parkinsonpatiënten vielen regelmatig buiten deze regio's, wat de potentie illustreert van vorm-gebaseerde digitale biomarkers.
Distributie-gewaardeerde Glucosemonitoring: Continuous Glucose Monitoring (CGM) data werden gerepresenteerd als kansverdelingen in de 2-Wasserstein ruimte. Met behulp van Globale Fréchet regressie en de kNN-straalschatter, construeerden de auteurs leeftijdsspecifieke voorspellingsregio's. De resultaten toonden aan dat voorspellingsregio's (variabiliteit) breder worden met de leeftijd, waardoor distributionele veranderingen worden gevangen die niet zichtbaar zijn in scalaire samenvattingen.

5. Betekenis en Claims

Het artikel claimt een algemeen, flexibel en computationeel efficiënt framework te bieden voor onzekerheidskwantificatie in metrische ruimtes. De betekenis ligt in:

Het overbruggen van de kloof: Het breidt conforme predictie en lokale kalibratietechnieken uit naar niet-Euclidische settings zonder te vertrouwen op de restrictieve smoothing-aannames van bestaande methoden voor metrische ruimtes.
Praktisch Nut: Het vermogen om complexe willekeurige objecten (verdelingen, grafen) met snelle berekeningen te verwerken, maakt het framework geschikt voor moderne digitale gezondheidszorg en gepersonaliseerde geneeskunde.
Theoretische Rigor: Het vestigt consistentie en convergentiesnelheden onder minimale aannames, wat een robuust alternatief biedt voor methoden die enkel op asymptotiek berusten.
Adaptiviteit: De data-gestuurde selectie van buurtgroottes maakt het mogelijk dat de methode zich aanpast aan lokale heteroscedasticiteit, wat de conditionele kalibratie verbetert waar globale methoden falen.

De auteurs merken bescheiden op dat hoewel de methode sterke marginale garanties biedt in homoscedastische gevallen en goede conditionele kalibratie in heteroscedastische gevallen, het gebruik van metrische bollen conservatief kan zijn voor sterk niet-sferische verdelingen. Toekomstig werk wordt gesuggereerd om flexibelere voorspellingsregio's te verkennen buiten de metrische bollen.