📊 statistics

Approximate full conformal prediction in an RKHS

Dit artikel stelt een generieke, computationeel efficiënte strategie voor het benaderen van volledige conformale predictiegebieden binnen een Reproducing Kernel Hilbert Space (RKHS)-raamwerk, terwijl het theoretische garanties biedt op de nauwkeurigheid van de benadering op basis van de gladheid van de verlies- en scorefuncties.

Oorspronkelijke auteurs: Davidson Lova Razafindrakoto, Alain Celisse, Jérôme Lacaille

Gepubliceerd 2026-07-09

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Davidson Lova Razafindrakoto, Alain Celisse, Jérôme Lacaille

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die probeert het volgende getal in een geheime reeks te raden. Je hebt een kristallen bol (je voorspeller) die een beste gok geeft, maar je weet dat deze niet perfect is. Om veilig te zijn, geef je niet alleen één getal; je tekent een "vertrouwensnet" rond je gok. Dit net is breed genoeg zodat het echte getal er statistisch gezien in 90% van de gevallen in zal vallen (of welke veiligheidsmarge je ook kiest).

Dit is de wereld van Conformal Prediction. Het is een super betrouwbare manier om deze netten te bouwen zonder de exacte regels van het universum te hoeven kennen (distributievrij).

De Onmogelijke Droom: Het "Volledige" Net

De meest perfecte versie van dit net wordt Full-Conformal Prediction genoemd. Het is als een detective die, voor elk mogelijk getal dat het antwoord zou kunnen zijn, de hele onderzoeken vanaf nul opnieuw uitvoert om te zien of dat getal bij de aanwijzingen past.

Hier is het probleem: als het antwoord elk reëel getal kan zijn (zoals 3,14159...), zijn er oneindig veel mogelijkheden. Om het perfecte net te bouwen, zou je je onderzoek een oneindig aantal keren opnieuw moeten doen. Dat is onmogelijk. Het is alsof je probeert elk zandkorrel op een strand te tellen om de perfecte plek te vinden om een zandkasteel te bouwen. Je zou nooit klaar zijn.

De Gebruikelijke Compromis: Het Strand in Halveën Snijden

Omdat de "Full"-methode onmogelijk is, gebruiken de meeste detectives een kortere weg genaamd Split-Conformal. Ze nemen hun aanwijzingen, snijden het strand in tweeën, gebruiken de ene helft om het zandkasteel te bouwen, en de andere helft om het net te testen.

De paper stelt dat deze kortere weg een gebrek heeft: Je verliest informatie. Door de helft van je aanwijzingen weg te gooien om het net te testen, wordt je net breder en waziger. Het is veilig, maar het is niet erg precies. Het is als proberen het weer te voorspellen met alleen de gegevens van gisteren uit één stad, terwijl je de rest van de wereld negeert.

Het Grote Idee van de Paper: De "Magische Spiegel"

De auteurs, Davidson Lova Razafindrakoto en collega's, stellen een nieuwe strategie voor. In plaats van het strand in tweeën te snijden of te proberen elke zandkorrel te tellen, gebruiken ze een Magische Spiegel (mathematisch bekend als een RKHS of Reproducing Kernel Hilbert Space).

Denk aan de voorspeller als een rekbaar, rubberachtig vel. Wanneer je een nieuwe aanwijzing (een nieuw datapunt) toevoegt, rekt het vel uit en verandert de vorm. De "Full"-methode vraagt: "Als het antwoord dit specifieke getal was, hoe zou het vel er dan uitzien?"

De doorbraak van de paper is het besef dat voor bepaalde soorten gladde, rubberachtige vellen (specifiek die die gebruikmaken van Kernel Ridge Regression), je het vel niet vanaf nul hoeft te rekken voor elk afzonderlijk getal. In plaats daarvan kun je een Magische Spiegel (een Influence Function genoemd) gebruiken om precies te voorspellen hoe het vel zal rekken op basis van een kleine duw.

De Drie Niveaus van Magie

De paper test drie verschillende manieren om deze spiegel te gebruiken, waarbij ze steeds beter worden:

De Ruwe Spiegel (Uniform Stability): Dit is de eerste poging. Het zegt: "Ongeacht wat het getal is, het vel zal niet te veel uitrekken." Het is een veilige weddenschap, maar het is een beetje conservatief. Het creëert een net dat kleiner is dan de "Split"-methode, maar nog steeds een beetje breder dan nodig.
De Lokale Spiegel (Local Stability): Deze spiegel is slimmer. Hij zegt: "Als het getal dicht bij wat we al weten ligt, zal het vel niet veel uitrekken. Als het ver weg is, kan het meer uitrekken." Door naar de lokale omgeving te kijken, wordt het net strakker en preciezer.
De Super Spiegel (Influence Functions): Dit is de ster van de show. Het gebruikt een hoogtechnische wiskundige truc (die vereist dat het rubberachtige vel zeer glad en "twee keer differentieerbaar" is) om de rek met ongelooflijke nauwkeurigheid te berekenen. Het is alsof je een spiegel hebt die niet alleen je reflectie laat zien, maar je ook precies vertelt hoe het licht buigt.

Wat Ze Hebben Gevonden (De Resultaten)

De auteurs hebben dit niet alleen bedacht; ze hebben het getest met computersimulaties met synthetische data (specifiek de "Friedman1"-dataset).

De "Oracle" Test: Omdat ze de onmogelijke "Full" net niet konden bouwen, hebben ze een nep "Oracle" net gebouwd (een perfect net dat het antwoord van tevoren kent) om als liniaal te dienen.
De Winnaar: De Influence Function methode (de Super Spiegel) creëerde de kleinste, strakste netten van alle methoden die ze hebben getest.
De Afweging: De Super Spiegel kostte iets meer tijd om te berekenen (ongeveer 1,41 keer langer dan de Oracle in hun test), maar het was het waard. De netten die het produceerde waren de meest informatieve (smalste), terwijl ze toch de veiligheidsgarantie (90% dekking) behielden.
De "Split" Verliezer: De traditionele "Split"-methode produceerde veel bredere (minder precieze) netten omdat het de helft van de data weggooide.

Wat Ze Hebben Uitgesloten

De paper is heel duidelijk over wat niet werkt of niet het focuspunt is:

Ze verwerpen het idee dat je de data moet splitsen. Ze laten zien dat je betere resultaten kunt krijgen door alle data te gebruiken als je hun benaderingstricks gebruikt.
Ze verwerpen het idee dat je oneindig vaak opnieuw moet trainen. Hun methode vereist slechts dat je de voorspeller één keer traint (of een zeer klein aantal keren), en vervolgens de wiskundige spiegel gebruikt om de rest te simuleren.
Ze argumenteren tegen "worst-case" grenzen. Eerdere methoden gingen vaak uit van het slechtst mogbare scenario (uniforme stabiliteit), wat leidde tot enorme, nutteloze netten. Hun nieuwe methode past zich aan de specifieke situatie aan, waardoor het net strakker wordt.

Hoe Zeker Zijn Ze?

De auteurs zijn zeer zelfverzekerd over hun wiskunde. Ze hebben bewezen (met strikte stellingen) dat hun nieuwe netten gegarandeerd veilig zijn (ze bevatten het ware antwoord in ten minste 90% van de gevallen). Ze hebben ook bewezen dat hun "Super Spiegel" netten steeds strakker worden naarmate je meer data toevoegt, en sneller convergeren dan de oudere methoden.

In hun simulaties waren de "Super Spiegel" netten consequent de kleinste, waarbij de geschatte verbeteringssnelheid overeenkwam met hun wiskundige voorspellingen (een helling van ongeveer -1,20 in hun grafieken, wat betekent dat het net snel krimpt naarmate de hoeveelheid data groeit).

De Kern van het Verhaal

Als je de toekomst wilt voorspellen met een veiligheidsnet, gooi dan niet de helft van je aanwijzingen weg (Split-methode), en probeer niet elke oneindige mogelijkheid te tellen (Full-methode). Gebruik in plaats daarvan een Magische Spiegel (Influence Functions) om te zien hoe je voorspellingsinstrument zou reageren op elke mogelijke uitkomst. Het is sneller dan de onmogelijke droom, veiliger dan de kortere wegen, en geeft je het scherpste, meest precieze net dat mogelijk is.

Technische Samenvatting: Benaderde Full-Conformal Predictie in een RKHS

Probleemstelling
Full-conformal predictie is een distributievrij raamwerk dat betrouwbaarheidsvoorspellingsregio's construeert met gegarandeerde dekking voor een breed scala aan schatters. De praktische toepassing ervan wordt echter ernstig beperkt door computationele onhandelbaarheid. Om de full-conformal predictieregio voor een nieuwe input $X_{n+1}$ te berekenen, moet men een non-conformiteitsscore evalueren voor elke mogelijke kandidaat output $y \in \mathcal{Y}$ . Aangezien de onderliggende voorspeller $\hat{f}_{D_y}$ opnieuw getraind moet worden voor elke kandidaat $y$ (waarbij $D_y$ het nieuwe punt $(X_{n+1}, y)$ bevat), vereist dit het trainen van een oneindig aantal schatters wanneer $\mathcal{Y} = \mathbb{R}$ .

Bestaande alternatieven, zoals split-conformal en cross-conformal predictie, verminderen de computationele kosten door een vast aantal voorspellers te trainen. Deze methoden brengen echter een verlies aan informatie met zich mee doordat zij data weggooien tijdens de training of splitsing, wat vaak resulteert in grotere, minder informatieve voorspellingsregio's. Andere benaderingen die vertrouwen op gesloten vorm oplossingen (bijv. voor ridge regressie) of specifieke p-waarde vormen, zijn beperkt tot smalle settings en generaliseren niet naar willekeurige verliesfuncties of Reproducing Kernel Hilbert Spaces (RKHS).

Methodologie
De auteurs stellen een generieke strategie voor om de full-conformal predictieregio efficiënt te benaderen zonder de data te splitsen. De kern van de methodologie omvat:

Benaderde Voorspellers: In plaats van de voorspeller $\hat{f}_{D_y}$ voor elke kandidaat $y$ opnieuw te trainen, benadert de methode de voorspeller $\hat{f}_{D_y}$ met behulp van een vaste voorspeller $\hat{f}_{D_z}$ (getraind op een vast punt $z$ ) of een eerste-orde correctie op basis van invloedsfuncties (influence functions).
Benaderde Non-Conformiteitsscores: Met behulp van de benaderde voorspeller definiëren de auteurs benaderde non-conformiteitsscores $\tilde{S}_{D_y}$ .
Het Bounding van de Benaderingsfout: Cruciaal is dat de methode expliciete bovengrenzen ( $\tau$ ) afleidt op de discrepantie tussen de ware scores en de benaderde scores. Deze grenzen zijn afhankelijk van de gladheid van de verliesfunctie en de eigenschappen van de kernel.
Het "Sandwiching" van de Regio: Door deze foutgrenzen in de conformal p-waarde berekening te integreren, construeren de auteurs een "bovenste" benaderde regio ( $\hat{C}^{up}$ ) en een "onderste" benaderde regio ( $\hat{C}^{lo}$ ). De ware full-conformal regio ligt gegarandeerd binnen dit sandwich-interval ( $\hat{C}^{lo} \subseteq \hat{C}^{full} \subseteq \hat{C}^{up}$ ).
Kwantificering van "Thickness": Een nieuwe metriek genaamd "thickness" (dikte) wordt geïntroduceerd om het volume van de symmetrische differentie tussen de benaderde en de full-conformal regio's te kwantificeren, wat een maatstaf biedt voor de nauwkeurigheid van de benadering buiten de eenvoudige dekking waarschijnlijkheid.

Het artikel ontwikkelt drie niveaus van benadering op basis van de gladheidsaannames van de verliesfunctie:

Niveau 0 (Uniforme Stabiliteit): Gebruikt uniforme Lipschitz-constanten voor de verlies- en scorefuncties. Dit herstelt grenzen die vergelijkbaar zijn met uniforme stabiliteitsbenaderingen, maar staat toe algemene verliesfuncties in RKHS te gebruiken.
Niveau 1 (Lokale Stabiliteit): Maakt gebruik van de differentieerbaarheid van de verliesfunctie om lokale stabiliteitsgrenzen af te leiden die variëren met $y$ , waardoor de benaderingsconstanten worden aangescherpt.
Niveau 2 (Invloedsfuncties): Maakt gebruik van hogere-orde gladheid (twee- en drievoudig differentieerbare verliesfuncties) en invloedsfuncties (Bouligand invloedsfunctie) om een voorspeller-benadering te creëren die afhankelijk is van $y$ via een eerste-orde Taylor-expansie. Dit levert snellere convergentiesnelheden op voor de benaderingsfout.

Belangrijkste Bijdragen

Generieke Benaderingsstrategie: Het artikel biedt een distributievrije, generieke framework voor het benaderen van full-conformal regio's in RKHS-settings met algemene (niet-kwadratische) verliesfuncties, inclus\n bij robuuste losses zoals Logcosh, Pseudo-Huber en gesmoothde Pinball.
Niet-Asymptotische Garanties: In tegen tegenover eerdere invloedsfunctie-gebaseerde benaderingen die slechts asymptotische garanties bieden, biedt dit werk niet-asymptotische grenzen op de kwaliteit van de benadering en garandeert het dat de resulterende regio een geldige betrouwbaarheidsregio is (dekking $\geq 1-\alpha$ ).
Thickness Metriek: De introductie van "thickness" maakt het mogelijk om de discrepantie tussen de benaderde en full-conformal regio's te kwantificeren in termen van volume (Lebesgue-maat), niet alleen in termen van dekking waarschijnlijkheid.
Verbeterde Convergentiesnelheden: Door invloedsfuncties en hogere-orde gladheid te gebruiken, demonstreren de auteurs dat de benaderingsfout met een sneller tempo afneemt ( $O(n^{-1+r+\min(-1+2r, 0)})$ ) vergeleken met uniforme stabiliteitsgrenzen ( $O(n^{-1+r})$ ), met name wanneer de regularisatieparameter $\lambda$ langzaam afneemt.

Resultaten

Theoretische Grenzen: Theoretische analyse toont aan dat de "thickness" van de benadering wordt begrensd door termen die afhankelijk zijn van de kernel-eigenschappen, de regularisatieparameter en de gladheid van de verliesfunctie. Voor gladde verliesfuncties worden de grenzen aanzienlijk nauwer naarmate de steekproefomvang $n$ toeneemt.
Empirische Prestaties: Experimenten op synthetische data (Friedman1) vergelijken vier strategieën: Split-conformal, Uniforme Stabiliteit (Niveau 0), Lokale Stabiliteit (Niveau 1) en Invloedsfunctie (Niveau 2).
- Dekking: Alle voorgestelde methoden bereiken een empirische dekking die dicht bij het beoogde niveau ( $1-\alpha = 0.9$ ) ligt.
- Regio Grootte: De methode gebaseerd op de Invloedsfunctie produceert de smalste (meest informatieve) voorspellingsregio's met een lage variantie, waarmee zij zowel split-conformal als stabiliteitsgebaseerde methoden overtreft.
- Computatie: Hoewel de Invloedsfunctie-methode meer rekentijd vereist (vanwege de inversie van de Hessiaan-matrix), blijft deze hanteerbaar. De Lokale Stabiliteitsmethode biedt een gunstige afweging tussen precisie en computationele kosten.
Visualisatie: Log-log plots van de "thickness" kloof versus steekproefomvang bevestigen de theoretische convergentiesnelheden, waarbij de Invloedsfunctie-benadering sneller convergeert dan de uniforme stabiliteitsbenadering.

Betekenis en Claims
De auteurs claimen dat hun werk de kloof overbrugt tussen de theoretische optimaliteit van full-conformal predictie en de computationele haalbaarheid van split-conformal methoden. Door het splitsen van data te vermijden, gebruikt de voorgestelde methode de volledige dataset voor training, waardoor informatie behouden blijft en nauwere voorspellingsregio's ontstaan. Het framework is significant omdat het de full-conformal benadering uitbreidt naar een brede klasse van verliesfuncties en RKHS-settings, waarbij strikte niet-asymptotische garanties worden geboden op zowel de dekking als de "nauwkeurigheid" (thickness) van de resulterende regio's. Het artikel benadrukt dat hoewel de benadering computationeel efficiënt is (het vereist slechts één of enkele voorspeller-evaluaties), het de distributievrije validiteit van het full-conformal raamwerk behoudt.