🤖 machine learning

Perturb and Correct: Post-Hoc Ensembles using Affine Redundancy

Dit artikel introduceert Perturb-and-Correct (P&C), een post-hoc methode die epistemisch diverse voorspellers genereert vanuit één vooraf getraind netwerk door toevallige verstoringen van de verborgen lagen toe te passen met correcties op basis van de kleinste kwadraten, waardoor sterke afwegingen tussen in-distributie en out-of-distributie worden bereikt zonder dat meerdere modellen vereist zijn.

Oorspronkelijke auteurs: Eleanor Quint

Gepubliceerd 2026-05-05

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Eleanor Quint

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: De "Perfecte" Student die Faalt bij het Onverwachte Toets

Stel je voor dat je een briljante student (een neurale netwerk) hebt opgeleid om wiskundeproblemen op te lossen. Je geeft hen duizenden oefenopgaven (de trainingsdata) en ze halen een perfecte score. Ze zijn zo goed dat als je hen een andere opgave uit hetzelfde leerboek geeft, ze het elke keer goed hebben.

Maar hier zit de adder onder het gras: Veel verschillende studenten hadden diezelfde perfecte score kunnen halen.

In de wereld van deep learning heet dit onderspecificatie. Je trainingsdata dwong het model niet om één specifieke denkwijze aan te leren; het dwong het alleen om het juiste antwoord te geven. Het model vond dus één pad naar het antwoord, maar er zijn duizenden andere paden die het had kunnen nemen en die er op de oefentoets exact hetzelfde hadden uitgezien.

Het probleem ontstaat wanneer de student geconfronteerd wordt met een verschuiving in de verdeling (distribution shift) — een realiteitstoets waarbij de vragen er iets anders uitzien (bijvoorbeeld een zelfrijdende auto die een sneeuwstorm ziet in plaats van een zonnige dag, of een medische AI die een zeldzame ziekte ziet). Omdat het model tijdens de training nooit hoefde te kiezen welk pad het moest nemen, kan het een pad kiezen dat werkt voor de zonnige dag, maar leidt tot een crash in de sneeuw. We weten niet welk pad het heeft genomen, dus we weten niet of het veilig is.

De Oplossing: Perturb-and-Correct (P&C)

De auteurs introduceren een slimme truc genaamd Perturb-and-Correct (P&C). Ze hoeven de student niet opnieuw te trainen of nieuwe dingen te leren. Ze nemen het afgewerkte model en schudden het op een zeer specifieke manier om een "team" te creëren van lichtelijk verschillende versies van dezelfde student.

Zo werkt het proces, stap voor stap:

1. De "Perturb" (De Schok)

Stel je voor dat het brein van de student een specifieke laag neuronen heeft (een verborgen laag) waar ze zwaar nadenken. De onderzoekers nemen deze laag en nudge (duwen) de verbindingen erin willekeurig een beetje.

Analogie: Het is alsof je de student vraagt het wiskundeprobleem op te lossen terwijl ze een beetje vervormende brillen dragen die hun zicht slechts een heel klein beetje verstoren.
Resultaat: Als je dit alleen zou doen, zou de student zelfs op de oefenopgaven verkeerde antwoorden gaan geven. De "nudge" heeft hun perfecte score verbroken.

2. De "Correct" (De Oplossing)

Dit is het magische deel. De onderzoekers kijken naar de volgende laag van het brein (de affiene laag) en tunen deze opnieuw met een simpele wiskundige correctie (kleinste-kwadraten correctie) gebaseerd op de oude oefenopgaven.

Analogie: De student doet de vervormende brillen op, raakt in de war en begint verkeerde antwoorden te geven. Maar dan past een leraar (de correctiestap) snel de pen van de student (de volgende laag) aan om de brillen te compenseren.
Resultaat: Wanneer de student naar de oude oefenopgaven kijkt, heffen de brillen en de pen-aanpassing elkaar perfect op. De student krijgt exact dezelfde perfecte score als voorheen.

3. De "Ensemble" (Het Team)

De onderzoekers herhalen dit proces vele malen. Elke keer gebruiken ze een andere willekeurige nudge (andere brillen) en een andere pen-aanpassing.

Het Resultaat: Je hebt nu 50 of 100 versies van dezelfde student.
- Op de oude oefenopgaven zijn ze het allemaal perfect met elkaar eens.
- Op nieuwe, vreemde problemen (de verdelingsverschuiving) heffen de "brillen" en "pen"-aanpassingen elkaar niet meer perfect op. De studenten beginnen met elkaar in onenigheid te raken.

Waarom Dit Belangrijk Is: Het "Onenigheid"-Signaal

In het verleden, als een enkel model onzeker was, moesten we een hele nieuwe set modellen vanaf nul trainen om te zien of ze het met elkaar eens of oneens waren. Dat kost veel tijd en rekenkracht.

Met P&C gebeurt de onenigheid automatisch:

Als de invoer normaal is: De "brillen" en de "pen"-correctie werken samen. Alle versies van het model zijn het eens. We zijn zeker.
Als de invoer vreemd is (Out-of-Distribution): De "brillen" en de "pen"-correctie passen niet meer bij de nieuwe situatie. De modellen beginnen verschillende antwoorden te geven.
Het Signaal: Het feit dat ze het oneens zijn, vertelt ons: "Hé, we bevinden ons in onbekend terrein! Wees voorzichtig!"

De "Kraan" Analogie

Het paper gebruikt een geometrisch concept genaamd "hefboomwerking" (leverage) om uit te leggen waarom dit werkt.

Stel je voor dat de oefenopgaven een groep mensen zijn die rond een kampvuur zitten.
Als je een vraag stelt aan iemand die vlak naast het vuur zit (in-distribution), kan de "pen-aanpassing" de "brillenvervorming" gemakkelijk corrigeren omdat ze dicht bij het centrum zitten. Iedereen is het eens.
Als je een vraag stelt aan iemand die ver weg in het donker staat (out-of-distribution), kan de "pen-aanpassing" (die gekalibreerd was voor het vuur) hen niet bereiken. De "brillenvervorming" neemt het over, en de modellen beginnen dingen anders te zien.

Samenvatting van Resultaten

De auteurs hebben dit getest op twee dingen:

Robotica (MuJoCo): Het voorspellen van hoe een robot beweegt. Wanneer het gedrag van de robot veranderde (verschuiving), was P&C veel beter in het detecteren dat het in een "vreemde" situatie zat, vergeleken met andere methoden, zonder dat de robot opnieuw getraind hoefde te worden.
Beeldherkenning (CIFAR-10): Het detecteren van afbeeldingen die niet thuishoren (zoals het tonen van een kattenfoto aan een honden-classificator). P&C was zeer goed in het zeggen: "Ik weet niet wat dit is," vergeleken met andere methoden met één enkel model.

De Conclusie

Het paper betoogt dat we niet moeten proberen de "flexibiliteit" van neurale netwerken te elimineren (het feit dat veel paden leiden tot hetzelfde antwoord). In plaats daarvan moeten we deze benutten.

Door een enkel getraind model te nemen, het willekeurig te schudden, en het vervolgens net genoeg te repareren om het eerlijk te houden op bekende data, kunnen we gratis een team van diverse experts creëren. Ze blijven in sync als alles normaal is, maar breken natuurlijk uit in een koor van onenigheid wanneer dingen vreemd worden, waardoor we worden gewaarschuwd voor potentieel gevaar.

Technische Samenvatting: Perturb-and-Correct (P&C)

Probleemstelling

Moderne diepe neurale netwerken zijn massaal overgeparameteriseerd, wat leidt tot een fenomeen dat bekendstaat als onderspecificatie. Hoewel veel verschillende parameterconfiguraties bijna identieke prestaties kunnen leveren op in-distributie (ID) trainingsdata, gedragen deze modellen zich vaak drastisch verschillend onder distributieveranderingen of adversariale aanvallen. Dit gebrek aan restrictie betekent dat standaard trainingspipelines het modelgedrag buiten de data-ondersteuning niet volledig bepalen, wat een kritieke kloof creëert in betrouwbare implementatie, met name wat betreft epistemische onzekerheid en detectie van out-of-distribution (OOD) data. Bestaande methoden voor het schatten van deze onzekerheid vereisen vaak het trainen van meerdere onafhankelijke modellen (Deep Ensembles), het aanpassen van het trainingsproces (MC Dropout), of het benaderen van een posterior-verdeling (SWAG, Laplace), wat rekenkundig duur of structureel beperkend kan zijn.

Methodologie: Perturb-and-Correct (P&C)

Het artikel introduceert Perturb-and-Correct (P&C), een post-hoc ensemble-construktiemethode die epistemisch diverse voorspellers genereert vanuit een enkel vooraf getraind netwerk zonder opnieuw te trainen. De methode maakt gebruik van de onderspecificatie van diepe netwerken door opzettelijk parametervariaties in te voeren en vervolgens hun effecten op ID-data te beperken.

Kernmechanisme

Perturbatie: P&C selecteert een verborgen laag (of een reeks lagen) en past willekeurige, laag-rang parameterperturbaties toe. Specifiek wordt een willekeurige orthonormale basis gesampled en geschaald met een perturbatiemagnitude $\sigma$ om een perturbatiematrix $\Delta W$ te creëren.
Correctie: Om te voorkomen dat deze perturbaties de prestaties op ID-data verslechteren, past P&C een compenserende correctie toe in de direct daaropvolgende affiene laag. Dit wordt bereikt via ridge-geregulariseerde kleinste-kwadraten op een kalibratiesubset van de ID-data. De correctie minimaliseert het verschil tussen de oorspronkelijke pre-activaties van de volgende laag en de geperturbeerde pre-activaties.
Ensemble Constructie: Dit proces wordt $M$ keer herhaald met verschillende willekeurige perturbaties en, optioneel, verschillende bootstrap-subsets van de kalibratie-data. Het resulterende ensemble is een uniform gewogen mengsel van deze gecorrigeerde voorspellers.

Theoretische Grondslag

Het artikel analyseert het mechanisme door de lens van het post-correctie residu en de gecorrigeerde sensitiviteit:

ID-bewaring: Nabij de kalibratiedistributie onderdrukt de kleinste-kwadraten-correctie het effect van de perturbatie effectief. Het residu wordt begrensd door een hefboomterm die klein is wanneer de input binnen de kalibratie-geometrie ligt.
OOD-divergentie: Naarmate inputs afwijken van de kalibratie-ondersteuning (extrapolatie), groeit de hefboomterm en kan de correctie de perturbatie niet langer volledig absorberen. Bijgevolg groeit de gecorrigeerde sensitiviteit (de outputverandering per eenheid verborgen-laag-perturbatie), waardoor de ensemble-leden significant van mening kunnen verschillen over OOD-data.
Willekeurig Probing: De auteurs betogen dat willekeurige perturbaties fungeren als een onbevooroordeeld schets van de gecorrigeerde sensitiviteitsoperator. Omdat de correctie effecten alleen onderdrukt waar de data het gedrag beperkt, propt willekeurig sampling effectief de "epistemische vrijheidsgraden" die door de trainingsdata onopgelost zijn gelaten.

Belangrijkste Bijdragen

Post-Hoc Ensemble Constructie: Het artikel toont aan dat bruikbare epistemische ensembles kunnen worden geconstrueerd zonder een volledige posterior te schatten of gespecialiseerde perturbatierichtingen te selecteren. Willekeurige laag-dimensionale perturbaties van verborgen lagen, gekoppeld aan lokale affiene correctie op kalibratie-data, zijn voldoende om diverse voorspellers te genereren.
Geometrische Analyse van Residuen: De auteurs bieden een theoretische analyse die aantoont waarom overeenstemming blijft bestaan nabij de kalibratie-geometrie terwijl meningsverschillen ontstaan onder verschuiving. Ze formaliseren de relatie tussen het residu, de hefboom en de gecorrigeerde sensitiviteit, en verklaren waarom willekeurige perturbaties effectief zijn in het proppen van epistemische onzekerheid.
Empirische Validatie: De methode wordt geëvalueerd op twee distincte taken:
- MuJoCo Dynamica Voorspelling: P&C bereikt een sterke afweging tussen ID root mean squared error (RMSE) en ver-OOD negatieve log-likelihood (NLL), en presteert beter dan of gelijk aan standaard baselines (Deep Ensembles, SWAG, Laplace, Subspace) terwijl slechts één vooraf getraind model wordt gebruikt.
- CIFAR-10 OOD Detectie: Met behulp van het OpenOOD-protocol bereikt P&C state-of-the-art resultaten onder post-hoc methoden, en verbetert het sterke single-model baselines zoals SWAG, en nadert het de prestaties van Deep Ensembles met aanzienlijk lagere rekenkosten.

Resultaten

MuJoCo: Over 11 omgevingen behaalde P&C de beste gemiddelde rang voor Ver-OOD NLL (1.55), Ver AUROC (1.27) en Ver Spearman-correlatie (1.64). Het behield competitieve ID RMSE (3.18) terwijl het Deep Ensembles significant overtrof in OOD-detectiemetrics.
CIFAR-10: P&C behaalde de hoogste Near-OOD AUROC (91.55) en Ver-OOD AUROC (95.09) onder gerapporteerde methoden, terwijl het de False Positive Rate bij 95% recall (FPR95) aanzienlijk verlaagde in vergelijking met SWAG en Deep Ensembles.
Mechanisme Diagnostics: Experimenten bevestigden dat zonder de kleinste-kwadraten-correctie willekeurige perturbaties de ID-prestaties verslechteren. Met correctie wordt ID-prestatie behouden, en neemt de meningsverschil toe met de Mahalanobis-afstand tot de kalibratie-activaties.

Betekenis en Claims

Het artikel claimt dat P&C onderspecificatie niet herformuleert als een pathologie die moet worden geëlimineerd, maar als een bron van epistemische onzekerheid die moet worden geëxploiteerd. Door de vrijheidsgraden die door kalibratie-data onopgelost zijn gelaten te behandelen als een hulpbron, biedt P&C een rekenkundig efficiënt alternatief voor het trainen van meerdere onafhankelijke modellen of het uitvoeren van complexe Bayesiaanse inferentie.

De auteurs positioneren P&C filosofisch dichter bij Epistemische Neurale Netwerken dan bij expliciet Bayesiaanse methoden, omdat het onzekerheid vertegenwoordigt via een familie van voorspellers die overeenstemmen waar data het gedrag beperkt en divergeren waar dit niet het geval is, zonder dat er wijzigingen nodig zijn in de modelarchitectuur of het trainingsproces. Het werk suggereert dat lokale affiene correcties eenvoudige willekeurige perturbaties kunnen transformeren in effectieve post-hoc ensembles, en benadrukt het potentieel van overparameterisatie in deep learning.