Technische Samenvatting: Anytime en Moeilijkheidsadaptieve PAC-Bayes voor een Beperkt Dichtheidsverhoudingsnetwerk met Continu-Leringsgaranties

Probleemstelling

Het artikel adresseert de uitdaging van statistisch leren onder distributieverandering, specifiek covariatenverschuiving, waarbij trainingsstalen worden getrokken uit een bronwet $Q$ maar het doel is om het risico te minimaliseren onder een doellaw $P$. De kernmoeilijkheid ligt in het feit dat de Radon-Nikodym-afgeleide (dichtheidsverhouding) $r^* = dP/dQ$ onbekend is. Hoewel gewichting op basis van belangrijkheid ($r^*(Z)L(h, Z)$) een theoretisch consistente schatter voor het doelaanbodrisico biedt, staat de praktische implementatie voor drie verschillende faalmodi:

1. Foutkalibratie van Verhoudingen: Geleerde verhoudingen $r_\theta$ voldoen vaak niet aan de integraalidentiteiten van een echte Radon-Nikodym-afgeleide (bijv. normalisatie), wat leidt tot een niet-verdwijnend bias-term.
2. Instabiliteit van Gewichten: Onbeperkte schatting van verhoudingen produceert vaak zwaarstaartige gewichten, waardoor de effectieve steekproefgrootte (ESS) instort en de variantie van het gewogen empirische risico explodeert.
3. Gebrek aan Sequentiële Garanties: Bestaande PAC-Bayes generalisatiegrenzen zijn doorgaans vast-tijd (alleen geldig bij een vooraf gespecificeerde steekproefgrootte $t$). Ze falen om geldige certificaten te bieden onder adaptieve stopregels, checkpoint-selectie of continu-leringsscenario's waarbij de data-distributie of steekproefgrootte evolueert.

Methodologie

Het voorgestelde raamwerk verenigt deze zorgen in één wiskundige formulering bestaande uit vier conceptuele lagen:

1. Maattheoretische Fundamenten

Het raamwerk vertrouwt op de identiteit voor maatverandering $E_P[f(Z)] = E_Q[r^*(Z)f(Z)]$. Het decomposeert de kloof tussen het ware doelaanbodrisico $R_P(h)$ en het geleerde gewogen empirische risico $\hat{R}^\theta_t(h)$ in twee termen:

• Verhoudingsbias: $E_Q[(r^* - r_\theta)L(h, Z)]$, gecontroleerd door de $L^2(Q)$- of $L^1(Q)$-benaderingsfout van de verhouding.
• Generalisatiekloof: De stochastische fluctuatie tussen het gewogen populatierisico en het gewogen empirische risico, gecontroleerd door de variabiliteit van het gewogen verlies.

2. Beperkt Dichtheidsverhoudingsnetwerk (DRN)

In plaats van zachte regularisatie, legt het artikel harde integraalbeperkingen op aan de geleerde verhouding $r_\theta$ via een Augmented-Lagrangian-primaal-duale schema. Deze beperkingen dwingen de structurele identiteiten van een Radon-Nikodym-afgeleide af:

• Normalisatie: $E_Q[r_\theta] = 1$, waarbij wordt gewaarborgd dat de geïnduceerde maat $P_\theta = r_\theta Q$ een geldige waarschijnlijkheidsmaat is.
• Momentenmatching: $E_Q[r_\theta(Z)\phi_j(Z)] = E_P[\phi_j(Z)]$ voor een gekozen familie van testfuncties $\phi_j$, waarbij wordt gewaarborgd dat $P_\theta$ overeenkomt met $P$ op specifieke waarneembare grootheden.
• Variantiecontrole: Een tweede-momentstraf en optionele afsnijding/temperingsmechanismen worden gebruikt om het staartgedrag van $r_\theta$ te controleren, waardoor de effectieve steekproefgrootte behouden blijft.

Het trainingsdoel minimaliseert een criterium voor kleinste-kwadratenpassing (equivalent aan het minimaliseren van de $L^2(Q)$-afstand tot $r^*$) onderworpen aan deze harde beperkingen.

3. Gewogen PAC-Bayes Generalisatie

Het raamwerk instantieert PAC-Bayes-theorie op het belangrijkheidsgewogen empirische risico.

• Vast-tijd Regime: Het leidt standaard wortel-wortel en Bernoulli-KL-grenzen af voor het gewogen risico. Cruciaal is dat het de unieke minimalizer van het resulterende KL-geregulariseerde doelidentificeert als de DRN-gewogen Gibbs-posterior, waarbij hypothesen opnieuw worden gewogen door de geleerde verhouding.
• Stabiliteit: Het biedt een stabiliteitsverklaring die aantoont dat $L^2(Q)$-perturbaties in de geleerde verhouding $r_\theta$ lineair voortplanten naar het doelaanbodrisico van de optimale posterior.
• Anytime Regime: Om sequentieel leren en adaptief stoppen te ondersteunen, construeert het raamwerk een tijd-uniform certificaat. Met behulp van een geometrische schiltechniek over een onbeperkte reeks epochen leidt het een enkel hoog-waarschijnlijkheidsgebeurtenis af waarbij de grens gelijktijdig geldt voor alle $t \geq t_{min}$. Dit maakt checkpoint-selectie mogelijk zonder het betrouwbaarheidsniveau te verhogen.

4. Moeilijkheidsadaptieve en Continu Uitbreidingen

Het raamwerk bevat verfijningen voor lage-ruiscondities (wat snelle-rategrenzen oplevert die $O(t^{-1})$ benaderen) en is structureel voorbereid op continu leren waarbij bron- en doellaw in de loop van de tijd veranderen, mits een tijdvariërend verhoudingsmodel wordt toegepast.

Belangrijkste Bijdragen

1. Unificerend Raamwerk: Een enkel parametrisch object (het beperkte DRN) dat gelijktijdig de dichtheidsverhouding benadert, gewogen risico op basis van belangrijkheid ondersteunt, en dient als invoer voor PAC-Bayes-certificaten.
2. Harde Integraalbeperkingen: De introductie van een Augmented-Lagrangian-trainingsschema dat normalisatie en momentenmatching afdwingt als harde beperkingen, waarbij wordt gewaarborgd dat de geïnduceerde maat gekalibreerd is, in plaats van te vertrouwen op zachte straffen.
3. Anytime PAC-Bayes voor Verschuiving: De afleiding van tijd-uniforme generalisatiegrenzen voor doelstellingen op basis van gewichting op basis van belangrijkheid, waardoor geldig sequentieel bewaken en adaptief stoppen mogelijk wordt in scenario's met distributieverandering.
4. Stabiliteitsanalyse: Een formeel bewijs dat de geleerde Gibbs-posterior stabiel is met betrekking tot perturbaties in de geleerde verhouding, waarbij de benaderingsfout van de verhouding direct wordt gekoppeld aan grenzen voor het doelaanbodrisico.
5. Pre-geregistreerde Validatie: Een rigoureuze evaluatieprotocol met twee campagnes (gecontroleerde patchtest en implementatie op real-world data) die elke laag van het raamwerk valideert tegen analytische grondwaarheid en intrinsieke niet-synthetische verschuivingen.

Experimentele Resultaten

Het raamwerk werd geëvalueerd volgens een pre-geregistreerd protocol met twee campagnes:

Campagne 1: Gecontroleerde Patchtest (Gaussische Middelverschuiving)

• Opzet: Een een-dimensionale Gaussische verschuiving met analytische grondwaarheid voor de dichtheidsverhouding en het risico.
• Vondsten:
  • Het beperkte DRN slaagde erin analytische identiteiten (normalisatie, momenten) te herstellen en de $L^2(Q)$-verhoudingsfout monotoon te verminderen naarmate beperkingen werden toegevoegd.
  • Ontdekking van Faalmodus: In regimes met hoge verschuiving neigde het neurale netwerk ertoe om de zware staart van de ware verhouding te underfitten in plaats van te overfitten, wat suggereert dat capaciteit en trainingshorizon kritiekere hefbomen zijn dan variantie-regularisatie voor het dichten van de $L^2$-kloof.
  • Anytime Geldigheid: De geometrische schilconstructie bereikte een empirisch faalpercentage van 0% over 100 replicaten, wat de tijd-uniforme garantie bevestigt.
  • Enkele Falen: De onbeperkte LSIF-baseline slaagde er niet in de puntsgewijze $L^2(Q)$-nauwkeurigheidsdrempel te halen, wat aantoont dat het voldoen aan momentenidentiteiten geen puntsgewijze nauwkeurigheid garandeert zonder harde beperkingen.

Campagne 2: Real-Data Validatie (Bank Marketing & Folktables)

• Opzet: Binair classificeren op UCI Bank Marketing (temporele verschuiving) en Folktables ACSIncome (demografische verschuiving van staat tot staat).
• Vondsten:
  • Kalibratie: Het beperkte DRN bereikte normalisatieresiduen < 0,02 en verminderde momentresiduen aanzienlijk in vergelijking met onbeperkte baselines.
  • Downstream Prestaties: DRN-gewogen empirische risicominimalisatie verminderde het doelaanbod 0/1-verlies ten opzichte van ongewogen ERM en klassieke baselines (KLIEP, uLSIF, op discriminators gebaseerd) op 5 van de 6 splits.
  • Certificaatgeldigheid: De anytime PAC-Bayes-grens bereikte een mediaan gezamenlijke dekking van 1,00 over de splits.
  • De "Falen" (C22): De vast-tijd PAC-Bayes-dekkingsclaim faalde op splits met significante labelverschuiving (marginale verschuiving in $Y$). De dekking daalde tot 0,00–0,40 naarmate de magnitude van de labelverschuiving toenam.
  • Interpretatie: Het artikel interpreteert dit expliciet niet als een defect van de techniek, maar als een empirische bevestiging dat de alleen-covariaten-aanneming van het raamwerk operationeel strak is. De grens certificeert het gewogen bronrisico, wat gelijk is aan het doelaanbodrisico alleen als $P(Y|X) = Q(Y|X)$. Wanneer labelverschuiving bestaat, wordt deze gelijkheid geschonden, en faalt de grens correct om de ongewogen doelaanbodrisico te dekken.

Betekenis en Claims

Het artikel claimt een unificerend, theoretisch onderbouwd raamwerk te bieden voor leren onder covariatenverschuiving dat kalibratie, stabiliteit en sequentiële geldigheid gelijktijdig adresseert.

• Operationele Striktheid: De primaire betekenis is de demonstratie dat de garanties van het raamwerk "operationeel strak" zijn. Het falen van de vast-tijd-grens onder labelverschuiving wordt gepresenteerd als een functie, geen bug, en valideert empirisch de centrale decompositie die verhoudingsbias scheidt van generalisatiefout.
• Kalibratie via Harde Beperkingen: Het werk stelt vast dat het afdwingen van Radon-Nikodym-identiteiten als harde beperkingen via Augmented-Lagrangian-methoden superieure kalibratie en downstream-prestaties oplevert in vergelijking met zachte regularisatie of onbeperkte schatting.
• Sequentiële Geldigheid: Het anytime-certificaat biedt een rigoureuze rechtvaardiging voor adaptief trainen en checkpoint-selectie in niet-stationaire omgevingen, een vermogen dat eerder ontbrak in leren op basis van gewichting op basis van belangrijkheid.

Het artikel concludeert dat het beperkte DRN werkt zoals ontworpen: het leert een gekalibreerde covariatenverhouding die downstream-prestaties verbetert en geldige generalisatie-certificaten ondersteunt, mits de covariatenverschuiving-aanneming geldt. De geïdentificeerde grens (labelverschuiving) wijst op de natuurlijke volgende richting: het uitbreiden van het raamwerk naar gezamenlijke distributieverandering.