From Local Geometry to Global Pseudo Labeling for Robust Positive Unlabeled Learning under Covariate Shift

Technische Samenvatting: Van Lokale Geometrie naar Globale Pseudo-Labeling voor Robuust Positive–Unlabeled Learning onder Covariate Shift

Probleemstelling
Het detecteren van covariate shift—waarbij de inputdistributie $P(X)$ verandert terwijl de conditionele labelingsfunctie $P(Y|X)$ constant blijft—is cruciaal voor het inzetten van betrouwbare visiesystemen. Terwijl bestaand onderzoek zich sterk richt op domeinadaptatie of generalisatie, blijft de expliciete detectie van dergelijke verschuivingen onderbelicht. Huidige detectiemethoden zijn overwegend volledig gesuperviseerd, wat gelabelde voorbeelden vereist uit zowel de originele (in-distributie) als de verschoven distributies. Deze vereiste is vaak onpraktisch, met name wanneer negatieve (verschoven) monsters niet beschikbaar of duur zijn om te verzamelen.

Bovendien is het direct toepassen van standaard Positive–Unlabeled (PU) learning op de detectie van covariate shift problematisch. Klassieke PU-methoden vertrouwen op ongebiaste risico-estimators die uitgaan van voldoende scheidbaarheid tussen de positieve en negatieve distributies. Echter, onder covariate shift overlappen de in-distributie en de verschoven data vaak aanzienlijk in de feature-ruimte. Deze overlap resulteert in een kleine totale variatieafstand en een hoge intrinsieke Bayes-risico, waardoor de globale risico-inschatting instabiel wordt en gevoelig is voor ruis.

Methodologie: S-PUNA
Om deze uitdagingen aan te pakken, stellen de auteurs Spectral PU Neighborhood Annotation (S-PUNA) voor, een geometrie-bewuste framework die gebruikmaakt van de lokale manifold-structuur van visuele features om verschoven data progressief te ontdekken zonder dat globale supervisie vereist is.

1. Lokale Manifold Expansie:
   In tegenstelling tot klassieke k-NN-PU benaderingen die alleen positieve labels propageren, construeert S-PUNA symmetrisch zowel positieve als negatieve ankerverzamelingen. Startend vanaf een voorgetrainde Vision Transformer (ViT) feature-ruimte (specifiek de 6e block, gekozen vanwege de gevoeligheid voor geometrische nuances), initialiseert de methode pseudo-gelabelde sets op basis van afstandsscores vanaf de positieve domein. Vervolgens breidt het deze sets iteratief uit door monsters te identificeren die statistisch inconsistent zijn met de huidige positieve ondersteuning, maar consistent zijn met de opkomende negatieve manifold.

2. Symmetrische Propagatie:
   In elke iteratie berekent het algoritme de gemiddelde afstanden van kandidaat-monsters tot hun $k$-dichtstbijzijnde buren in zowel de huidige positieve als negatieve banken. Een scoringmechanisme rangschikt kandidaten om de positieve set uit te breiden (monsters dicht bij positieven) en de negatieve set (monsters ver van positieven maar die een coherente cluster vormen). Dit iteratieve proces verfijnt de beslissingsgrens door de negatieve manifold progressief te ontsluiten.

3. Spectral Entropy Stopping Criterion:
   Een cruciale uitdaging in iteratieve pseudo-labeling is "semantische drift", waarbij het algoritme per ongeluk in-distributie monsters in de negatieve set opneemt. S-PUNA introduceert een nieuw stopcriterium gebaseerd op spectrale entropie. Door de eigenvalue-distributie van de covariantie-matrix van de ontdekte negatieve set te monitoren, meet de methode de intrinsieke dimensionaliteit en structurele complexiteit.

   • Theoretische Basis: De auteurs bewijzen (Lemma 1) dat naarmate de negatieve set gecontamineerd raakt met positieve monsters (semantische drift), de spectrale entropie strikt afneemt.
   • Mechanisme: Het expansieproces stopt wanneer de spectrale entropie stabiliseert of afneemt, wat aangeeft dat de negatieve manifold voldoende is gevangen zonder de overlappende regio's binnen te dringen.

4. Knowledge Distillation:
   Zodra de iteratieve expansie convergeert, wordt de niet-parametrische buurtstructuur gedestilleerd naar een parametrische Deep Neural Network (DNN) classifier. Deze stap vlakt de beslissingsgrens af, waardoor de variantie wordt verminderd terwijl de lokale geometrische scheiding die tijdens de PU-fase is ontdekt, behouden blijft.

Belangrijkste Bijdragen

• Nieuwe Probleemformulering: Dit artikel is het eerste dat covariate shift detectie systematisch onderzoekt vanuit het perspectief van Positive–Unlabeled (PU) learning, en biedt theoretische inzichten in waarom standaard PU-risicominimalisatie faalt onder significante distributie-overlap.
• S-PUNA Framework: Introductie van een geometrie-bewuste pseudo-labeling framework die verschoven distributies progressief ontsluit via lokale manifold expansie in plaats van globale risico-inschatting.
• Spectral Entropy Criterium: Een principieel stopmechanisme dat vroege contaminatie detecteert en pseudo-labeling drift voorkomt, theoretisch gerechtvaardigd door de relatie tussen spectrale entropie en mengsel-contaminatie.
• Benchmarks en Prestaties: De auteurs stellen nieuwe covariate shift benchmarks vast en demonstreren dat S-PUNA een state-of-the-art prestatie levert in PU-settings, waarbij het de prestaties van volledig gesuperviseerde methoden opmerkelijk benadert.

Experimentele Resultaten
De auteurs evalueerden S-PUNA over drie primaire benchmarks: ImageNet-1K, TinyImageNet en EuroSAT, die zowel "near" shifts (subtiele distributieveranderingen, bijv. ImageNet-V2, GenImage) als "far" shifts (ernstige corrupties of stilisatie, bijv. ImageNet-C, ImageNet-R) dekken.

• Prestaties: S-PUNA presteerde consequent beter dan klassieke PU-baselines (bijv. Dist-PU, DC-PU, saPU, LaGAM). Op ImageNet-1K near-shift scenario's bereikte S-PUNA 97,89% AUROC, waarmee het de sterkste baseline (Dist-PU op 84,48%) met meer dan 13% overtrof en de False Positive Rate bij 95% True Positive Rate (FPR95) verminderde van 35,05% naar 9,69%.
• Vergelijking met Gesuperviseerde Methoden: In verschillende settings benaderde S-PUNA de prestaties van volledig gesuperviseerde classifiers, die dienen als een bovengrens. Zo bereikte S-PUNA op ImageNet-C een 98,51% AUROC, wat bijna overeenkomt met de gesuperviseerde baseline.
• Robuustheid: De methode toonde een sterke generalisatie over verschillende shift-typen en datasetgroottes (TinyImageNet, EuroSAT), waarbij een hoge stabiliteit werd behouden waar andere PU-methoden significante prestatiekloven vertoonden tussen near en far shifts.
• Unsupervised Baselines: Het artikel benadrukt ook dat puur ongesuperviseerde OOD- en anomaliedetectiemethoden (bijv. ReAct, PatchCore) aanzienlijk moeite hebben met near covariate shifts, vaak presterend nabij willekeurig, terwijl S-PUNA effectief zwakke supervisie gebruikt om dit te overwinnen.

Significantie en Claims
Het artikel betoogt dat strikt gesuperviseerde signalen geen vereiste zijn voor betrouwbare covariate shift detectie. Door effectief gebruik te maken van de intrinsieke geometrische structuur van feature-representaties, kan zwak gesuperviseerde PU-learning een zeer robuuste, state-of-the-art prestatie leveren. Het werk overbrugt de kloof tussen de theoretische beperkingen van globale PU-risico-inschatting onder overlap en praktische detectiebehoeften, en biedt een schaalbare oplossing voor real-world toepassingen waar gelabelde verschoven data niet beschikbaar is. De auteurs benadrukken dat hun aanpak bijzonder effectief is in "near-shift" regimes, die doorgaande de meest uitdagende zijn voor bestaande ongesuperviseerde detectoren.