GEPC: Group-Equivariant Posterior Consistency for Out-of-Distribution Detection in Diffusion Models

Dit paper introduceert GEPC, een trainingsvrije methode voor het detecteren van out-of-distribution data in diffusion-modellen door de consistentie van de scoreveld-transformaties onder groepsequivariantie te meten, wat leidt tot verbeterde prestaties en interpreteerbare resultaten.

De kern

De Kern: Een Nieuwe Manier om "Vreemdelingen" te Herkennen

Stel je voor dat je een zeer slimme kunstenaar hebt die gespecialiseerd is in het tekenen van hondjes. Deze kunstenaar heeft duizenden foto's van hondjes gezien en weet precies hoe een hond eruit moet zien, hoe de vacht eruit moet zien en hoe de poten eruit moeten komen.

In de wereld van kunstmatige intelligentie heet deze kunstenaar een Diffusion Model. Hij kan niet alleen tekenen, maar hij kan ook zeggen: "Dit plaatje lijkt wel op een hondje" of "Dit plaatje is raar, dit is geen hondje."

Het probleem is: hoe weet de kunstenaar zeker dat een plaatje echt een hondje is, en niet iets dat er net een beetje op lijkt, maar eigenlijk een kat is, of een auto, of een willekeurige vlek? Dit noemen we OOD-detectie (Out-of-Distribution detection), oftewel: het herkennen van dingen die niet in het trainingsmateriaal passen.

Het Oude Probleem: Alleen naar de "Kracht" Kijken

Tot nu toe keken de meeste systemen alleen naar de kracht van de tekening.

• Analogie: Als de kunstenaar heel hard en zeker tekent, denken we: "Ah, dit is een hond!"
• Het probleem: Soms is een plaatje van een auto ook heel duidelijk getekend. De kunstenaar tekent hem dan ook met veel kracht. Maar het is nog steeds geen hondje. De oude methoden worden hierdoor in de war gebracht. Ze kijken alleen naar hoe hard de kunstenaar tekent, niet naar of het tekenen logisch is.

De Oplossing: GEPC (De "Spiegeltest")

De auteurs van dit paper hebben een slimme nieuwe test bedacht, genaamd GEPC. In plaats van alleen naar de kracht van de tekening te kijken, kijken ze naar de symmetrie en de logica van de tekening.

Stel je voor dat je een foto van een hondje hebt.

1. Je draait de foto 90 graden.
2. Je spiegelt de foto.
3. Je schuift de foto een beetje op.

Als het een echte, logische hond is, zou de kunstenaar (het AI-model) na deze veranderingen moeten zeggen: "Oké, de hond is nu anders gepositioneerd, maar de relatie tussen de oren en de neus blijft hetzelfde." De kunstenaar moet zich consistent gedragen.

GEPC is een test die vraagt: "Als ik dit plaatje draai en spiegelt, verandert de reactie van de kunstenaar dan op een logische manier?"

• Bij een echte hond (In-Distribution): De kunstenaar reageert perfect. Als je de hond spiegelt, spiegelt zijn "gevoel" voor de hond ook mee. Alles klopt.
• Bij een vreemd plaatje (Out-of-Distribution): Als je een foto van een auto of een willekeurige ruis spiegelt, raakt de kunstenaar in de war. Zijn reactie klopt niet meer met de verandering. De "spiegeltest" faalt. De kunstenaar breekt zijn eigen regels.

Waarom is dit zo slim?

1. Geen extra training nodig: Je hoeft de kunstenaar niet opnieuw te leren. Je gebruikt gewoon de kunstenaar die er al is en doet een paar handige proefjes met spiegels en rotaties.
2. Het werkt zelfs als de "kracht" hetzelfde is: Zoals we eerder zagen, kan een auto ook "krachtig" getekend worden. Maar als je die auto spiegelt, voelt de kunstenaar dat het niet logisch is. GEPC pikt dat op, terwijl de oude methoden dat niet zagen.
3. Het geeft een kaartje: GEPC kan niet alleen zeggen "Dit is raar", maar ook waar het raar is.
   • Voorbeeld: In de radarbeelden (zie het paper) kunnen ze precies zien waar een schip zit in de zee. De zee is rustig en logisch (de test slaagt), maar bij het schip breekt de logica (de test faalt). Zo kunnen ze het schip lokaliseren.

De Analogie: De Dansles

Laten we het nog eenvoudiger maken met een dansles:

• De Danser (Het AI-model): Hij heeft geoefend op een specifieke dans (hondjes). Hij weet precies welke beweging bij welke muziek hoort.
• De Oude Test: Keek alleen of de danser hard genoeg sprong. Als hij hard sprong, dachten ze: "Goed gedaan!" (Zelfs als hij op de verkeerde muziek sprong).
• De Nieuwe Test (GEPC): De instructeur roept: "Draai nu!" of "Spiegel je beweging!".
  • Als de danser een echte dans doet, past hij zijn bewegingen perfect aan. Hij blijft in de pas.
  • Als de danser een willekeurige beweging maakt (een vreemd plaatje), raakt hij in de war als hij moet spiegelen. Hij stapt uit de pas. Dat is het signaal: "Dit is geen echte dans!"

Wat betekent dit voor de echte wereld?

De auteurs hebben dit getest op twee dingen:

1. Gewone foto's: Het werkt heel goed om te zien of een plaatje wel of niet bij de groep hoort.
2. Radarbeelden (SAR): Dit is heel cool. Radar ziet schepen in de zee. De zee is vaak "ruis" (ID), maar een schip is een "anomalie" (OOD). GEPC kan precies zien waar het schip zit, zelfs als het model nooit specifiek op radarbeelden is getraind! Het model zegt: "De zee voelt logisch aan, maar hier, bij dit schip, breekt de logica."

Samenvatting

GEPC is een slimme, gratis test voor AI-modellen. In plaats van te vragen "Hoe zeker ben je?", vraagt het: "Blijf je logisch als ik de wereld om je heen draai en spiegelt?"

Als het antwoord "nee" is, weet je dat je te maken hebt met iets vreemds dat niet in het plaatje thuishoort. Het is als het controleren van een paspoort: niet alleen kijken of het eruitziet als een paspoort, maar ook of de foto er nog steeds op past als je het boekje omdraait.

Technische samenvatting

1. Het Probleem

Het detecteren van Out-of-Distribution (OOD) invoer is een fundamentele uitdaging voor het betrouwbaar inzetten van machine learning-modellen. Hoewel diffusion-modellen (zoals DDPMs) sterke priorisaties bieden voor OOD-detectie, vertrouwen de meeste bestaande methoden op:

• De grootte van de score (magnitude van de gradiënt).
• Lokale geometrie (energie, kromming, covariantie-spectra).
• Trajecten van het omgekeerde proces (reverse process).

Deze methoden negeren vaak de equivariantie (symmetrie) die inherent is aan de trainingsdata en de convolutie-architecturen van het model. Bijvoorbeeld, als een model getraind is op beelden die onderhevig zijn aan rotaties of spiegelingen, zou het geleerde "scoreveld" (de gradiënt van de log-waarschijnlijkheid) deze symmetrieën moeten respecteren. Bestaande methoden meten niet of het model deze symmetrieën daadwerkelijk behoudt bij nieuwe invoer.

2. Methodologie: GEPC

De auteurs introduceren GEPC (Group-Equivariant Posterior Consistency), een trainingsvrije methode die de consistentie van het geleerde scoreveld onder een eindige groep van transformaties ($G$) meet.

Kernprincipes:

• Hypothese: Voor In-Distribution (ID) data, die ongeveer invariant is onder een groep $G$ (bijv. spiegelingen, rotaties, cirkelvormige verschuivingen), en een convolutie-achtige backbone, zou het geleerde diffusion-scoreveld $s_\theta(x_t, t)$ ongeveer $G$-equivariant moeten zijn. Dit betekent dat het transformeren van de invoer en het scoreveld op een coherente manier moet gebeuren.
• OOD-signaal: Bij OOD-data (die de geleerde symmetrieën schenden of ver van het ID-mannifold liggen) breekt deze equivariantie. Het model kan de symmetrieën niet meer consistent toepassen op de "ruis" in het beeld.

Het Algorithmische Proces:

1. Noisening: Een invoer $x_0$ wordt verstoord naar een tijdstip $t$ in het forward-noising proces, resulterend in $x_t$.
2. Groepstransport: De verstoarde invoer $x_t$ wordt getransformeerd met een element $g$ uit de groep $G$ (bijv. $P_g x_t$).
3. Score-evaluatie: Het model berekent de score voor de getransformeerde invoer: $s_\theta(P_g x_t, t)$.
4. Terugtransport: Deze score wordt teruggetransporteerd naar het oorspronkelijke coördinatenstelsel met $P_g^{-1}$.
5. Residu-berekening: Het verschil (residu) wordt berekend tussen de teruggetransporteerde score en de oorspronkelijke score:
   $$r_t = P_g^{-1} s_\theta(P_g x_t, t) - s_\theta(x_t, t)$$
6. Aggregatie: De grootte van dit residu wordt gemiddeld over de groep $G$ en over een selectie van tijdstappen $T$.
7. Calibratie: De resulterende statistiek wordt gekalibreerd met alleen ID-data (geen OOD-labels nodig) om een definitieve OOD-score te krijgen.

Waarom werkt dit?
Het paper toont aan dat de grootte van de score ($\|s_\theta\|$) soms onverschillig kan zijn voor verschuivingen in de verdeling (bijv. een verschuiving van het gemiddelde in een Gaussische verdeling), terwijl de equivariantie-residu's deze verschuivingen wel detecteren. GEPC meet dus de geometrie van de posterior in plaats van alleen de ruwe beeldsymmetrie.

3. Belangrijkste Bijdragen

1. Introductie van GEPC: Een nieuwe, trainingsvrije OOD-score die de groepsconsistentie van diffusion-scorevelden test over tijdstappen en groepshandelingen. Het vereist geen aanpassingen aan de architectuur, geen fine-tuning en geen berekening van Jacobianen.
2. Praktische Implementatie: Een recept voor het combineren van groepspooling, selectie van stabiele tijdstappen (gebaseerd op variatiecoëfficiënt), en calibratie met alleen ID-data (via KDE of z-score). Het is computatie-efficiënt (geen Jacobian-vector producten).
3. Theoretische Analyse:
   • Afleiding van bovengrenzen voor ID-data en ondergrenzen voor OOD-data voor de verwachte GEPC-residu.
   • Een analyse van het "cross-backbone" scenario, waarbij het model getraind is op een andere bronverdeling dan de testdata, wat aantoont dat GEPC ook werkt bij domeinverschillen.
4. Empirische Validatie: Uitgebreide experimenten tonen aan dat GEPC concurrerend of superieur is aan state-of-the-art diffusion-methoden op standaard benchmarks (CIFAR-10, SVHN, CelebA) en zeer effectief is in een cross-domein scenario met hoogresolutie SAR-beelden.

4. Resultaten

• Benchmark Datasets (32x32): Op de 9 standaard ID/OOD-paren (bijv. CIFAR-10 vs SVHN) bereikt GEPC een AUROC die vergelijkbaar is met of beter is dan methoden zoals SCOPED, DiffPath en LMD, terwijl het computatiekosten (gemeten in Forward Evaluations) lager of vergelijkbaar houdt.
• Cross-Domein SAR-beelden: In een uitdagend scenario waar een model getraind is op LSUN (natuurlijke beelden) wordt toegepast op Synthetic Aperture Radar (SAR) beelden (schepen in zee), presteert GEPC uitstekend.
  • Het detecteert schepen en wake (OOD) in zee-ruis (ID) met hoge nauwkeurigheid.
  • Het genereert interpreteerbare warmtekaarten die precies aangeven waar de equivariantie breekt (d.w.z. waar de schepen zich bevinden), wat cruciaal is voor toepassingen zoals radar-analyse.
• Efficiëntie: GEPC vereist geen Jacobian-berekeningen (die duur zijn) en werkt puur op score-evaluaties. De kosten zijn vergelijkbaar met simpele score-norm methoden, maar met veel betere prestaties.

5. Betekenis en Impact

Dit paper biedt een nieuw perspectief op OOD-detectie: in plaats van te kijken naar hoe "ongewoon" een invoer is in termen van waarschijnlijkheid of energie, kijkt het naar hoe consistent het model reageert op symmetrische transformaties.

• Interpreteerbaarheid: De methode levert niet alleen een score, maar ook ruimtelijke kaarten die aangeven waar in het beeld het model faalt in het respecteren van symmetrie. Dit is waardevol voor veiligheidskritische toepassingen (zoals radar of medische beeldvorming).
• Trainingsvrij: Het werkt op bestaande, vooringevulde diffusion-modellen zonder dat deze opnieuw getraind hoeven te worden, wat het zeer praktisch maakt voor bestaande systemen.
• Theoretische Onderbouwing: Het biedt een wiskundige onderbouwing voor waarom equivariantiebreuk een betrouwbare indicator is voor OOD-data, zelfs in complexe, hoogdimensionale ruimtes.

Kortom, GEPC benut de inherente symmetrieën van data en modellen als een krachtig diagnostisch hulpmiddel om afwijkende data te detecteren, en doet dit op een efficiënte en interpreteerbare manier.