🤖 machine learning

MahaVar: OOD Detection via Class-wise Mahalanobis Distance Variance under Neural Collapse

Dit artikel introduceert MahaVar, een post-hoc methode voor detectie van out-of-distribution die gebruikmaakt van de theoretisch onderbouwde observatie dat in-distribution-stalen een hoge variantie in de Mahalanobis-afstand per klasse vertonen als gevolg van de Neural Collapse-geometrie, en die state-of-the-art prestaties behaalt op standaard benchmarks.

Oorspronkelijke auteurs: Donghwan Kim, Hyunsoo Yoon

Gepubliceerd 2026-05-15

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Donghwan Kim, Hyunsoo Yoon

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme beveiligingswachter (een neurale netwerk) hebt die jarenlang heeft geleerd om specifieke soorten mensen te herkennen: "Artsen", "Brandweermannen" en "Koks". Deze wachter is uitstekend in zijn werk wanneer hij iemand ziet met een witte jas, een helm of een toque. Maar wat gebeurt er als een willekeurige toerist binnenkomt in een felroze clownspak?

In de wereld van AI wordt deze toerist een Out-of-Distribution (OOD)-steekproef genoemd. Het probleem is dat de wachter in de war kan raken en met zekerheid kan zeggen: "Dat is zeker een Kok!", omdat het clownspak bepaalde kleuren heeft die de wachter eerder heeft gezien. Dit is gevaarlijk in het echte leven (zoals een zelfrijdende auto die een plastic zak verward met een rots).

Dit artikel, MahaVar, introduceert een nieuwe manier voor de beveiligingswachter om deze "clowns" op te sporen voordat ze problemen veroorzaken. Hier is hoe het werkt, eenvoudig uiteengezet:

De Oude Manier: "Hoe Dicht Lig Je?"

Vroeger gebruikte de wachter een methode genaamd Mahalanobis-afstand. Stel je voor dat de wachter een kaart heeft met specifieke "zones" voor Artsen, Brandweermannen en Koks.

Wanneer een nieuwe persoon arriveert, meet de wachter hoe ver ze verwijderd zijn van het centrum van de "Arts"-zone, de "Brandweerman"-zone, enzovoort.
Als de persoon zeer dicht bij één van deze zones ligt (bijvoorbeeld de Arts-zone), gaat de wachter ervan uit dat ze een Arts zijn.
Als ze ver verwijderd zijn van alle zones, gaat de wachter ervan uit dat ze een buitenstaander zijn.

De Tekortkoming: Soms is een verwarde toerist even ver verwijderd van alle zones, of slechts per ongeluk iets dichter bij één zone. De oude methode keek alleen naar de enige dichtstbijzijnde zone en negeerde de rest.

De Nieuwe Ontdekking: De "Scherpe Berg" versus de "Vlakte Heuvel"

De auteurs van dit artikel merkten iets interessants op over hoe de afstanden eruitzien wanneer je ze van dichtst tot verst op een rij zet.

Voor een echte Arts (In-Distribution): De afstanden lijken op een scherpe bergtop. De afstand tot de "Arts"-zone is minimaal (de top), maar de afstand tot de "Brandweerman"- en "Kok"-zones is enorm. Er is een enorme kloof tussen de dichtstbijzijnde en de rest.
- Analogie: Stel je een bergbeklimmer voor die precies op de top staat. Ze zijn zeer dicht bij de top, maar zeer ver van het basiskamp en elke andere top. Het hoogteverschil is enorm.
Voor een verwarde toerist (Out-of-Distribution): De afstanden lijken op een vlakke heuvel. De toerist ligt niet dicht bij de "Arts"-zone, noch bij de "Brandweerman"-zone. Ze bevinden zich zomaar "ergens in het niets". De afstanden tot alle zones zijn ongeveer gelijk en matig groot.
- Analogie: Stel je iemand voor die op een vlak plateau staat. Ze bevinden zich op dezelfde afstand van de piek van de Arts, de piek van de Brandweerman en de piek van de Kok. Er is geen scherpe top; het is gewoon een vlak, saai landschap.

Het "Variantie"-Geheim

Het artikel noemt dit verschil Variantie.

Hoge Variantie (De Berg): Één afstand is minimaal, de rest zijn enorm. De cijfers springen veel op en neer. Dit betekent: "Ik ben zeker een Arts."
Lage Variantie (De Vlakke Heuvel): Alle afstanden zijn vergelijkbaar. De cijfers zijn saai en vlak. Dit betekent: "Ik behoor niet tot een specifieke groep."

De auteurs realiseerden zich dat door te meten hoeveel deze afstanden "op en neer springen" (de variantie), ze het verschil tussen een echte ID-steekproef en een neppe OOD-steekproef veel beter konden onderscheiden dan alleen door naar de dichtstbijzijnde te kijken.

De Oplossing: MahaVar

Ze bouwden een nieuw instrument genaamd MahaVar.

Het controleert nog steeds hoe dicht de persoon bij hun dichtstbijzijnde groep ligt (zoals de oude methode).
Maar, het voegt ook een "Variantiescore" toe. Het vraagt: "Is de afstand tot de dichtstbijzijnde groep scherp verschillend van de anderen?"
Als het antwoord "Ja" is (Hoge Variantie), is het waarschijnlijk een echte ID-steekproef.
Als het antwoord "Nee" is (Lage Variantie), is het waarschijnlijk een OOD-steekproef.

Waarom Het Werkt (De "Neurale Ineenstorting"-theorie)

Het artikel legt uit waarom dit gebeurt met behulp van een concept genaamd Neurale Ineenstorting.
Stel je voor dat de AI zo lang heeft getraind dat de "Arts"-zone is ingeschrompeld tot een tiny, strak punt, en de "Brandweerman"- en "Kok"-zones zijn ver weg bewogen om een perfecte geometrische vorm te vormen (zoals een ster).

Echte Artsen worden precies naar die kleine "Arts"-punt getrokken.
Toeristen, die niet thuishoren, blijven hangen in de lege ruimte tussen de punten.
Vanwege deze geometrie creëren echte steekproeven van nature dat "scherpe berg"-patroon, terwijl neppe steekproeven het "vlakke heuvel"-patroon creëren.

De Resultaten

De auteurs testten dit op beroemde beelddatasets (zoals CIFAR en ImageNet).

Het Resultaat: MahaVar ving consequent meer "clowns" (OOD-steekproeven) en maakte minder fouten dan eerdere methoden.
De Haken: Het werkt het beste wanneer de AI goed is getraind en voldoende "ruimte" in zijn brein (dimensies) heeft om die perfecte geometrische vormen te vormen. Op sommige zeer complexe modellen werkt het nog steeds uitstekend, maar is de "scherpe berg" niet helemaal zo scherp.

Samenvatting

Denk aan MahaVar als een beveiligingswachter die niet alleen vraagt: "Ben je dicht bij een bekende groep?", maar ook vraagt: "Is je relatie tot die groep uniek in vergelijking met iedereen anders?" Als je uniek dicht bij één groep bent en ver van alle anderen, ben je waarschijnlijk een echt lid. Als je zowat-dicht bij iedereen bent, ben je waarschijnlijk een imitator. Deze simpele toevoeging van "het controleren van de spreiding" maakt het systeem veel betrouwbaarder.

Technische Samenvatting: MahaVar: OOD-detectie via variantie van de Mahalanobis-afstand per klasse onder Neural Collapse

Probleemstelling
Het inzetten van diepe neurale netwerken in real-world omgevingen vormt een kritieke uitdaging: modellen die zijn getraind onder een gesloten-wereld-aanneming, komen vaak teststalen tegen die buiten hun trainingsverdeling vallen (Out-of-Distribution of OOD). Deze stalen kunnen leiden tot oververzekerde en potentieel catastrofale voorspellingen. Hoewel Out-of-Distribution (OOD)-detectie essentieel is voor veiligheidskritieke domeinen zoals autonoom rijden en medische beeldvorming, vertrouwen bestaande post-hoc-methoden (die geen hertraining of toegang tot OOD-gegevens vereisen) vaak op beperkte signalen. Specifiek richten Mahalanobis-afstandsbased detectoren, een sterke baseline, zich typisch uitsluitend op de minimale afstand tot de dichtstbijzijnde klasse-voorwaardelijke Gaussische verdeling, waardoor ze mogelijk de structurele geometrie van afstanden over alle klassen negeren.

Methodologie: MahaVar
De auteurs stellen MahaVar voor, een eenvoudige maar effectieve post-hoc OOD-detector die de standaard Mahalanobis-afstand aanvult met een term voor variantie van de afstand per klasse. De methode is gebaseerd op de volgende logica:

Empirische Observatie: De auteurs observeren dat voor In-Distribution (ID)-stalen de gesorteerde Mahalanobis-afstanden per klasse een "uitgesproken scherp minimumstructuur" vertonen. De afstand tot de dichtstbijzijnde klasse is aanzienlijk kleiner dan de afstanden tot alle andere klassen, die groot en relatief uniform blijven. Daarentegen vertonen OOD-stalen een minder uitgesproken minimum, waarbij de afstanden tot alle klassen vergelijkbaar groot en minder variabel zijn. Deze structurele asymmetrie impliceert dat ID-stalen een hogere variantie in afstanden per klasse hebben in vergelijking met OOD-stalen.
Theoretische Onderbouwing (Neural Collapse): Het artikel biedt een theoretische analyse gebaseerd op Neural Collapse, een geometrisch fenomeen waarbij de penultimale kenmerken van elke klasse instorten naar hun klassenmiddelpunt, en de klassenmiddelpunten zich rangschikken in een Simplex Equiangular Tight Frame (ETF). Onder versoepelde Neural Collapse-aannames (specifiek binnen-klasse compactheid en inter-klasse scheiding) bewijzen de auteurs dat ID-stalen structureel een strikt hogere variantie van de afstand per klasse vertonen dan OOD-stalen. Stelling 4.3 en Corollarium 4.4 stellen voldoende voorwaarden vast waaronder deze variantiescheiding gegarandeerd is, met name wanneer OOD-stalen voldoende hoekige scheiding behouden ten opzichte van de klassenmiddelpunten of niet liggen binnen de deelruimte die door de klassenmiddelpunten wordt opgespannen.
Scorefunctie: De voorgestelde OOD-score $S(x)$ combineert de negatieve minimale Mahalanobis-afstand met de variantie van deze afstanden per klasse:
$S(x) = -\min_{c} d_{Maha,c}(\hat{\phi}(x)) + \alpha \cdot \text{Var}_c[d_{Maha,c}(\hat{\phi}(x))]$
Waar $\hat{\phi}(x)$ L2-genormaliseerde penultimale kenmerken voorstelt, en $\alpha$ een hyperparameter is die het gewicht van de variantieterm regelt.

Belangrijkste Bijdragen
Het artikel levert drie primaire bijdragen:

Empirische Ontdekking: Identificatie van een eerder niet-geëxploiteerde structurele asymmetrie: ID-stalen vertonen een scherp minimum in Mahalanobis-afstanden per klasse (hoge variantie), terwijl OOD-stalen een vlakkere verdeling vertonen (lage variantie).
Theoretische Rechtvaardiging: Een principiële analyse die deze observatie koppelt aan Neural Collapse-geometrie, bewijzend dat onder specifieke geometrische voorwaarden ID-stalen OOD-stalen strikt domineren wat betreft variantie van de afstand per klasse.
Algoritmisch Voorstel: De introductie van MahaVar, een post-hoc detector die deze variantieterm integreert in het Mahalanobis++-kader.

Experimentele Resultaten
De auteurs evalueerden MahaVar volgens het OpenOOD v1.5-benchmarkprotocol over drie In-Distribution (ID)-instellingen: CIFAR-10, CIFAR-100 en ImageNet, met gebruik van zowel Near-OOD- als Far-OOD-evaluatie-instellingen.

Prestaties: MahaVar bereikt State-of-the-Art (SOTA) prestaties op CIFAR-100 en ImageNet onder alle geëvalueerde methoden.
Vergelijking met Baselines: Het presteert consistent beter dan alle Mahalanobis-gebaseerde baselines (inclusief Mahalanobis en Mahalanobis++) over alle drie de benchmarks wat betreft AUROC en FPR@95.
Robuustheid: Op de grootschalige ImageNet-benchmark, gemiddeld over drie backbone-architecturen (ResNet-50, Swin-B en ViT-B), bereikt MahaVar de beste gemiddelde AUROC en FPR@95. Opmerkelijk is dat, terwijl andere activatie-vormgevende methoden (zoals ASH-S en SCALE) significant verslechteren op Transformer-gebaseerde backbones (Swin-B, ViT-B), MahaVar stabiele en superieure prestaties behoudt.
Ablatiestudies: Experimenten bevestigen dat de variantieterm zinvolle complementaire informatie biedt, zelfs zonder L2-normalisatie, hoewel de combinatie van L2-normalisatie en variantie de beste resultaten oplevert. De methode is ook robuust ten opzichte van de keuze van de afstandsmetriek (L1, L2, Mahalanobis), waarbij Mahalanobis het beste presteert vanwege de behandeling van de covariantiestructuur.

Betekenis en Claims
Het artikel claimt dat de volledige structuur van de afstand per klasse rijkere discriminerende informatie bevat dan alleen de afstand tot de dichtstbijzijnde klasse. Door gebruik te maken van de geometrische eigenschappen van Neural Collapse, biedt MahaVar een theoretisch onderbouwde en empirisch robuuste methode voor OOD-detectie. De auteurs benadrukken dat deze aanpak bijzonder waardevol is voor real-world implementatie waar het hertrainen van modellen onpraktisch is.

Echter, de auteurs handhaven een bescheiden toon wat betreft beperkingen:

Op CIFAR-10 bereiken KNN-gebaseerde methoden nog steeds een iets hogere AUROC, wat suggereert dat niet-parametrische benaderingen superieur kunnen zijn in situaties met een laag aantal klassen.
Het theoretisch kader rust op Neural Collapse-aannames, die goed getrainde netwerken in de buurt van de terminale fase van training veronderstellen. De auteurs merken op dat het versoepelen van deze aannames om meer algemene kenmerkgeometrieën te dekken een richting is voor toekomstig werk.
De praktische implementatie laat de stap van global mean centering, gebruikt in de theoretische bewijzen, weg, omdat centering bleek de prestaties op ResNet-50 te verslechteren vanwege de niet-negatieve kenmerkgeometrie die wordt veroorzaakt door ReLU-activaties.