🤖 machine learning

XMix: Combating Extremely Noisy Labels via Local Smoothness in Self-Supervised Feature Space

MixX is een nieuw framework dat lokale gladheid in zelfgesuperviseerde feature-ruimtes benut om ruispercentages te schatten, gebalanceerde schone monsters te selecteren en betrouwbare pseudo-labels te genereren, waardoor het bestaande methoden aanzienlijk overtreft bij het omgaan met extreem ruisige labels zonder voorafgaande kennis van de ruis te vereisen.

Oorspronkelijke auteurs: Chengqi Li, Yangdi Lu, Zhihao Shi, Wenbo He, Chamseddine Talhi, Nadjia Kara

Gepubliceerd 2026-07-28

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Chengqi Li, Yangdi Lu, Zhihao Shi, Wenbo He, Chamseddine Talhi, Nadjia Kara

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot probeert te leren om dieren te herkennen. Je laat het de robot duizenden afbeeldingen zien, maar hier is de crux: de labels op de plaatjes zijn geschreven door een vermoeid, afgeleid of zelfs ondeugend mens. Soms wordt een foto van een kat gelabeld als "hond", en een foto van een auto als "vliegtuig". Dit is de rommelige realiteit van "Leren met Ruisende Labels". In de wereld van kunstmatige intelligentie hebben modellen meestal perfecte data nodig om te leren, maar in de echte wereld is perfecte data zeldzaam en duur. Wetenschappers proberen robots te bouwen die de slechte labels kunnen negeren en kunnen leren van de goede, maar wanneer de ruis echt hoog wordt—zoals wanneer 90% van de labels fout is—geven de meeste robots het op of raken ze in de war.

Het artikel dat je nu gaat lezen, pakt precies dit probleem aan. Het introduceert een nieuwe methode genaamd XMix. Denk aan XMix als een detective die niet alleen de geschreven labels op de bestanden vertrouwt. In plaats daarvan kijkt de detective naar de afbeeldingen zelf om te zien welke er "bij elkaar passen". Als een foto van een kat erg lijkt op andere foto's van katten in het geheugen van de robot, gaat de detective ervan uit dat ze allemaal katten zijn, zelfs als de labels iets anders zeggen. Deze aanpak maakt gebruik van een concept genaamd "lokale gladheid" (local smoothness), wat een chique manier is om te zeggen: "Dingen die op elkaar lijken, behoren meestal tot dezelfde groep." Door deze logica te gebruiken, probeert XMix de rommel op te ruimen en de robot veel beter te onderwijzen dan eerdere methoden, vooral wanneer de data een totale chaos is.

Het Probleem: Een Klaslokaal Volna met Streken

Stel je een klaslokaal voor waar een leraar probeert leerlingen te leren verschillende soorten fruit te herkennen. De leraar heeft een stapel flashcards, maar een groepje stoute kinderen heeft de labels omgewisseld. Sommige appels zijn gelabeld als "bananen", en sommige sinaasappels zijn gelabeld als "druiven".

In het verleden hadden slimme computerprogramma's (genaamd deep learning modellen) een trucje in hun mouw genaamd het "memorisatie-effect". Ze bestudeerden de kaarten en realiseerden zich: "Hé, ik ben heel goed in het raden van het label voor deze specifieke kaart, maar ik ben verschrikkelijk in het raden van dat label." Ze gingen ervan uit dat de kaarten die ze goed konden raden de echte waren (schone data) en de kaarten waarmee ze worstelden de leugens van de stoute kinderen (ruisende data).

Maar hier is het probleem: wanneer de stoute kinderen volledig doordraaien en 90% van de labels omwisselen, raakt de computer in de war. Hij kan het verschil niet meer zien tussen een echte appel en een banaan die als appel is gelabeld. Ook eindigt de computer er vaak mee dat hij slechts één type fruit bestudeert en de rest negeert, waardoor hij slecht wordt in het herkennen van de volledige variëteit. Hij heeft een nieuwe strategie nodig die er niet van afhankelijk is om precies te weten hoeveel stoute kinderen er in de kamer zijn.

De Oplossing: XMix en de "Lijkt-op"-regel

Hier komt XMix in beeld, de nieuwe detective. In plaats van alleen naar de geschreven labels te kijken, gebruikt XMix een speciale bril (een self-supervised feature encoder) om naar de visuele details van het fruit te kijken. Het weet dat een rode, ronde vrucht met een steeltje veel lijkt op andere rode, ronde vruchten met steeltjes.

Zo lost XMix de drie grote problemen op:

1. De ruisgraad raden zonder spiekbriefje
Normaal gesproken hebben deze computerprogramma's precies moeten weten hoeveel labels fout zijn (bijv. "50% is fout") om hun regels in te stellen. Als ze het fout raden, falen ze. XMix heeft dit spiekbriefje niet nodig. Het kijelt naar een vrucht en haar dichtstbijzijnde "lijkt-op" buren in de beeldenwereld. Als de buren allemaal verschillende labels hebben, berekent XMix: "Wauw, de ruis moet hier echt heel hoog zijn." Het gebruikt een wiskundige truc genaamd "maximum likelihood" om het ruisniveau automatisch in te schatten. Het is als een detective die naar een plaats delict kijkt en zegt: "Op basis van hoeveel kapotte ramen er zijn, zou ik gokken dat dit een rel was," zonder dat er een politierapport nodig is.

2. Meer Goede Studenten Vinden (Gebalanceerde & Uitgebreide Selectie)
Wanneer de ruis extreem is, vinden de oude methoden slechts een paar "schone" monsters (goede studenten) om te bestuderen. XMix zegt: "Wacht, als we één goede appel hebben gevonden, en die lijkt precies op deze vijf andere appels in de buurt, laten we die vijf ook vertrouwen!" Het breidt de groep vertrouwde monsters uit door ook de naburige exemplaren toe te voegen.
Cruciaal is dat het ook het probleem van "klasse-imbalans" oplost. Als de stoute kinderen alle "banaan"-labels hebben verstopt, zou de computer misschien stoppen met het bestuderen van bananen. XMix merkt dit op en zegt: "We hebben meer bananen nodig!" Het zoekt nog verder naar look-alikes van bananen om ervoor te zorgen dat elk fruit een eerlijke kans krijgt om bestudeerd te worden. Dit zorgt ervoor dat de robot een gebalanceerd dieet aan kennis leert, en niet alleen zijn favoriete vrucht.

3. Beter Raden voor het Onbekende
Ten slotte, voor de kaarten waar hij nog steeds niet over zeker is (de ruisende kaarten), gokt XMix niet zomaan een willekeurig antwoord. Het vraagt aan de buren: "Wat denk jij dat dit is?" Het neemt de meningen van de meest vertrouwde buren (de schone exemplaren) en middelt deze om een "pseudo-label" (een best-guess label) te creëren. Dit is als het vragen aan een groep experts om over een mysterieus object te stemmen. Omdat de experts worden gekozen op basis van hoe erg ze op het object lijken, is hun stem veel betrouwbaarder dan een willekeurige gok.

Wat Ze Vonden: De Kansen Verslaan

De onderzoekers hebben XMix getest op beroemde beelddatasets zoals CIFAR-10 en CIFAR-100, die foto's bevatten van auto's, vliegtuigen, dieren en meer. Ze hebben de labels opzettelijk verpest om extreme scenario's te creëren:

90% Symmetrische Ruis: Stel je voor dat 90 van de 100 labels volledig willekeurig zijn.
98% Ruis: Bijna alles is een leugen.

In deze brute omstandigheden begonnen eerdere methoden (zoals DivideMix en ProMix) te wankelen. Bijvoorbeeld, op CIFAR-10 met 90% ruis behaalde de oude beste methode (DivideMix) slechts ongeveer 76% nauwkeurigheid. XMix verhoogde dit echter naar 91,2%. Op CIFAR-100 met 95% ruis behaalde de oude methode 19,1%, terwijl XMix 31,4% bereikte.

Het artikel laat zien dat XMix niet zomaar een beetje beter werkt; het blinkt uit wanneer de situatie het meest wanhopig is. Het identificeerde succesvol veel meer "echte schone" monsters dan de oude methoden, soms zelfs het aantal goede voorbeelden waar de robot van kon leren, verdubbelde of verdrievoudigde.

Het Oordeel

XMix bewijst dat je niet de exacte mate van chaos in je data hoeft te kennen om het op te schonen. Door te vertrouwen op de visuele gelijkenissen tussen afbeeldingen — door gebruik te maken van de "lokale gladheid" van de feature space — kan het automatisch de strategie aanpassen, meer goede data vinden en de robot leren om de ruis te negeren.

De auteurs suggereren dat deze methode een belangrijke stap voorwaarts is, vooral voor scenario's in de echte wereld waarbij data rommelig is en we geen handmatige instructie hebben over hoe erg het is. Hoewel het geen toverstaf is die alles perfect oplost (het maakt nog steeds enkele fouten, vooral wanneer de ruis laag is en de uitbreiding niet nodig is), presteert het consequent beter dan de huidige state-of-the-art methoden in de meest uitdagende, hoog-ruis omgevingen. Het verandert een chaotisch klaslokaal vol stoute kinderen in een plek waar nog steeds geleerd kan worden.

Technische Samenvatting: XMix

Probleemstelling

Supervised deep learning-modellen zijn sterk afhankelijk van grote, nauwkeurig gelabelde datasets. Annotatiefouten zijn echter onvermijdelijk door menselijke beperkingen en geautomatiseerde systemen, wat leidt tot het "Learning with Noisy Labels" (LNL) probleem. Hoewel recente state-of-the-art methoden dit aanpakken via sample selectiestrategieën (waarbij gebruik wordt gemaakt van het memorisatie-effect om schone data te filteren voor semi-supervised learning), kampen zij met significante beperkingen:

Extreme Ruis: Ze hebben moeite wanneer de ruisniveaus zeer hoog zijn (bijv. >80%), waarbij ze vaak falen om een voldoende grote schone subset te identificeren.
Klassenimbalans: Geselecteerde schone samples worden vaak ongebalanceerd over klassen, omdat sommige klassen gemakkelijker te leren zijn dan andere.
Afhankelijkheid van Voorkennis: Veel methoden vereisen zorgvuldige hyperparameter-tuning of voorkennis van de ruisrate/distributie om effectief te blijven.
Informatieverwaarlozing: Bestaande benaderingen vertrouwen op de gezamenlijke distributie van afbeeldingen en ruisige labels, en negeren vaak de rijke, ruis-agnostische informatie die inherent is aan de afbeeldingen zelf (bijv. visuele gelijkenissen).

Methodologie: XMix

De auteurs stellen XMix voor, een framework dat gebruikmaakt van lokale gladheid (smoothness) in de self-supervised feature space om alle stadia van het sample selectieproces te verbeteren zonder afhankelijk te zijn van potentieel gecorrumpeerde labels. De methode maakt gebruik van een pretrained self-supervised encoder (DINOv2) om features te extraheren en $k$ -nearest neighbors voor elk sample te identificeren.

Het framework werkt via drie primaire mechanismen die geïntegreerd zijn in een standaard sample selectie baseline (bijv. DivideMix of ProMix):

1. Class-Wise Noise Rate Estimation

In plaats van te vereisen dat er voorkennis is van de ruis, schat XMix de ruisrate adaptief in:

Mechanisme: Het gaat ervan uit dat samples die dicht bij elkaar liggen in de feature space dezelfde ware label delen (smoothness assumptie). Het berekent de empirische waarschijnlijkheid van label-matching onder de nearest neighbors van een sample.
Correctie: Omdat de geobserveerde labels ruis bevatten, is de ruwe matching rate vertekend. De auteurs passen een kwadratisch correctiemodel toe (gekalibreerd op synthetische data) om voor deze bias te corrigeren.
Gebruik: De resulterende schatting is niet bedoeld als een precieze herstel van de ware ruisrate, maar is accuraat genoeg om de dataset te categoriseren in discrete ruisregimes (laag, gemiddeld, hoog, extreem). Deze categorisering stuurt automatisch de selectie van hyperparameters (drempelwaarden en selectieratio's) voor het baseline model aan.

2. Gebalanceerde en Uitgebreide Sample Selectie

XMix breidt de set van geïdentificeerde schone samples uit voorbij de standaard lage loss-criteria:

Expansie: Als een sample wordt geïdentificeerd als schoon (lage loss), worden de feature-space buren ( $G^k_i$ ) die dezelfde geobserveerde label delen, eveneens toegevoegd aan de schone set ( $D^+_{clean}$ ).
Balancering: Om klassenimbalans aan te pakken, past de methode een andere regel toe voor ondervertegenwoordigde klassen. Voor deze klassen worden $2k$ nearest neighbors overwogen in plaats van $k$ , waardoor meer voorbeelden uit een bredere buurt kunnen worden hersteld.
Effect: Deze strategie vergroot het volume van de beschikbare schone samples voor semi-supervised learning, met name onder extreme ruis waar standaard methoden onvoldoende schone data vinden.

3. Nearest Neighbor Pseudo-Labeling

Tijdens de semi-supervised learning fase genereert XMix betrouwbaardere pseudo-labels voor de ongelabelde (ruisige) data:

Mechanisme: In plaats van uitsluitend te vertrouwen op de voorspelling van het model, aggregeert het voorspellingen van de feature-space buren van een ongelabeld sample.
Weging: Voorspellingen van buren die als "schoon" zijn geïdentificeerd, krijgen een hogere weging (gewicht = 2) dan die van buren die nog als "ruisig" worden beschouwd (gewicht = 1).
Integratie: Deze gewogen pseudo-labels worden gebruikt in een MixMatch-stijl trainingsloop, waarbij gelabelde en pseudo-gelabelde data worden gemengd om robuustheid te verbeteren.

Belangrijkste Bijdragen

Het artikel schetst vier belangrijke bijdragen:

Class-Wise Noise Rate Estimation: Een adaptieve methode om ruisniveaus binnen feature-neighborhoods te schatten met behulp van maximum likelihood, wat automatische hyperparameter-aanpassing mogelijk maakt zonder voorkennis van de ruis.
Balanced and Expanded Sample Selection: Een strategie om de schone sample set uit te breiden met behulp van feature neighbors, waardoor meer schone samples worden hersteld onder extreme ruis en klassenimbalans wordt gemitigeerd.
Nearest Neighbor Pseudo-Labeling: Een mechanisme om nauwkeurigere pseudo-labels te genereren door gebruik te maken van betrouwbare lokale informatie in de feature space.
Empirische Validatie: Demonstraties dat XMix de prestaties van sample selectie baselines consistent verbetert over meerdere LNL benchmarks, met bijzonder grote verbeteringen onder zware labelruis.

Experimentele Resultaten

De auteurs evalueerden XMix op zowel synthetische als real-world ruisige datasets (CIFAR-10, CIFAR-100, CIFAR-10N, CIFAR-100N, ANIMAL-10N, Mini-WebVision).

Prestaties bij Extreme Ruis: Op CIFAR-10 en CIFAR-100 met symmetrische ruisrates van 90% en 95%, presteert XMix significant beter dan baselines zoals DivideMix en UNICON. Bijvoorbeeld, op CIFAR-10 met 90% ruis, bereikte XMix (ProMix+) een nauwkeurigheid van 92,7% vergeleken met de 51,3% van DivideMix.
Real-World Benchmarks: XMix behaalde state-of-the-art resultaten op ANIMAL-10N (90,3% nauwkeurigheid) en concurrerende resultaten op Mini-WebVision en ILSVRC12.
Ablatie-studies:
- Het verwijderen van de Balanced & Expanded (B&E) selectie of de Nearest Neighbor (NN) pseudo-labeling leidde tot een merkbare degradatie van de prestaties, vooral onder hoge ruis.
- De prestatiewinst werd primair toegeschreven aan de feature-space clustering en filtering mechanismen, in plaats van de specifieke kracht van de encoder (DINOv2 vs. SimCLR).
- Het artikel merkt op dat bij lagere ruisniveaus het voordeel van expansie marginaal is, en dat de methode incidenteel fout-positieven kan introduceren, hoewel de algehele impact positief blijft.

Betekenis en Claims

Het artikel claimt dat XMix een eenvoudige maar robuuste oplossing biedt voor het LNL-probleem. De primaire betekenis ligt in het vermogen om:

Effectief te opereren zonder voorkennis van het ruisniveau of de distributie.
Sample selectie systematisch te verbeteren door gebruik te maken van ruis-agnostische visuele patronen (lokale gladheid) in plaats van enkel te vertrouwen op loss-waarden.
Superieure prestaties te leveren in scenario's met extreme labelruis waar bestaande methoden falen om te convergeren of voldoende schone data te selecteren.
Gemakkelijk compatibel te zijn met bestaande sample selectie frameworks, waarbij het fungeert als een plug-in verbetering om hun veerkracht en balans te vergroten.

De auteurs benadrukken dat hoewel de ruisrate-schatting een "grove" gids is voor hyperparameter-selectie in plaats van een precieze herstel van de grondwaarheid, het voldoende accuraat is om datasets in de juiste operationele regimes te plaatsen, waardoor een belangrijke bottleneck in de huidige LNL-research wordt weggenomen.