🤖 machine learning

JEPAMatch: Geometric Representation Shaping for Semi-Supervised Learning

Dit paper introduceert JEPAMatch, een semi-supervised learning-methode die de klassieke pseudo-labeling van FlexMatch combineert met een LeJEPA-geïnspireerde regularisatie om de geometrische representatie te vormen, wat leidt tot betere prestaties, minder class-bias en snellere convergentie dan bestaande FixMatch-gebaseerde methoden.

Oorspronkelijke auteurs: Ali Aghababaei-Harandi, Aude Sportisse, Massih-Reza Amini

Gepubliceerd 2026-04-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ali Aghababaei-Harandi, Aude Sportisse, Massih-Reza Amini

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

JEPAMatch: De Slimme Leraar die de Klas in de Gaten Houdt

Stel je voor dat je een nieuwe taal wilt leren. Je hebt een paar boeken met de juiste antwoorden (de gelabelde data), maar je hebt ook duizenden krantenknipsels zonder antwoorden (de ongelabelde data). De kunst van "semi-supervised learning" is om die duizenden krantenknipsels slim te gebruiken om sneller te leren, zonder dat je alles zelf hoeft na te kijken.

Tot nu toe hadden de slimste methoden (zoals FixMatch) een groot probleem: ze waren als een leraar die alleen naar de luidste leerlingen luistert. Als er veel leerlingen zijn die "rood" zeggen, en maar een paar die "blauw" zeggen, dan gaat de leraar denken dat de hele wereld rood is. Bovendien was het een heel traag proces; de leraar moest duizenden keren dezelfde les herhalen voordat hij het echt begreep.

De auteurs van dit paper, Ali, Aude en Massih-Reza, hebben een nieuwe methode bedacht: JEPAMatch. Ze noemen het een "paradigmashift". Laten we kijken hoe het werkt met een paar simpele metaforen.

1. Het Probleem: De Luidste Leerlingen en de Vage Grenzen

De oude methoden maakten twee fouten:

De meerderheid overheerst: Als er veel voorbeelden zijn van 'honden' en weinig van 'katten', leert het model dat alles een hond is. De 'katten' krijgen geen goede instructies.
Het is te traag: De leraar wacht tot hij 100% zeker is van een antwoord voordat hij een leerling een sticker (een 'pseudo-label') geeft. In het begin is hij onzeker, dus geeft hij bijna geen stickers. Het model leert daardoor heel langzaam.

2. De Oplossing: Twee Sporen Tegelijkertijd

JEPAMatch deelt het leerproces op in twee niveaus, alsof je twee verschillende taken tegelijk doet:

Niveau 1: De "Curriculum" (De Leraar)
Dit is het deel dat kijkt naar de antwoorden. In plaats van een vaste regel ("alleen als je 90% zeker bent, mag je een sticker"), gebruikt JEPAMatch een slimme, aanpasbare regel.

De analogie: Stel je voor dat de leraar weet dat de 'honden'-leerlingen al veel stickers hebben gekregen. Dan zegt hij: "Oké, voor 'katten' mag je al een sticker geven bij 70% zekerheid." Zo zorgt hij dat de stilere leerlingen (de minderheidsklassen) ook aandacht krijgen. Dit heet FlexMatch in de vaktaal, maar JEPAMatch maakt het nog slimmer.

Niveau 2: De "Geometrie" (De Ruimtelijke Ordening)
Dit is het echte nieuwe idee. In plaats van alleen te kijken naar de antwoorden (is het een hond of een kat?), kijkt JEPAMatch ook naar hoe de antwoorden eruitzien in de "geest" van het computermodel.

De analogie: Stel je voor dat je een grote zaal hebt met stoelen. De oude methoden lieten de stoelen willekeurig neerzetten. JEPAMatch zegt: "Nee, we moeten de stoelen in perfecte, ronde groepjes zetten."
- Alle 'honden' moeten in één strakke, ronde cirkel zitten.
- Alle 'katten' moeten in een andere, strakke cirkel zitten.
- De cirkels mogen elkaar niet raken.

Dit heet in het paper het "isotrope Gaussische structuur". Klinkt ingewikkeld, maar het betekent simpelweg: maak de groepen netjes, rond en goed gescheiden.

3. De Magische Truc: Kijken naar Details

Hoe weet het model of de groepjes goed zijn? Het gebruikt een trucje met kijkrichtingen.

Het model krijgt een foto van een hond.
Het krijgt een zwakke versie (een beetje gedraaid, lichte filter).
Het krijgt een sterke versie (heel erg gekleurd, veel ruis).
En het krijgt lokale stukjes (alleen het oor van de hond, alleen de poot).

JEPAMatch zegt: "Als je het oor van de hond ziet, moet je in je hoofd weten dat dit bij de grote hond hoort, zelfs als de foto heel erg vervormd is." Door te oefenen met deze stukjes en de hele foto, leert het model de vorm van de hond, niet alleen het woord "hond".

4. Twee Fasen van Leren

JEPAMatch leert in twee fases, net als een student:

De Warm-up (De Verkenning): In het begin weet het model nog niets. Dan zegt het: "Laten we eerst gewoon zorgen dat alle stoelen in de zaal netjes verspreid staan, zonder dat we kijken naar welke klas ze zijn." Dit voorkomt dat het model in de war raakt door slechte antwoorden.
De Hoofd Fase (De Ordening): Zodra het model iets meer vertrouwen heeft, zegt het: "Oké, nu gaan we de stoelen in strakke groepjes zetten: alle honden hier, alle katten daar." En het zorgt ervoor dat de groepjes niet te groot worden (dat heet repulsie, ofwel: "blijf uit mijn buurt, andere groep!").

Waarom is dit zo geweldig?

De resultaten in het paper zijn indrukwekkend:

Sneller: Het model leert in 8 keer minder tijd dan de oude methoden. Het is alsof de leraar in plaats van een jaar les te geven, het in twee maanden doet.
Beter: Het maakt minder fouten, vooral bij de "stilte" klassen (de minderheden).
Stabiel: De leercurve is soepel. Geen meer pieken en dalen, maar een constante stijging.

Samenvattend

JEPAMatch is als een superleraar die twee dingen tegelijk doet:

Hij zorgt dat iedereen (ook de minderheden) eerlijk wordt behandeld bij het geven van huiswerk (pseudo-labels).
Hij zorgt dat de antwoorden in het hoofd van de leerlingen netjes in strakke, gescheiden groepjes worden opgeslagen, zodat ze nooit verwarren.

Door deze twee dingen te combineren, leert de computer niet alleen sneller, maar ook slimmer. Het is een stap voorwaarts om kunstmatige intelligentie te maken die minder data nodig heeft om dingen te begrijpen.

Probleemstelling

Semi-supervised learning (SSL) is een krachtige paradigma om prestaties te verbeteren wanneer gelabelde data schaars is, door gebruik te maken van grote hoeveelheden ongelabelde data. Bestaande state-of-the-art methoden, zoals FixMatch en zijn varianten (bijv. FlexMatch), combineren data-augmentatie met pseudo-labeling op basis van een vertrouwensdrempel (confidence threshold).

De auteurs identificeren echter twee kritieke beperkingen in deze bestaande benaderingen:

Class Imbalance en Bias: Pseudo-labels worden geselecteerd op basis van een vaste of adaptieve drempel. Dit leidt ertoe dat meerderheidsklassen (majority classes) het leerproces domineren, terwijl minderheidsklassen (minority classes) te weinig supervisie krijgen. Foutieve vroege pseudo-labels versterken deze bias, wat resulteert in een vertekend model.
Trage Convergentie: Door de afhankelijkheid van hoge vertrouwensniveaus voor pseudo-labeling, ontvangt het netwerk in de vroege trainingsfasen zeer weinig supervisie van ongelabelde data. Hierdoor zijn duizenden iteraties nodig om te convergeren, wat de rekentijd en kosten aanzienlijk verhoogt.

Methodologie: JEPAMatch

De auteurs stellen JEPAMatch voor, een nieuw framework dat een paradigmaverschuiving introduceert: van puur logische output-drempels naar een expliciete vormgeving van de geometrische representatie in de latente ruimte. Het idee is gebaseerd op LeJEPA (Latent-Euclidean Joint-Embedding Predictive Architectures), die stelt dat betekenisvolle representaties een isotrope Gaussische structuur moeten vertonen.

Het leerproces wordt opgesplitst in twee complementaire niveaus:

1. Curriculum Level (Pseudo-label Selectie)

Dit niveau is verantwoordelijk voor het selecteren van betrouwbare pseudo-labels, maar lost de klassieke problemen op door FlexMatch te gebruiken.

Het gebruikt klassenspecifieke, dynamische drempels ( $\tau_c$ ) in plaats van één vaste drempel.
Dit voorkomt dat meerderheidsklassen de selectie van pseudo-labels domineren en zorgt voor een betere balans in de supervisie.

2. Representation Level (Geometrische Vormgeving)

Dit niveau structureert de feature space om dimensional collapse te voorkomen en robuuste kenmerken te leren. Het maakt gebruik van een Multi-view Augmentatie Strategie met drie soorten weergaven per afbeelding:

Weak View: Licht geverifieerde globale weergave.
Strong View: Zwaar geverifieerde globale weergave.
Local Views: Kleine, lokale crops van de afbeelding.

De loss functie op dit niveau bestaat uit drie componenten:

Self-Supervised Prediction Loss ( $L_{pred}$ ): Gebaseerd op JEPA. Het model voorspelt de representatie van de lokale en sterke weergaven op basis van de zwakke globale weergave (als target). Dit leert de model semantische en geometrische consistentie.
Adaptive Class-wise SIGReg: Een regularisatieterm die de verdeling van de representaties naar een isotrope Gaussische verdeling duwt.
- Warm-up fase: Een globale SIGReg wordt toegepast (alle data naar $N(0, I)$ ) om een niet-collapsende feature space op te bouwen voordat de classifier stabiel is.
- Main fase: De regularisatie schakelt over naar klassenspecifieke Gaussische verdelingen. Elke klasse vormt een geïsoleerde cluster met een specifieke mean ( $\mu_c$ ) en een geannealde variantie ( $\sigma$ ).
Active Repulsion Loss: Voorkomt dat alle klassen naar één punt instorten door de middelpunten van verschillende klassen van elkaar weg te duwen.

De totale loss is een combinatie van de supervised loss, de unsupervised cross-entropy loss (Curriculum Level) en de geometrische regularisatie (Representation Level).

Belangrijkste Bijdragen

Paradigmaverschuiving: De introductie van een tweeledig leerproces dat de discrete classificatie taak ontkoppelt van de geometrische organisatie van de representatieruimte.
Geometrische Regularisatie: De toepassing van Adaptive Class-wise SIGReg in een SSL-context, wat zorgt voor een goed gestructureerde feature space zonder de discriminatieve eigenschappen te verliezen.
Efficiëntie: Het gebruik van lokale views en JEPA-principes stelt het model in staat om effectief te leren vanaf de eerste iteratie, wat leidt tot een drastisch snellere convergentie.
Generaliseerbaarheid: De methode is niet beperkt tot FlexMatch, maar kan worden toegepast op andere FixMatch-varianten (zoals FreeMatch en SoftMatch).

Resultaten

De auteurs hebben JEPAMatch getest op drie benchmarks: CIFAR-100, STL-10 en Tiny-ImageNet.

Prestaties: JEPAMatch overtreft consistent bestaande state-of-the-art methoden (zoals FixMatch, FlexMatch, FreeMatch, SoftMatch).
- Op CIFAR-100 met 400 gelabelde voorbeelden bereikte het een foutpercentage van 34,25% (vs. 37,98% voor FreeMatch).
- Op STL-10 met 1000 gelabelde voorbeelden werd een foutpercentage van 4,28% bereikt.
Convergentiesnelheid: Een van de meest opvallende resultaten is de snelheid. JEPAMatch convergeert ongeveer 3 keer sneller dan FlexMatch. Het bereikt een vergelijkbare of betere nauwkeurigheid in slechts 217 iteraties, terwijl concurrenten vaak 220+ iteraties nodig hebben (en in de praktijk veel langer trainen om te stabiliseren).
Pseudo-label Kwaliteit: JEPAMatch behoudt een hogere nauwkeurigheid van de pseudo-labels gedurende de hele training (bijv. ~50% op CIFAR-100 vs. ~35% voor FlexMatch), wat aantoont dat het beter in staat is om ruis te filteren en betrouwbare supervisie te bieden.
Class Imbalance: De methode presteert significant beter in scenario's met grote class-imbalance (factoren van 20, 50, 100), dankzij de adaptieve SIGReg die bias tegen meerderheidsklassen vermindert.

Betekenis en Conclusie

JEPAMatch biedt een robuuste oplossing voor de fundamentele beperkingen van confidence-based semi-supervised learning. Door de focus te verleggen van puur logische drempels naar de geometrische vormgeving van de latent space, lost het model het probleem van class imbalance op en versnelt het het leerproces aanzienlijk.

De belangrijkste implicatie is dat semi-supervised learning niet alleen kan worden geoptimaliseerd door betere pseudo-label selectie, maar ook door het bewust vormgeven van hoe data in de feature space is georganiseerd. Dit resulteert in modellen die niet alleen nauwkeuriger zijn, maar ook significante besparingen opleveren in rekentijd en computercosts, wat cruciaal is voor toepassing in real-world scenario's met beperkte resources.