🤖 machine learning

JEPAMatch: Geometric Representation Shaping for Semi-Supervised Learning

Ce papier présente JEPAMatch, une nouvelle approche d'apprentissage semi-supervisé qui remplace le seuillage logique des pseudo-étiquettes par un façonnage géométrique explicite des représentations latentes inspiré de LeJEPA, permettant ainsi de surmonter les biais de classe et d'accélérer la convergence sur plusieurs jeux de données.

Auteurs originaux : Ali Aghababaei-Harandi, Aude Sportisse, Massih-Reza Amini

Publié 2026-04-24

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Ali Aghababaei-Harandi, Aude Sportisse, Massih-Reza Amini

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🎓 Le Problème : Apprendre avec un prof qui a la tête dans le guidon

Imaginez que vous essayez d'apprendre à reconnaître des animaux (chats, chiens, lions) en utilisant un manuel scolaire.

Les données étiquetées (les images avec le nom écrit dessous) sont comme les pages du manuel : il y en a très peu, et elles coûtent cher à obtenir (il faut un expert pour les écrire).
Les données non étiquetées (les images sans nom) sont comme une immense bibliothèque de photos trouvées sur Internet : il y en a des millions, mais personne ne sait ce qu'elles représentent.

L'objectif du Semi-apprentissage (Semi-Supervised Learning) est d'utiliser ces millions de photos "inconnues" pour aider l'élève (l'ordinateur) à apprendre plus vite et mieux, en se basant sur le peu de pages du manuel qu'il possède.

Le problème actuel (FixMatch) :
Les méthodes actuelles fonctionnent un peu comme un élève un peu anxieux qui ne se fie qu'à ses certitudes absolues.

Il regarde une photo floue.
Si son cerveau dit "Je suis sûr à 99% que c'est un chat", il l'accepte comme une vérité.
Si son cerveau dit "Je ne suis pas sûr", il jette la photo à la poubelle.

Les deux défauts majeurs :

Le biais des majorités : Comme il y a beaucoup plus de chats que de lions dans la nature, l'élève va surtout apprendre sur les chats. Il va finir par penser que tous les animaux sont des chats, car il rejette les images de lions (qu'il trouve trop floues au début).
La lenteur : Au début, l'élève est très confus. Il rejette presque toutes les photos de la bibliothèque. Il doit donc attendre des mois (des milliers d'heures de calcul) avant de commencer à vraiment apprendre des nouvelles choses.

💡 La Solution : JEPAMatch (Le "Géomètre" Intelligents)

Les auteurs de cet article proposent une nouvelle méthode appelée JEPAMatch. Au lieu de simplement demander à l'ordinateur "Qu'est-ce que c'est ?", ils lui demandent aussi "Comment est-ce que cette chose est structurée ?".

Imaginez que l'apprentissage se déroule en deux niveaux, comme une école avec deux profs différents :

1. Le Professeur de "Cours" (Niveau Curriculum)

C'est le prof qui gère les étiquettes (Chat, Chien, Lion).

Il utilise une astuce intelligente : au lieu de dire "Je rejette tout ce qui n'est pas sûr à 99%", il adapte ses exigences.
Si c'est un sujet rare (comme le lion), il accepte des réponses avec moins de certitude pour ne pas laisser le lion de côté. Cela évite que les chats dominent tout le cours.

2. Le Professeur de "Géométrie" (Niveau Représentation)

C'est là que la magie opère. Ce prof ne s'intéresse pas au nom de l'animal, mais à la forme et la structure de l'image dans l'esprit de l'ordinateur.

L'analogie du puzzle : Imaginez que l'ordinateur doit assembler un puzzle. Les méthodes classiques essaient de coller les pièces en regardant juste l'image finale. JEPAMatch, lui, regarde aussi les petites pièces locales (les oreilles, la queue) et vérifie si elles s'assemblent bien avec le grand puzzle (l'image entière).
La règle d'or (La sphère parfaite) : Le prof de géométrie impose une règle stricte : "Tous les chats doivent former un groupe compact et rond, tous les chiens un autre groupe rond, et ces groupes ne doivent pas s'écraser les uns sur les autres."
Cela empêche l'ordinateur de se tromper en "écrasant" toutes les images dans un seul tas informe. Cela force l'ordinateur à créer des zones de décision claires très tôt dans l'apprentissage.

🚀 Pourquoi c'est révolutionnaire ?

Grâce à cette double approche (Cours + Géométrie), JEPAMatch change la donne :

Il apprend beaucoup plus vite : Au lieu de jeter les photos floues, il les utilise pour comprendre la structure des objets. L'ordinateur commence à bien classer les images bien avant les autres méthodes. C'est comme passer de 220 heures de cours à seulement 217 heures pour obtenir un résultat meilleur.
Il est plus juste : Il ne laisse pas les "chats" (les classes majoritaires) écraser les "lions" (les classes minoritaires). Chaque animal a sa propre place bien définie dans l'esprit de l'ordinateur.
Il économise de l'énergie : Comme il converge (trouve la solution) plus vite, il consomme moins d'électricité et de temps de calcul. C'est un gain écologique et économique énorme.

🏁 En résumé

JEPAMatch, c'est comme remplacer un élève qui apprend par cœur en rejetant ce qu'il ne comprend pas, par un élève qui :

S'adapte à ses difficultés (il n'abandonne pas les sujets rares).
Comprend la "géométrie" du monde (il voit comment les pièces s'assemblent avant même de connaître le nom de l'objet).

Résultat : Il apprend mieux, plus vite, et avec moins d'effort, même quand le manuel (les données étiquetées) est très petit.

1. Problématique

L'apprentissage semi-supervisé (SSL) vise à exploiter de grandes quantités de données non étiquetées pour améliorer les modèles lorsque les données étiquetées sont rares. Bien que les méthodes basées sur FixMatch (et ses dérivés comme FlexMatch) aient atteint des performances de pointe en combinant l'augmentation de données et l'étiquetage pseudo-confiant, elles souffrent de deux goulots d'étranglement critiques :

Biais de classe majoritaire : La sélection des pseudo-étiquettes repose souvent sur un seuil de confiance fixe ou adaptatif. Cela tend à favoriser les classes majoritaires, car elles dépassent plus facilement le seuil, ce qui renforce leur domination dans l'espace de représentation et dégrade la généralisation pour les classes minoritaires.
Convergence lente et bruit initial : Les pseudo-étiquettes générées tôt dans l'entraînement sont souvent bruitées. Cela empêche la formation de frontières de décision claires, obligeant les modèles à s'entraîner sur un très grand nombre d'itérations (souvent > 220k itérations) pour converger, ce qui augmente considérablement le coût computationnel.

2. Méthodologie : JEPAMatch

Les auteurs proposent JEPAMatch, un changement de paradigme qui passe d'une logique de seuillage de sortie à un façonnage explicite de la géométrie des représentations. La méthode s'inspire des architectures LeJEPA (Latent-Euclidean Joint-Embedding Predictive Architectures), qui postulent que les représentations de haute qualité doivent suivre une structure de type gaussien isotrope dans l'espace latent.

L'approche découple l'apprentissage en deux niveaux complémentaires :

A. Niveau Curriculum (Sélection des Pseudo-étiquettes)

Ce niveau gère la sélection des pseudo-étiquettes en utilisant le cadre FlexMatch (seuils de confiance dynamiques par classe).

Il utilise des vues faiblement et fortement augmentées (globales) pour générer des pseudo-étiquettes fiables.
L'objectif est de fournir des signaux de supervision discrets pour la classification, tout en évitant la domination des classes majoritaires grâce aux seuils adaptatifs.

B. Niveau Représentation (Façonnage Géométrique)

Ce niveau structure l'espace des caractéristiques (features) via une architecture multi-vues et une régularisation géométrique inspirée de LeJEPA.

Stratégie Multi-vues : Pour chaque image non étiquetée, le modèle génère trois types de vues : une vue faible (globale), une vue forte (globale) et $K$ vues locales (crops locaux).
Perte de Prédiction Auto-supervisée ( $L_{pred}$ ) : Basée sur JEPA, elle force les représentations des vues locales et fortes à prédire la représentation de la vue faible globale. Cela apprend des invariances géométriques et sémantiques.
Régularisation SIGReg Adaptative par Classe :
- Phase de Warmup : Une régularisation SIGReg (Sketched Isotropic Gaussian Regularization) globale est appliquée pour garantir que l'espace latent ne s'effondre pas (dimensional collapse) et utilise toutes les dimensions, en attendant que le classifieur soit fiable.
- Phase Principale : La régularisation devient par classe. Elle force chaque classe à former un cluster isotrope gaussien distinct (avec une moyenne $\mu_c$ et une variance $\sigma$ contrôlée).
- Perte de Répulsion Active ( $L_{repulsion}$ ) : Pour éviter que tous les centres de classes ne s'effondrent en un seul point, une perte de répulsion pénalise la similarité entre les moyennes de classes différentes.
Annealing de la variance : La variance cible $\sigma$ est progressivement réduite de 1.0 à 0.1 au cours de l'entraînement pour resserrer les clusters.

3. Contributions Clés

Changement de paradigme : Passage d'une optimisation basée uniquement sur la confiance des sorties logiques à une optimisation conjointe de la classification et de la géométrie de l'espace latent.
Architecture JEPAMatch : Intégration réussie des principes théoriques de LeJEPA (structure gaussienne isotrope) dans un pipeline SSL de type FixMatch/FlexMatch.
Régularisation SIGReg Adaptative : Une méthode novatrice qui combine une régularisation globale initiale (pour la stabilité) et une régularisation par classe ultérieure (pour la discrimination), résolvant le compromis entre structure géométrique et séparation des classes.
Efficacité computationnelle : La méthode permet une convergence beaucoup plus rapide en utilisant efficacement les données non étiquetées dès le début de l'entraînement, grâce à une meilleure qualité des pseudo-étiquettes et une structure d'espace plus robuste.

4. Résultats Expérimentaux

Les expériences ont été menées sur CIFAR-100, STL-10 et Tiny-ImageNet.

Performance : JEPAMatch surpasse systématiquement les méthodes de l'état de l'art (FixMatch, FlexMatch, FreeMatch, SoftMatch, etc.).
- Sur CIFAR-100 (400 étiquettes), il atteint 34,25 % d'erreur (vs 39,94 % pour FlexMatch).
- Sur STL-10 (40 étiquettes), il atteint 13,44 % d'erreur.
- Il montre une robustesse supérieure face aux déséquilibres de classes (facteurs d'imbalance $\gamma$ jusqu'à 100).
Vitesse de Convergence : C'est l'avantage le plus marquant. JEPAMatch converge environ 3 fois plus vite que FlexMatch.
- Il atteint une précision de 46,4 % sur CIFAR-100 avec 400 étiquettes environ 50 000 itérations plus tôt que FlexMatch.
- Il nécessite seulement 217 itérations (contre 220k pour les méthodes standards, note : le papier mentionne 217 itérations de batch ou une réduction drastique du nombre total d'étapes nécessaires pour atteindre la convergence finale, soulignant une efficacité accrue).
Qualité des Pseudo-étiquettes : La précision des pseudo-étiquettes de JEPAMatch est nettement supérieure (environ 50-65 % contre 35-45 % pour FlexMatch), indiquant une meilleure capacité à filtrer le bruit et à fournir une supervision fiable.

5. Signification et Impact

JEPAMatch démontre que la structure géométrique de l'espace latent est un levier crucial pour l'apprentissage semi-supervisé, souvent négligé au profit de simples stratégies de seuillage.

Réduction des coûts : En accélérant la convergence, la méthode réduit drastiquement le coût computationnel et l'empreinte carbone de l'entraînement des modèles SSL.
Robustesse : Elle résout efficacement le problème du biais vers les classes majoritaires et de l'effondrement dimensionnel, deux problèmes persistants dans le SSL.
Généralité : L'approche n'est pas limitée à FlexMatch et peut être adaptée à d'autres variantes (FreeMatch, SoftMatch), ouvrant la voie à une nouvelle génération de méthodes SSL basées sur la géométrie des représentations.

En résumé, JEPAMatch établit un nouvel état de l'art en combinant précision supérieure et efficacité computationnelle, prouvant que l'organisation géométrique des représentations est aussi importante que la qualité des étiquettes elles-mêmes.