🤖 machine learning

Mitigating Negative Flips via Margin Preserving Training

Cet article propose un nouveau cadre d'entraînement qui atténue les inversions négatives dans les systèmes de classification d'images évolutifs en préservant les marges du modèle original grâce à un étalonnage des logits tout en employant une distillation focale à double source pour maintenir une précision élevée sur les anciennes et les nouvelles classes.

Auteurs originaux : Simone Ricci, Niccolò Biondi, Federico Pernici, Alberto Del Bimbo

Publié 2026-08-10

📖 9 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Simone Ricci, Niccolò Biondi, Federico Pernici, Alberto Del Bimbo

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un chef étoilé ayant passé des années à perfectionner un menu. Vos clients savent exactement à quoi s'attendre : le « Tofu Épicé » est toujours épicé et le « Champignon Crémeux » est toujours crémeux. Puis, vous décidez d'élargir votre menu. Vous ajoutez de nouveaux plats passionnants comme un « Sorbet au Fruit du Dragon » et une « Glace au Wasabi ». Cela semble génial, mais il y a un hic. Dans la précipitation pour faire de la place à ces nouvelles saveurs, vous modifiez accidentellement la recette des anciens favoris. Soudain, le Tofu Épicé devient un peu fade, ou le Champignon Crémeux prend un arrière-goût étrange. Vos clients fidèles sont confus et mécontents, même si votre nouveau menu est techniquement « meilleur » sur le papier. C'est le combat quotidien de l'Intelligence Artificielle. À mesure que les systèmes d'IA apprennent de nouvelles choses, ils oublient souvent comment faire correctement les anciennes. Dans le monde de l'informatique, ce type spécifique de confusion — où une IA devient moins bonne à quelque chose qu'elle réussissait auparavant — est appelé un « basculement négatif » (negative flip). C'est un bug frustrant où une mise à jour casse quelque chose qui n'était pas cassé.

Le document que vous allez lire traite de ce problème exact. Les chercheurs, travaillant sur la classification d'images (apprendre aux ordinateurs à reconnaître des photos de chats, de chiens, de voitures, etc.), ont remarqué que lorsqu'ils ajoutaient de nouvelles catégories au cerveau d'une IA, les « lignes de décision » qu'elle traçait entre les anciennes et les nouvelles choses devenaient trop encombrées. C'était comme essayer de faire entrer trop de personnes dans une petite pièce ; tout le monde commençait à se bousculer, et l'IA devenait confuse quant à l'identité de chacun. Pour corriger cela, ils ont inventé une nouvelle méthode d'entraînement appelée Margin Preserving Training (MPT). Voyez cela comme une façon ingénieuse d'apprendre à l'IA à respecter l'espace personnel de ses vieux amis tout en faisant de la place pour les nouveaux. Au lieu de simplement tout entasser ensemble, ils utilisent un « biais » spécial pour garder les anciennes catégories en sécurité et un système de « double enseignant » pour s'assurer que les nouvelles catégories ne soient pas laissées pour compte. Leurs expériences montrent que cette méthode empêche avec succès l'IA de commettre ces erreurs agaçantes sur les anciennes tâches, tout en apprenant les nouvelles aussi bien qu'auparavant.

Le Problème : Quand « Meilleur » signifie « Moins Bon »

Dans le monde effréné de l'IA, les modèles sont constamment mis à jour. Les développeurs entraînent une nouvelle version d'une IA, espérant qu'elle sera plus intelligente, plus rapide et capable de reconnaître plus de choses. Généralement, cela fonctionne très bien. Mais parfois, un phénomène étrange se produit. Une IA qui était parfaite pour identifier un « Golden Retriever » commence soudainement à l'appeler un « Labrador » après une mise à jour. Ou bien, elle peut confondre un « Panneau Stop » avec un « Panneau de limitation de vitesse » alors qu'elle ne le faisait pas auparavant.

Ce phénomène est appelé un basculement négatif (negative flip). C'est l'opposé d'un « basculement positif », où une IA parvient enfin à reconnaître quelque chose qu'elle comprenait mal auparavant. Si les basculements positifs sont l'objectif, les basculements négatifs sont le coût caché du progrès. Ils sont particulièrement dangereux car ils peuvent provoquer des comportements imprévisibles dans des systèmes du monde réel, comme une voiture autonome qui identifierait soudainement mal un panneau de signalisation familier.

Les chercheurs ont découvert que ces basculements négatifs se produisent le plus souvent lorsqu'on demande à l'IA d'apprendre plus de classes (catégories). Imaginez une salle de classe où l'enseignant doit distinguer 10 élèves. C'est facile. Maintenant, imaginez que 100 élèves entrent dans la pièce. L'enseignant doit tous les faire tenir dans la même salle. Pour les faire tous entrer, l'« espace personnel » (ou marge) entre chaque élève diminue. En termes d'IA, la « marge » est la zone de sécurité que le modèle maintient entre les différentes catégories. Lorsque vous ajoutez de nouvelles classes, le modèle essaie de tout serrer ensemble pour maximiser l'espace pour tout le monde, mais cela pousse souvent les anciennes catégories trop près du bord, les rendant faciles à confondre.

La Solution : Maintenir la Paix avec le MPT

Les auteurs proposent une nouvelle méthode appelée Margin Preserving Training (MPT). Leur objectif est simple : mettre à jour l'IA pour qu'elle apprenne de nouvelles choses sans réduire les zones de sécurité des choses qu'elle connaît déjà.

Ils abordent cela avec deux astuces principales, travaillant ensemble comme une machine bien huilée :

1. Le « Pass VIP » (Perte calibrée sur la marge / Margin-Calibrated Loss)
D'abord, ils donnent aux nouvelles classes un petit « coup de pouce » pendant l'entraînement. Imaginez que vous enseigniez à une classe d'élèves. Les anciens élèves (anciennes classes) sont déjà assis à leurs places. Les nouveaux élèves (nouvelles classes) sont debout à la porte. Si vous dites simplement à tout le monde de s'asseoir, les anciens élèves pourraient être poussés hors de leurs chaises pour faire de la place.

Pour éviter cela, les chercheurs donnent aux nouveaux élèves un « Pass VIP » (un biais de logit positif). Ce pass dit à l'IA : « Hé, ces nouveaux gars sont importants, donnez-leur un peu d'espace supplémentaire pour trouver leur place. » En augmentant artificiellement la confiance pour les nouvelles classes pendant l'entraînement, l'IA est forcée de repousser les frontières de décision loin des anciennes classes. Cela garantit que les anciennes classes conservent leurs « marges » larges et sûres et ne sont pas compressées. C'est comme dire à l'IA : « Ne t'inquiète pas trop pour les nouveaux pour l'instant ; assure-toi que les anciens restent en sécurité. »

2. Le Système de « Double Enseignant » (Double-Source Focal Distillation)
Il y a cependant un problème avec le Pass VIP. Si vous donnez trop d'avance aux nouvelles classes, elles pourraient devenir trop confiantes et ignorer les caractéristiques réelles de l'image, menant à des erreurs sur les nouvelles catégories. L'IA pourrait mal apprendre les nouvelles classes parce qu'elle était trop occupée à protéger les anciennes.

Pour corriger cela, les chercheurs introduisent un second enseignant.

Enseignant A (Le Vieux Modèle) : Cet enseignant connaît parfaitement les anciennes classes. Il aide le nouveau modèle à se souvenir de la manière de gérer les anciennes choses.
Enseignant B (Un Nouveau Modèle) : C'est un tout nouveau modèle entraîné à partir de zéro sur toutes les classes (anciennes et nouvelles) sans aucun biais particulier. Il sait comment gérer les nouvelles classes correctement.

Le nouveau modèle apprend des deux enseignants en même temps. Il écoute l'Enseignant A pour garder les anciennes classes en sécurité et écoute l'Enseignant B pour s'assurer qu'il ne rate pas les nouvelles classes. Cette approche à « double source » garantit un équilibre parfait : les anciennes classes restent en sécurité, et les nouvelles classes sont apprises avec précision.

Ce Qu'Ils Ont Découvert

Les chercheurs ont testé leur idée sur deux ensembles de données d'images célèbres : CIFAR100 (100 catégories de petites images) et ImageNet1K (1 000 catégories d'images plus complexes et plus grandes). Ils ont comparé leur méthode à plusieurs autres techniques populaires utilisées pour corriger les basculements négatifs.

Les résultats étaient prometteurs. Leur méthode, le MPT, a systématiquement réduit le nombre de basculements négatifs.

Sur CIFAR100, en utilisant un modèle ResNet-18 standard, leur meilleure version (MPT-KL) a réduit le taux de basculement négatif (NFR) à 9,26 %, contre 14,04 % pour un modèle sans traitement.
Sur ImageNet1K, l'amélioration est encore plus nette. Le NFR est tombé à 6,09 %, battant la méthode suivante la plus performante (ELODI) qui affichait 7,61 %.

Crucialement, ils n'ont pas seulement stoppé les basculements négatifs ; ils n'ont pas non plus sacrifié la précision globale. Les modèles réussissent toujours les nouvelles tâches. En fait, sur ImageNet1K, leur méthode a réellement amélioré le taux d'erreur global sur les anciennes classes, passant de 28,40 % (sans traitement) à 24,68 %.

Ils ont également mené une expérience de type « et si » (une étude d'ablation) pour voir quelle partie de leur recette était l'ingrédient secret. Ils ont découvert que si l'on retirait le « Pass VIP » (le biais de marge), les basculements négatifs remontaient. Si l'on retirait le système de « Double Enseignant », le modèle peinait avec les nouvelles classes. Il s'est avéré qu'il fallait réellement les deux parties travaillant de concert pour obtenir les meilleurs résultats.

Visualiser la Magie

Pour vraiment voir ce qui se passait, les chercheurs ont créé une carte visuelle de la façon dont l'IA « voyait » les images. Ils ont transformé les mathématiques complexes à l'intérieur de l'IA en un simple dessin en 2D.

Sans leur méthode : Les groupes des anciennes classes (comme les « chats ») et des nouvelles classes (comme les « chiens ») étaient écrasés ensemble. Les lignes les séparant étaient fines et tremblantes. Un « chat » pouvait accidentellement traverser la ligne pour entrer dans la zone des « chiens ».
Avec leur méthode : Les anciennes classes restaient dans leurs propres cercles nets et spacieux. Les nouvelles classes trouvaient leurs propres places sans encombrer les anciennes. Les « lignes de décision » restaient larges et claires, tout comme elles l'étaient dans le modèle original.

La Conclusion

Ce document suggère que la clé pour mettre à jour une IA sans la briser réside dans le respect de l'« espace personnel » de ce qu'elle sait déjà. En préservant explicitement les marges de décision des anciennes classes et en utilisant un système intelligent de double enseignant pour guider l'apprentissage des nouvelles, nous pouvons mettre à jour les modèles d'IA de manière plus sûre.

Les auteurs notent que leur méthode nécessite l'entraînement d'un modèle de référence supplémentaire, ce qui demande un peu plus de puissance de calcul, mais cela reste bien moins coûteux que d'autres méthodes complexes nécessitant de grands groupes de modèles. Ils soulignent également que la force du « Pass VIP » (la valeur du biais) doit être ajustée avec soin pour différents ensembles de données.

En bref, le MPT offre un moyen de faire grandir le cerveau d'une IA sans rétrécir sa mémoire. C'est une étape vers des systèmes d'IA capables d'apprendre en continu, s'adaptant à de nouveaux mondes sans oublier les leçons du passé.

Résumé Technique : Atténuation des basculements négatifs via l'entraînement de préservation de la marge

Définition du Problème
L'article traite du phénomène de « basculements négatifs » (negative flips) dans les systèmes d'apprentissage automatique, définis comme des cas où un modèle mis à jour classifie de manière erronée des échantillons de test qui étaient auparavant classés correctement par une version plus ancienne. Bien que les mises à jour de modèles visent souvent à réduire les taux d'erreur globaux ou à incorporer de nouvelles données, elles introduisent fréquemment des régressions dans certains cas spécifiques. Ce problème est particulièrement prononcé dans les tâches de classification d'images où le nombre de classes d'entraînement augmente au fil du temps. Les auteurs soutiennent que l'ajout de nouvelles catégories réduit la marge de décision entre les classes adjacentes et introduit des caractéristiques interférentes, menant à un transfert négatif. Par conséquent, même des prédictions à haute confiance sur les classes précédemment apprises peuvent devenir incorrectes en raison des déplacements des frontières de décision, perturbant les processus en aval et la confiance des utilisateurs.

Méthodologie : Entraînement de Préservation de la Marge (MPT - Margin Preserving Training)
La solution proposée, le Margin Preserving Training (MPT), se compose de deux composantes principales conçues pour équilibrer la préservation de la performance des anciennes classes avec l'apprentissage des nouvelles classes :

Perte de Softmax Cross-Entropy calibrée par la marge :
Pour contrer la réduction naturelle des marges lors de l'introduction de nouvelles classes, les auteurs introduisent un terme de biais de logit ( $\Delta_i$ ) exclusivement pour les classes nouvellement introduites ( $Y_{new}$ ).

Un biais positif $k > 0$ est appliqué aux logits des nouvelles classes pendant l'entraînement.
Cela agit comme un a priori explicite qui incline les frontières de décision pour favoriser les classes précédemment apprises ( $Y_{old}$ ), préservant ainsi efficacement leurs marges de décision originales.
Lors de l'inférence, ce biais est supprimé. Comme le modèle a été entraîné sans le biais pour les classes anciennes, il est contraint d'apprendre des marges de décision plus larges et plus robustes pour elles afin de compenser l'absence de ce a priori artificiel.
La fonction de perte est définie par $L_\Delta = -\log \frac{e^{z_y + \Delta_y}}{\sum_{i=1}^C e^{z_i + \Delta_i}}$ , où $\Delta_i = k$ si $i \in Y_{new}$ et $0$ sinon.

Distillation Focalisée à Double Source :
Les auteurs notent que la perte calibrée par la marge seule peut conduire à un sous-apprentissage des nouvelles classes dû au biais induit. Pour y remédier, ils proposent une stratégie de distillation qui exploite deux modèles de référence :

$\phi_{old}$ : Le modèle original entraîné sur $Y_{old}$ .
$\phi_{new}$ : Un nouveau modèle entraîné indépendamment sur l'ensemble des classes ( $Y_{all}$ ) en utilisant l'entropie croisée standard.
Le modèle étudiant est entraîné à l'aide d'une perte de distillation focalisée ( $L_{FD}$ ) qui transfère la connaissance des deux références. Cette perte met sélectivement l'accent sur les instances correctement classées par les modèles de référence, en utilisant soit la divergence de Kullback-Leibler (KL), soit l'appariement de logits (LM) comme métrique de distance.
L'objectif final combine la perte calibrée par la marge avec les termes de distillation : $\min_\phi L_\Delta + \lambda L_{FD}(\phi, \phi_{old}) + \lambda L_{FD}(\phi, \phi_{new})$ .

Principales Contributions

Approche Novatrice : L'article introduit le MPT, une méthode qui se concentre explicitement sur la préservation des marges de décision pour les classes précédemment apprises lors des mises à jour incrémentielles afin d'atténuer les basculements négatifs.
Distillation Focalisée à Double Source : Une stratégie est proposée pour contrer le potentiel sous-apprentissage des nouvelles classes causé par le calibrage de la marge, en utilisant la connaissance de l'ancien modèle et d'un nouveau modèle indépendant pour assurer une performance équilibrée.
Validation Empirique : Des expériences approfondies démontrent que la méthode réduit systématiquement les taux de basculement négatif tout en maintenant ou en améliorant la précision globale.

Résultats Expérimentaux
Les auteurs ont évalué le MPT sur les jeux de données CIFAR100 et ImageNet1K en utilisant les architectures ResNet-18 et ResNet-50, ainsi qu'un ViT-B/32 affiné sur CIFAR100.

Taux de Basculement Négatif (NFR) : Les variantes du MPT (MPT-KL et MPT-LM) ont systématiquement obtenu le NFR le plus bas par rapport aux lignes de base, incluant les variantes de l'entraînement congruent positif (PCT) et ELODI (une méthode de distillation basée sur l'ensemble).
Précision Globale : La méthode a maintenu des taux d'erreur (ER) compétitifs sur les classes anciennes et nouvelles. Dans les scénarios où le nouveau modèle utilise une architecture plus puissante (ResNet-50 vs ResNet-18), le MPT surpasse toujours les lignes de base dans la réduction des basculements négatifs sans sacrifier la précision globale.
Analyse Qualitative : La visualisation des espaces d'embedding a montré que, tandis que les mises à jour standards (« No Treatment ») provoquaient une dérive et une intersection des clusters de classes (réduction de la marge), le MPT réussissait à maintenir la séparation des classes anciennes tout en accommodant correctement les nouvelles classes.
Études d'Ablation : Le retrait du calibrage de la marge ou de la distillation à double source entraînait des taux de basculement négatif plus élevés ou une précision réduite sur les nouvelles classes, confirmant la nécessité des deux composantes.

Signification et Revendications
L'article affirme que les approches existantes pour réduire les basculements négatifs négligent souvent la réduction progressive des marges de classe lors de l'ajout de nouvelles catégories. En préservant explicitement ces marges par un biais de logit et en équilibrant le processus d'apprentissage via une distillation à double source, le MPT offre une alternative efficace sur le plan computationnel aux méthodes d'ensemble (qui nécessitent plusieurs modèles lors de l'inférence) tout en atteignant une performance supérieure pour prévenir la régression. Les auteurs positionnent leur travail comme le premier à traiter systématiquement la préservation de la marge de décision spécifiquement pour la réduction des basculements négatifs dans les contextes d'apprentissage incrémentiel. Ils reconnaissent que la méthode nécessite l'entraînement d'un modèle de référence supplémentaire et le réglage du paramètre de biais de marge $k$ , mais affirment que la surcharge de calcul est modeste par rapport aux approches basées sur les ensembles.

Le Problème : Quand « Meilleur » signifie « Moins Bon »

La Solution : Maintenir la Paix avec le MPT

Ce Qu'Ils Ont Découvert

Visualiser la Magie

La Conclusion

Articles similaires