🤖 machine learning

Mitigating Negative Flips via Margin Preserving Training

Dit artikel stelt een nieuw trainingsframework voor dat negatieve flips in evoluerende beeldclassificatiesystemen vermindert door de oorspronkelijke modelmarges te behouden via logit-kalibratie en tegelijkertijd dubbele bron-focale distillatie toe te passen om een hoge nauwkeurigheid op zowel oude als nieuwe klassen te handhaven.

Oorspronkelijke auteurs: Simone Ricci, Niccolò Biondi, Federico Pernici, Alberto Del Bimbo

Gepubliceerd 2026-08-10

📖 9 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Simone Ricci, Niccolò Biondi, Federico Pernici, Alberto Del Bimbo

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een meesterkok bent die jarenlang de perfecte menukaart heeft verfijnd. Je klanten weten precies wat ze kunnen verwachten: de "Spicy Tofu" is altijd pittig en de "Creamy Mushroom" is altijd romig. Dan besluit je de menukaart uit te breiden. Je voegt opwindende nieuwe gerechten toe zoals "Dragon Fruit Sorbet" en "Wasabi Ice Cream". Dit klinkt geweldig, maar er is een addertje onder het gras. In de haast om ruimte te maken voor deze nieuwe smaken, heb je per ongeluk het recept van de oude favorieten aangepast. Plotseling smaakt de Spicy Tofu een beetje flauw, of krijgt de Creamy Mushroom een vreemde nasmaak. Je trouwe klanten zijn verward en ontevreden, ook al is het nieuwe menu op papier technisch gezien "beter". Dit is de dagelijkse strijd van Kunstmatige Intelligentie. Terwijl AI-systemen nieuwe dingen leren, vergeten ze vaak hoe ze de oude dingen correct moeten doen. In de wereld van de computerwetenschap wordt dit specifieke type verwarring — waarbij een AI slechter wordt in iets wat het voorheen goed deed — een "negative flip" genoemd. Het is een frustrerende glitch waarbij een update iets breekt dat niet kapot was.

Het artikel dat je nu gaat lezen, behandelt exact dit probleem. De onderzoekers, werkend met beeldclassificatie (het leren herkennen van afbeeldingen van katten, honden, auto's, enz. door computers), merkten op dat wanneer ze nieuwe categorieën aan een AI-brein toevoegden, de "beslissingslijnen" die het tekende tussen oude en nieuwe zaken te druk werden. Het was alsof je te veel mensen in een kleine kamer probeerde te proppen; iedereen begon tegen elkaar aan te botsen en de AI raakte in de war over wie wie was. Om dit op te lossen, hebben ze een nieuwe trainingsmethode uitgevonden genaamd Margin Preserving Training (MPT). Denk hierbij aan een slimme manier om de AI te leren de persoonlijke ruimte van zijn oude vrienden te respecteren terwijl er ruimte wordt gemaakt voor de nieuwe. In plaats van alles gewoon bij elkaar te duwen, gebruiken ze een speciale "bias" om de oude categorieën veilig te houden en een "double-teacher" systeem om ervoor te zorgen dat de nieuwe categorieën niet worden achtergelaten. Hun experimenten laten zien dat deze methode er succesvol in slaagt de AI te stoppen met het maken van die irritante fouten op oude taken, terwijl het de nieuwe taken net zo goed leert als voorheen.

Het Probleem: Wanneer "Beter" "Slechter" Betekent

In de snelle wereld van AI worden modellen constant bijgewerkt. Ontwikkelaars trainen een nieuwe versie van een AI, in de hoop dat deze slimmer, sneller en in staat zal zijn om meer dingen te herkennen. Meestal werkt dit geweldig. Maar soms gebeurt er iets vreemds. Een AI die perfect was in het identificeren van een "Golden Retriever", begint deze plotseling een "Labrador" te noemen na een update. Of het kan een "stopbord" verwarren met een "snelheidsbord" terwijl dat eerder niet gebeurde.

Dit fenomeen wordt een negative flip genoemd. Het is het tegenovergestelde van een "positive flip", waarbij een AI eindelijk leert iets te herkennen wat het voorheen verkeerd had. Hoewel positive flips het doel zijn, zijn negative flips de verborgen kosten van vooruitgang. Ze zijn bijzonder gevaarlijk omdat ze onvoorspelbaar gedrag kunnen veroorzaken in real-life systemen, zoals een zelfrijdende auto die plotseling een bekend verkeersbord verkeerd identificeert.

De onderzoekers ontdekten dat deze negative flips het vaakst voorkomen wanneer de AI gevraagd wordt om meer klassen (categorieën) te leren. Stel je een klas voor waar de leraar 10 leerlingen moet onderscheiden. Dat is makkelijk. Stel je nu voor dat er 100 leerlingen binnenkomen. De leraar moet iedereen in dezelfde kamer proppen. Om ze allemaal te laten passen, wordt de "persoonlijke ruimte" (of margin) tussen elke leerling kleiner. In AI-termen is de "margin" de veiligheidsbuffer die het model aanhoudt tussen verschillende categorieën. Wanneer je nieuwe klassen toevoegt, probeert het model alles samen te persen om de ruimte voor iedereen te maximaliseren, maar dit duwt de oude categorieën vaak te dicht bij de rand, waardoor ze gemakkelijk te verwarren zijn.

De Oplossing: De Vrede Bewaren met MPT

De auteurs stellen een nieuwe methode voor genaamd Margin Preserving Training (MPT). Hun doel is simpel: de AI updaten om nieuwe dingen te leren zonder de veiligheidsbuffers van de dingen die het al weet te verkleinen.

Ze pakken dit aan met twee trucs die samenwerken als een goed geoliede machine:

1. De "VIP-pas" (Margin-Calibrated Loss)
Eerst geven ze de nieuwe klassen een kleine "voorsprong" tijdens de training. Stel je voor dat je een klas leerlingen onderwijst. De oude leerlingen (oude klassen) zitten al op hun stoelen. De nieuwe leerlingen (nieuwe klassen) staan bij de deur. Als je alleen maar zegt dat iedereen moet gaan zitten, kunnen de oude leerlingen van hun stoel worden geduwd om ruimte te maken.

Om dit te voorkomen, geven de onderzoekers de nieuwe leerlingen een "VIP-pas" (een positieve logit bias). Deze pas vertelt de AI: "Hé, deze nieuwe mensen zijn belangrijk, geef ze een beetje extra ruimte om hun plek te vinden." Door het vertrouwen voor nieuwe klassen tijdens de training kunstmatig te verhogen, wordt de AI gedwongen de beslissingsgrenzen weg van de oude klassen te duwen. Dit zorgt ervoor dat de oude klassen hun brede, veilige "margins" behouden en niet worden samengeperst. Het is alsof je tegen de AI zegt: "Maak je nog niet te veel zorgen over de nieuwe boel; zorg er wel voor dat de oude boel veilig blijft."

2. Het "Double-Teacher" Systeem (Double-Source Focal Distillation)
Er is echter een probleem met de VIP-pas. Als je de nieuwe klassen te veel voorsprong geeft, kunnen ze te zelfverzekerd worden en de werkelijke kenmerken van de afbeelding negeren, wat leidt tot fouten bij de nieuwe categorieën. De AI leert de nieuwe klassen misschien slecht omdat hij te druk was met het beschermen van de oude klassen.

Om dit op te lossen, introduceren de onderzoekers een tweede leraar.

Leraar A (Het Oude Model): Deze leraar kent de oude klassen perfect. Het helpt het nieuwe model te onthouden hoe het met de oude zaken moet omgaan.
Leraar B (Een Vers Model): Dit is een gloednieuw model dat vanaf nul is getraind op alle klassen (oud en nieuw) zonder speciale bias. Het weet hoe het de nieuwe klassen correct moet afhandelen.

Het nieuwe model leert van beide leraren tegelijkertijd. Het luistert naar Leraar A om de oude klassen veilig te houden en luistert naar Leraar B om er zeker van te zijn dat het de nieuwe klassen niet verpest. Deze "double-source" aanpak zorgt voor een perfect evenwicht: de oude klassen blijven veilig en de nieuwe klassen worden accuraat geleerd.

Wat Ze Vonden

De onderzoekers testten hun idee op twee beroemde beelddatasets: CIFAR100 (100 categorieën van kleine afbeeldingen) en ImageNet1K (1.000 categorieën van grotere, complexere afbeeldingen). Ze vergeleken hun methode met verschillende andere populaire technieken die worden gebruikt om negative flips te corrigeren.

De resultaten waren veelbelovend. Hun methode, MPT, verminderde consequent het aantal negative flips.

Op CIFAR100, bij het gebruik van een standaard ResNet-18 model, verminderde hun beste versie (MPT-KL) de Negative Flip Rate (NFR) naar 9,26%, vergeleken met 14,04% voor een model zonder behandeling.
Op ImageNet1K was de verbetering nog duidelijker. De NFR daalde naar 6,09%, waarmee het de op één na beste methode (ELODI) versloeg, die op 7,61% zat.

Cruciaal was dat ze niet alleen negative flips stopten; ze offerden ook de algemene nauwkeurigheid niet op. De modellen leerden de nieuwe dingen nog steeds goed. Sterker nog, op ImageNet1K verbeterde hun methode de algehele foutmarge op oude klassen zelfs van 28,40% (geen behandeling) naar 24,68%.

Ze voerden ook een "wat als"-experiment uit (een ablatie-studie) om te zien welk deel van hun recept het geheime ingrediënt was. Ze ontdekten dat als ze de "VIP-pas" (de margin bias) zouden verwijderen, de negative flips weer omhoog gingen. Als ze het "Double-Teacher" systeem zouden verwijderen, had het model moeite met de nieuwe klassen. Het bleek dat ze echt beide delen nodig hadden die samenwerkten om de beste resultaten te behalen.

De Magie Visualiseren

Om echt te zien wat er gebeurde, maakten de onderzoekers een visuele kaart van hoe de AI de afbeeldingen "zag". Ze vertaalden de complexe wiskunde binnen de AI naar een eenvoudige 2D-tekening.

Zonder hun methode: De clusters van oude klassen (zoals "katten") en nieuwe klassen (zoals "honden") waren op elkaar geperst. De lijnen die hen scheidden waren dun en trillerig. Een "kat" zou per ongeluk de lijn naar de "hondenzone" kunnen overschrijden.
Met hun methode: De oude klassen bleven in hun eigen, ruime cirkels. De nieuwe klassen vonden hun eigen plek zonder de oude te verdringen. De "beslissingslijnen" bleven breed en duidelijk, precies zoals ze in het originele model waren.

De Conclusie

Dit artikel suggereert dat de sleutel tot het updaten van AI zonder het te breken, ligt in het respecteren van de "persoonlijke ruimte" van wat het al weet. Door de beslissingsmarges van oude klassen expliciet te bewaren en een slim, duaal leraarsysteem te gebruiken om het leren van nieuwe klassen te begeleiden, kunnen we AI-modellen veiliger updaten.

De auteurs merken op dat hun methode weliswaar het trainen van een extra "referentiemodel" vereist, wat wat meer computerkracht kost, maar het is nog steeds veel goedkoper dan andere complexe methoden die grote groepen modellen vereisen. Ze benadrukken ook dat de sterkte van de "VIP-pas" (de bias-waarde) zorgvuldig moet worden afgestemd op verschillende datasets.

Kortom, MPT biedt een manier om het brein van een AI te laten groeien zonder dat het geheugen krimpt. Het is een stap naar AI-systemen die continu kunnen leren, zich aanpassend aan nieuwe werelden zonder de lessen uit het verleden te vergeten.

Technische Samenvatting: Mitigeren van Negatieve Flips via Margin Preserving Training

Probleemdefinitie
Het artikel behandelt het fenomeen van "negatieve flips" in machine learning-systemen, gedefinieerd als instanties waarbij een geüpdatet model testmonsters verkeerd classificeert die door een oudere versie correct werden geclassificeerd. Hoewel modelupdates vaak gericht zijn op het verminderen van de algehele foutenpercentages of het incorporeren van nieuwe data, introduceren ze frequent regressie in specifieke gevallen. Dit probleem is bijzonder uitgesproken in beeldclassificatietaken waarbij het aantal trainingsklassen in de loop van de tijd toeneemt. De auteurs stellen dat het toevoegen van nieuwe categorieën de beslissingsmarge tussen aangrenzende klassen verkleint en interfererende kenmerken introduceert, wat leidt tot negatieve transfer. Bijgevolg kunnen zelfs voorspellingen met een hoge betrouwbaarheid voor eerder geleerde klassen onjuist worden door verschuivingen in de beslissingsgrenzen, wat downstream-processen en gebruikersvertrouwen verstoort.

Methodologie: Margin Preserving Training (MPT)
De voorgestelde oplossing, Margin Preserving Training (MPT), bestaat uit twee primaire componenten die zijn ontworpen om de balans te bewaren tussen het behoud van de prestaties van oude klassen en het leren van nieuwe klassen:

Margin-Calibrated Softmax Cross-Entropy Loss:
Om de natuurlijke afname van marges tegen te gaan wanneer nieuwe klassen worden geïntroduceerd, introduceren de auteurs een logit-bias term ( $\Delta_i$ ) die uitsluitend voor nieuw geïntroduceerde klassen ( $Y_{new}$ ) geldt.

Een positieve bias $k > 0$ wordt toegepast op de logits van nieuwe klassen tijdens de training.
Dit fungeert als een expliciete prior die de beslissingsgrenzen doet kantelen ten gunste van eerder geleerde klassen ( $Y_{old}$ ), waardoor hun oorspronkelijke beslissingsmarges effectief worden behouden.
Tijdens de inferentie wordt deze bias verwijderd. Omdat het model zonder de bias voor oude klassen is getraind, wordt het gedwongen om bredere, robuustere beslissingsmarges voor hen te leren om te compenseren voor het gebrek aan de kunstmatige prior.
De verliesfunctie is gedefinieerd als $L_\Delta = -\log \frac{e^{z_y + \Delta_y}}{\sum_{i=1}^C e^{z_i + \Delta_i}}$ , waarbij $\Delta_i = k$ als $i \in Y_{new}$ en $0$ anders.

Double-Source Focal Distillation:
De auteurs merken op dat de marge-gekalibreerde loss alleen kan leiden tot onderfitting van nieuwe klassen door de geïnduceerde bias. Om dit aan te pakken, stellen zij een distillatiestrategie voor die gebruikmaakt van twee referentiemodellen:

$\phi_{old}$ : Het originele model getraind op $Y_{old}$ .
$\phi_{new}$ : Een nieuw model dat onafhankelijk is getraind op de volledige set klassen ( $Y_{all}$ ) met standaard cross-entropy.
Het studentmodel wordt getraind met een focal distillation loss ( $L_{FD}$ ) die kennis overdraagt van beide referenties. Deze loss legt selectief de nadruk op instanties die correct zijn geclassificeerd door de referentiemodellen, gebruikmakend van ofwel de Kullback-Leibler (KL) divergentie of Logit Matching (LM) als afstandmetriek.
De uiteindelijke doelstelling combineert de marge-gekalibreerde loss met de distillatietermen: $\min_\phi L_\Delta + \lambda L_{FD}(\phi, \phi_{old}) + \lambda L_{FD}(\phi, \phi_{new})$ .

Belangrijkste Bijdragen

Nieuwe Aanpak: Het artikel introduceert MPT, een methode die expliciet focust op het behoud van beslissingsmarges voor eerder geleerde klassen tijdens incrementele updates om negatieve flips te mitigeren.
Double-Source Focal Distillation: Er wordt een strategie voorgesteld om de potentiële onderfitting van nieuwe klassen veroorzaakt door marge-kalibratie tegen te gaan, door gebruik te maken van kennis van zowel het oude model als een nieuw getraind onafhankelijk model om een gebalanceerde prestatie te garanderen.
Empirische Validatie: Uitgebreide experimenten tonen aan dat de methode consistent de negatieve flip-rates vermindert terwijl de algehele nauwkeurigheid gelijk blijft of verbetert.

Experimentele Resultaten
De auteurs hebben MPT geëvalueerd op de CIFAR100 en ImageNet1K datasets met behulp van ResNet-18 en ResNet-50 architecturen, evenals een ViT-B/32 die is gefinetuned op CIFAR100.

Negative Flip Rate (NFR): MPT-varianten (MPT-KL en MPT-LM) behaalden consistent de laagste NFR vergeleken met baselines, inclusief Positive-congruent Training (PCT) varianten en ELODI (een ensemble-gebaseerde distillatiemethode).
Algehele Nauwkeurigheid: De methode behield competitieve foutenpercentages (ER) op zowel oude als nieuwe klassen. In scenario's waarin het nieuwe model een krachtigerere architectuur gebruikte (ResNet-50 vs. ResNet-18), presteerde MPT nog steeds beter dan de baselines in het verminderen van negatieve flips zonder de algehele nauwkeurigheid op te offeren.
Kwalitatieve Analyse: Visualisatie van de embedding-ruimtes toonde aan dat hoewel standaard updates ("No Treatment") ervoor zorgden dat klasseclusters driften en snijden (marge-inkrimping), MPT er succesvol in slaagde de scheiding van oude klassen te handhaven terwijl nieuwe klassen correct werden geaccommodeerd.
Ablatie-studies: Het verwijderen van ofwel de marge-kalibratie of de double-source distillatie resulteerde in hogere negatieve flip-rates of verminderde nauwkeurigheid op nieuwe klassen, wat de noodzaak van beide componenten bevestigt.

Betekenis en Claims
Het artikel claimt dat bestaande benaderingen voor het verminderen van negatieve flips vaak de progressieve afname van klasse-marges over het hoofd zien wanneer nieuwe categorieën worden toegevoegd. Door deze marges expliciet te behouden via logit-bias en het leerproces te balanceren via double-source distillatie, biedt MPT een computationeel efficiënt alternatief voor ensemble-methoden (die meerdere modellen vereisen tijdens de inferentie) terwijl het een superieure prestatie levert in het voorkomen van regressie. De auteurs positioneren hun werk als de eerste die systematisch aandacht besteedt aan het behoud van beslissingsmarges specifiek voor de reductie van negatieve flips in incrementele leeromgevingen. Zij erkennen dat de methode het trainen van een extra referentiemodel en het afstemmen van de marge-bias parameter $k$ vereist, maar stellen dat de computationele overhead bescheiden is vergeleken met ensemble-gebaseerde benaderingen.

Het Probleem: Wanneer "Beter" "Slechter" Betekent

De Oplossing: De Vrede Bewaren met MPT

Wat Ze Vonden

De Magie Visualiseren

De Conclusie

Meer zoals dit