🤖 machine learning

Unlocking the Potential of Continual Model Merging: An ODE Perspective

Dit artikel stelt ODE-M voor, een nieuw raamwerk voor continue modelsamenvoeging dat gebruikmaakt van een perspectief van gewone differentiaalvergelijkingen om paden met lage verliezen in de parameter ruimte te traceren, waardoor catastrofaal vergeten effectief wordt tegengegaan en bestaande methoden op heterogene taakbenchmarks worden overtroffen.

Oorspronkelijke auteurs: Lihong Lin, Haidong Kang

Gepubliceerd 2026-05-20

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Lihong Lin, Haidong Kang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een meesterkok hebt die een perfect Italiaans pastagerecht kan bereiden. Vervolgens huurt je een tweede kok in die een meester is in Japanse sushi. Tot slot huurt je een derde kok in die gespecialiseerd is in Mexicaanse tacos.

Het Probleem:
In de wereld van AI hebben we vaak "foundation models" (zoals onze meesterkoks) die goed zijn in veel dingen. Wanneer er een nieuwe taak opduikt (zoals het leren van sushi), moeten we meestal de hele kok vanaf nul opnieuw trainen of proberen de nieuwe kennis bovenop de oude te forceren.

Het artikel gaat over Continu Model Mergen. Dit is als proberen de vaardigheden van de Italiaanse kok, de sushi-kok en de taco-kok te combineren in één "Superkok" die alle drie perfect kan, zonder ze ooit opnieuw vanaf nul te hoeven trainen.

De Oude Manier (De "Sprong" Methode):
Eerdere methoden probeerden deze koks te samenvoegen door een momentopname te nemen van het brein van de Italiaanse kok en dat van de sushi-kok, en ze vervolgens simpelweg met elkaar te middelen.

De Fout: Stel je voor dat het brein van de Italiaanse kok in een dal ligt (lage verliezen/goede prestaties) en dat van de sushi-kok in een ander dal. Als je gewoon een rechte lijn tussen hen tekent, moet je misschien een steile, rotsachtige berg beklimmen die ertussen ligt.
Het Resultaat: Wanneer de AI probeert die rechte lijn te bewandelen, stuit het op een "verliesbarrière" (de berg). Het vergeet hoe het pasta moet maken omdat het vastzit op de berg terwijl het probeert sushi te leren. Dit heet catastrophische vergetelheid. Hoe meer koks je toevoegt, hoe meer de Superkok de oorspronkelijke vaardigheden vergeet.

Het Nieuwe Idee (De "ODE" Methode):
De auteurs stellen een nieuwe manier voor genaamd ODE-M (Ordinary Differential Equation-driven Merging). In plaats van van de ene kok naar de andere te springen, stellen ze een continue weg of een gladde route voor die de twee breinen met elkaar verbindt.

Hier is hoe ze dit doen, met eenvoudige metaforen:

De Gladde Weg (Mode Connectiviteit):
Het artikel gaat ervan uit dat, hoewel de koks er anders uitzien, er een verborgen, gladde, laaggelegen weg is die hun breinen verbindt waar ze allebei nog steeds goed kunnen koken. Het doel is om deze weg te vinden, niet de rechte lijn over de berg.
De GPS met Snelheidsbeperking (Het Veld van Snelheid):
De auteurs creëren een "veld van snelheid", wat werkt als een GPS die de Superkok begeleidt van de Italiaanse stijl naar de Sushi-stijl.
- Het Probleem: Soms probeert de GPS de auto een steile heuvel op te rijden (wat het "verlies" verhoogt of het koken verslechtert).
- De Oplossing: Het systeem controleert het terrein in real-time. Als de weg vooruit begint te gaan omhoog een heuvel (verlies toenemend), past het systeem een "rem" of een "demper" toe op die specifieke richting. Het vertraagt het deel van de beweging dat vergeten veroorzaakt, terwijl het de auto toch vooruit laat bewegen naar de nieuwe vaardigheid.
Het "Stopbord" (Bedrijfspunt):
Je hoeft niet altijd helemaal naar de bestemming te rijden (het brein van de nieuwe kok). Soms wil je alleen sommige sushi-vaardigheden leren zonder je pasta-vaardigheden te verliezen.
- Het systeem stelt je in staat om de auto op elk punt langs de gladde weg te stoppen.
- Als de nieuwe taak erg belangrijk is, rijd je verder (dichter bij de nieuwe kok).
- Als de oude taken belangrijker zijn, stop je eerder (meer van de oude kennis behoudend).
- Dit wordt gecontroleerd door een "tijdschema", dat werkt als een draaiknop die bepaalt hoeveel van de nieuwe vaardigheid je absorbeert versus hoeveel van de oude vaardigheid je behoudt.

Waarom is dit beter?

Geen Bergbeklimming: Door de gladde, laag-verlies pad te volgen, hoeft de AI niet de "berg" te beklimmen die ervoor zorgt dat het oude vaardigheden vergeet.
Controle: Het geeft de gebruiker een draaiknop om precies te bepalen hoeveel nieuwe kennis er wordt toegevoegd zonder de oude kennis te breken.
Resultaten: In hun tests (met AI-modellen die afbeeldingen herkennen zoals auto's, bloemen en verkeersborden) creëerde deze methode een "Superkok" die beter was in het onthouden van alle taken dan eerdere methoden. Het behield de pasta-vaardigheden terwijl het sushi leerde, zelfs bij het toevoegen van veel nieuwe recepten één voor één.

Samenvattend:
In plaats van twee verschillende AI-breinen met een bot instrument aan elkaar te forceren (wat dingen kapot maakt), gebruikt dit artikel een gladde, begeleidde weg om ze te samenvoegen. Het werkt als een zorgzame navigator die de AI om "gevaarlijke zones" leidt (waar het dingen zou vergeten) en jou laat beslissen hoe ver je precies die weg aflegt om oude en nieuwe vaardigheden in evenwicht te brengen.

Probleemformulering

Het paper behandelt Continual Model Merging (CMM), een setting waarin taak-geadapteerde modellen sequentieel arriveren en een enkel uitgezet model iteratief moet worden bijgewerkt om nieuwe vaardigheden op te nemen zonder toegang tot de oorspronkelijke trainingsdata. Waar standaard modelmerging meerdere modellen gelijktijdig combineert, staat CMM voor de uitdaging van catastrophic forgetting en inconsistente prestatieverdeling.

Bestaande CMM-methoden behandelen elke merge doorgaans als een vaste algebraïsche operatie (bijvoorbeeld gewichtsaveraging of taakvector-aritmetiek) die een huidig model $\Psi_k$ en een inkomend model $\psi_{k+1}$ direct afbeeldt op een nieuw eindpunt $\Psi_{k+1}$ . De auteurs betogen dat dit "alleen-eindpunt"-perspectief twee kritieke tekortkomingen heeft:

Gebrek aan Padcontrole: Het negeert de trajectorie die in de parameter ruimte wordt afgelegd. Als de update door gebieden met hoge verliezen (verliesbarrières) gaat, kan het resulterende model lijden onder functionele degradatie of interferentie met eerder aangeleerde gedragingen.
Onflexibele Stabiliteit-Plasticiteit Trade-off: Het biedt beperkte controle over hoeveel historische kennis wordt behouden versus hoeveel nieuwe taakexpertise wordt overgenomen. Dit is bijzonder problematisch in heterogene utility-scenario's, waar taken verschillende frequenties of belangrijkheidsweergaven hebben; vaste regels falen vaak om capaciteit adequaat toe te wijzen, wat leidt tot suboptimale systeemniveau-prestaties.

Methodologie: ODE-gedreven Merging (ODE-M)

Gedreven door mode connectivity—de observatie dat onafhankelijk getrainde modellen vaak verbonden kunnen worden door paden met lage verliezen—stellen de auteurs voor om continual merging niet te zien als een discrete sprong, maar als een gecontroleerde continue overgang in de parameter ruimte. Zij introduceren ODE-M, een raamwerk dat een verbindingspad genereert via een tijdsafhankelijk snelheidsveld.

1. Trajectorieperspectief en Verliesbarrières

In plaats van lineaire interpolatie, construeert ODE-M een continu pad $\theta(t)$ van het huidige model $\theta_0$ naar het inkomende model $\theta_1$ . Het doel is het minimaliseren van de verliesbarrière langs dit pad, gedefinieerd als het maximale extra verlies dat wordt ondervonden ten opzichte van de lineaire interpolatie van de eindpuntverliezen.

2. Gerechtvaardigd Snelheidsveld

Het kernmechanisme is de constructie van een barrière-bewust snelheidsveld.

Basisveld: Een basisvectorveld $u_t(\theta) = \alpha(t)(\theta_1 - \theta)$ wordt gedefinieerd om het model naar het doel te drijven.
Gradiëntdecompositie: Bij elke stap wordt de snelheid ontleed in een component die uitgelijnd is met de verliesgradiënt ( $u_\parallel$ ) en een component die er loodrecht op staat ( $u_\perp$ ).
Adaptieve Rectificatie: Een adaptieve factor $\gamma(\theta, t) \in [0, 1]$ $γ (θ, t) \in [0, 1]$ moduleert de met de gradiënt uitgelijnde component:
- Als de beweging naar het doel het verlies verlaagt of handhaaft ( $\langle g_t, u_t \rangle \le 0$ ), wordt de volledige snelheid toegepast ( $\gamma=1$ ).
- Als de beweging het verlies verhoogt ( $\langle g_t, u_t \rangle > 0$ ), wordt de component gedempt om ervoor te zorgen dat de verliesstijging binnen een voorgeschreven budget blijft ( $\Delta L = L(\theta_1) - L(\theta_0)$ ). Specifiek: $\gamma = \text{clip}(\frac{\Delta L}{\langle g_t, u_t \rangle}, 0, 1)$ .
Integratie: Het traject wordt gegenereerd door het gerechtigde snelheidsveld $v_t(\theta) = u_\perp + \gamma u_\parallel$ te integreren met Euler-integratie op een kleine kalibratieset.

3. Utility-bewuste Tijdsplanning

Om de stabiliteit-plasticiteit trade-off te controleren, selecteert de methode een operatietijd $t_k$ langs het traject in plaats van te integreren tot het volledige eindpunt ( $t=1$ ). De tijd $t_k$ wordt bepaald door de relatieve utility van de inkomende taak:
$t_k = \frac{w_k}{\sum_{i=1}^k w_i}$
waarbij $w_k$ de utility-weight is van de $k$ -de taak. In een uniforme setting reduceert dit tot $t_k = 1/k$ , wat de bijdrage van nieuwe taken op natuurlijke wijze doet afnemen naarmate de stream groeit, waardoor meer historische kennis wordt behouden.

Belangrijkste Bijdragen

Trajectorieformulering: Het paper herformuleert CMM als een padzoekprobleem, waarbij het concept van verliesbarrières wordt uitgebreid van lineaire interpolatie naar algemene verbindingspaden.
Barrière-bewuste Dynamiek: Het stelt een nieuwe ODE-gedreven mergestrategie voor die een gerechtigd snelheidsveld gebruikt om verlies-verhogende beweging te reguleren via lichtgewicht eerste-orde feedback, waardoor gebieden met hoge verliezen worden vermeden zonder volledige hertraining.
Expliciete Controle: Door operationele punten langs het traject te selecteren op basis van utility-weights, biedt de methode een expliciet mechanisme om behouden historische kennis en inkomende taakexpertise in evenwicht te brengen.

Experimentele Resultaten

De auteurs hebben ODE-M geëvalueerd op CLIP ViT-backbones (ViT-B/32, ViT-B/16, ViT-L/14) over taakstreams van lengte 8, 14 en 20, met behulp van datasets uit de FusionBench-suite.

Prestaties: ODE-M behaalde state-of-the-art prestaties vergeleken met sterke baselines (waaronder Continual Task Arithmetic, Continual Ties-Merging en OPCM) in termen van gemiddelde nauwkeurigheid (ACC) en backward transfer (BWT). Bijvoorbeeld, op ViT-B/32 met 8 taken verbeterde ODE-M de ACC van 75,5 (OPCM) naar 79,6.
Heterogene Utility: Onder niet-uniforme taakbelangrijkheid behaalde ODE-M consequent de hoogste utility-gewogen nauwkeurigheid ( $ACC_w$ ), wat zijn vermogen demonstreert om te optimaliseren voor specifieke taakprioriteiten beter dan methoden die zijn geoptimaliseerd voor uniforme macro-averages.
Robuustheid: Ablatiestudies toonden aan dat de methode robuust is voor de grootte van de kalibratieset (goed presterend met zo weinig als 512 samples) en de numerieke integratiestapgrootte.
Efficiëntie: De computatie-overhead per merge is praktisch (bijvoorbeeld ~124s voor ViT-B/32), gedomineerd door de numerieke integratie en gradiëntberekeningen op de kalibratieset, wat verwaarloosbaar is in vergelijking met volledige hertraining.

Betekenis en Claims

Het paper claimt dat ODE-M het potentieel van continual model merging ontsluit door het paradigma te verschuiven van vaste algebraïsche updates naar gecontroleerde continue overgangen. Door expliciet paden te construeren die het verlieslandschap respecteren en de integratiesnelheid te reguleren op basis van taak-utility, mitigeert ODE-M effectief vergeten en behandelt het heterogene taakbelang.

De auteurs positioneren dit werk als een stap richting meer schaalbare en controleerbare modelaanpassing, waarbij de engineering- en computatie-overhead van het onderhouden van multi-task systemen wordt verminderd. Zij erkennen beperkingen, zoals de vereiste van een kalibratieset om gradiënten te berekenen en de huidige focus op visuele classificatietaken, en merken op dat toekomstig werk grotere taalmodellen en efficiëntere integratiestrategieën zal verkennen.