🤖 machine learning

Unlocking the Potential of Continual Model Merging: An ODE Perspective

Dieser Artikel stellt ODE-M vor, ein neuartiges Framework für das kontinuierliche Zusammenführen von Modellen, das eine Perspektive gewöhnlicher Differentialgleichungen nutzt, um Pfade mit geringem Verlust im Parameterraum nachzuverfolgen, wodurch katastrophales Vergessen effektiv gemildert und bestehende Methoden auf Benchmarks mit heterogenen Aufgaben übertroffen werden.

Ursprüngliche Autoren: Lihong Lin, Haidong Kang

Veröffentlicht 2026-05-20

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Lihong Lin, Haidong Kang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen Meisterkoch, der gelernt hat, ein perfektes italienisches Pasta-Gericht zu kochen. Dann stellen Sie einen zweiten Koch ein, der ein Meister im japanischen Sushi ist. Schließlich stellen Sie einen dritten Koch ein, der sich auf mexikanische Tacos spezialisiert hat.

Das Problem:
In der Welt der KI haben wir oft „Foundation Models" (wie unsere Meisterköche), die in vielen Dingen gut sind. Wenn eine neue Aufgabe aufkommt (wie das Erlernen des Sushi-Kochens), müssen wir normalerweise den gesamten Koch von Grund auf neu trainieren oder versuchen, das neue Wissen gewaltsam über das alte zu stülpen.

Der Artikel spricht über kontinuierliches Modell-Merging. Dies ist vergleichbar mit dem Versuch, die Fähigkeiten des italienischen Kochs, des Sushi-Kochs und des Taco-Kochs in einen „Superkoch" zu kombinieren, der alle drei Aufgaben perfekt beherrscht, ohne sie jemals von Grund auf neu trainieren zu müssen.

Der alte Weg (die „Sprung"-Methode):
Frühere Methoden versuchten, diese Köche zu vereinen, indem sie einen Schnappschuss des Gehirns des italienischen Kochs und des Gehirns des Sushi-Kochs machten und diese dann einfach miteinander mittelten.

Der Fehler: Stellen Sie sich vor, das Gehirn des italienischen Kochs befindet sich in einem Tal (niedriger Verlust/gute Leistung) und das Gehirn des Sushi-Kochs in einem anderen Tal. Wenn Sie einfach eine gerade Linie zwischen ihnen ziehen, müssen Sie möglicherweise einen steilen, felsigen Berg dazwischen hinaufsteigen.
Das Ergebnis: Wenn die KI versucht, diese gerade Linie zu gehen, stößt sie auf eine „Verlustbarriere" (den Berg). Sie vergisst, wie man Pasta macht, weil sie auf dem Berg stecken bleibt, während sie versucht, Sushi zu lernen. Dies wird als katastrophales Vergessen bezeichnet. Je mehr Köche Sie hinzufügen, desto mehr vergisst der Superkoch die ursprünglichen Fähigkeiten.

Die neue Idee (die „ODE"-Methode):
Die Autoren schlagen eine neue Methode vor, die ODE-M (Ordinary Differential Equation-driven Merging) genannt wird. Anstatt von einem Koch zum anderen zu springen, stellen sie sich einen kontinuierlichen Pfad oder eine glatte Straße vor, die die beiden Gehirne verbindet.

So gehen sie vor, unter Verwendung einfacher Metaphern:

Die glatte Straße (Mode Connectivity):
Der Artikel geht davon aus, dass, obwohl die Köche unterschiedlich aussehen, eine verborgene, glatte, tief liegende Straße ihre Gehirne verbindet, auf der beide immer noch gut kochen können. Das Ziel ist es, diese Straße zu finden, nicht die gerade Linie über den Berg.
Das GPS mit Geschwindigkeitsbegrenzung (das Geschwindigkeitsfeld):
Die Autoren erstellen ein „Geschwindigkeitsfeld", das wie ein GPS den Superkoch vom italienischen Stil zum Sushi-Stil führt.
- Das Problem: Manchmal versucht das GPS, das Auto einen steilen Hügel hinaufzufahren (was den „Verlust" erhöht oder das Kochen verschlechtert).
- Die Lösung: Das System überprüft das Gelände in Echtzeit. Wenn die Straße voraus bergauf führt (Verlustzunahme), übt das System eine „Bremse" oder einen „Dämpfer" in diese spezifische Richtung aus. Es verlangsamt den Teil der Bewegung, der Vergessen verursacht, lässt das Auto aber dennoch vorwärts in Richtung der neuen Fähigkeit bewegen.
Das „Stoppschild" (Operating Point):
Man muss nicht immer bis zum Ziel (dem Gehirn des neuen Kochs) fahren. Manchmal möchte man nur einige Sushi-Fähigkeiten lernen, ohne die Pasta-Fähigkeiten zu verlieren.
- Das System erlaubt es Ihnen, das Auto an jedem Punkt entlang der glatten Straße anzuhalten.
- Wenn die neue Aufgabe sehr wichtig ist, fahren Sie weiter (näher am neuen Koch).
- Wenn die alten Aufgaben wichtiger sind, halten Sie früher an (und bewahren mehr vom alten Wissen).
- Dies wird durch einen „Zeitplan" gesteuert, der wie ein Regler funktioniert und entscheidet, wie viel von der neuen Fähigkeit aufgenommen wird im Vergleich dazu, wie viel von der alten Fähigkeit bewahrt wird.

Warum ist dies besser?

Kein Bergsteigen: Indem sie dem glatten, verlustarmen Pfad folgen, muss die KI nicht den „Berg" erklimmen, der dazu führt, dass sie alte Fähigkeiten vergisst.
Kontrolle: Es gibt dem Benutzer einen Regler, um genau zu entscheiden, wie viel neues Wissen hinzugefügt werden soll, ohne das alte Wissen zu zerstören.
Ergebnisse: In ihren Tests (unter Verwendung von KI-Modellen, die Bilder wie Autos, Blumen und Verkehrszeichen erkennen) schuf diese Methode einen „Superkoch", der besser darin war, sich an alle Aufgaben zu erinnern als jede vorherige Methode. Er behielt die Pasta-Fähigkeiten beim Erlernen des Sushi, selbst beim Hinzufügen vieler neuer Rezepte nacheinander.

Zusammenfassung:
Anstatt zwei verschiedene KI-Gehirne mit einem stumpfen Instrument zusammenzuzwingen (was Dinge zerstört), verwendet dieser Artikel einen glatten, geführten Pfad, um sie zu vereinen. Er fungiert wie ein vorsichtiger Navigator, der die KI um „Gefahrenzonen" (wo sie Dinge vergessen würde) herumsteuert und Ihnen erlaubt zu entscheiden, wie weit Sie diesen Pfad hinunterreisen, um alte und neue Fähigkeiten auszugleichen.

Problemformulierung

Das Paper behandelt das Continual Model Merging (CMM), ein Szenario, in dem aufgabenangepasste Modelle sequenziell eintreffen und ein einzelnes eingesetztes Modell iterativ aktualisiert werden muss, um neue Fähigkeiten zu integrieren, ohne Zugriff auf die ursprünglichen Trainingsdaten zu haben. Während das Standard-Model-Merging mehrere Modelle gleichzeitig kombiniert, steht CMM vor der Herausforderung des katastrophalen Vergessens und einer inkonsistenten Leistungsallokation.

Bestehende CMM-Methoden behandeln typischerweise jede Verschmelzung als feste algebraische Operation (z. B. Gewichtsarithmetik oder Task-Vektor-Arithmetik), die ein aktuelles Modell $\Psi_k$ und ein eingehendes Modell $\psi_{k+1}$ direkt auf einen neuen Endpunkt $\Psi_{k+1}$ abbilden. Die Autoren argumentieren, dass diese rein „endpunktorientierte" Sichtweise zwei kritische Mängel aufweist:

Fehlende Pfadkontrolle: Sie ignoriert die im Parameterraum zurückgelegte Trajektorie. Wenn die Aktualisierung durch Regionen mit hohem Verlust (Verlustbarrieren) verläuft, kann das resultierende Modell eine funktionale Verschlechterung oder Interferenzen mit zuvor gelernten Verhaltensweisen erleiden.
Unflexibler Stabilitäts-Plastizitäts-Trade-off: Sie bietet nur eine begrenzte Kontrolle darüber, wie viel historisches Wissen bewahrt wird im Vergleich zur Übernahme neuer Aufgabenspezialisierungen. Dies ist besonders problematisch in Szenarien mit heterogener Nützlichkeit, bei denen Aufgaben unterschiedliche Häufigkeiten oder Bedeutungsgewichte haben; feste Regeln versagen oft bei der angemessenen Kapazitätsallokation, was zu suboptimaler Systemleistung führt.

Methodik: ODE-gesteuertes Merging (ODE-M)

Motiviert durch Mode Connectivity – die Beobachtung, dass unabhängig trainierte Modelle oft durch verlustarme Pfade verbunden werden können – schlagen die Autoren vor, kontinuierliches Merging nicht als diskreten Sprung, sondern als kontrollierten kontinuierlichen Übergang im Parameterraum zu betrachten. Sie stellen ODE-M vor, ein Framework, das einen verbindenden Pfad über ein zeitabhängiges Geschwindigkeitsfeld generiert.

1. Trajektorienperspektive und Verlustbarrieren

Anstelle einer linearen Interpolation konstruiert ODE-M einen kontinuierlichen Pfad $\theta(t)$ vom aktuellen Modell $\theta_0$ zum eingehenden Modell $\theta_1$ . Das Ziel ist es, die Verlustbarriere entlang dieses Pfades zu minimieren, definiert als der maximale zusätzliche Verlust im Vergleich zur linearen Interpolation der Endpunktverluste.

2. Bereinigtes Geschwindigkeitsfeld

Der Kernmechanismus ist die Konstruktion eines verlustbarrierebewussten Geschwindigkeitsfeldes.

Basisfeld: Ein Basisvektorfeld $u_t(\theta) = \alpha(t)(\theta_1 - \theta)$ wird definiert, um das Modell zum Ziel zu treiben.
Gradientenzerlegung: In jedem Schritt wird die Geschwindigkeit in eine Komponente, die mit dem Verlustgradienten ausgerichtet ist ( $u_\parallel$ ), und eine Komponente, die orthogonal dazu steht ( $u_\perp$ ), zerlegt.
Adaptive Bereinigung: Ein adaptiver Faktor $\gamma(\theta, t) \in [0, 1]$ $γ (θ, t) \in [0, 1]$ moduliert die gradientenausgerichtete Komponente:
- Wenn die Bewegung zum Ziel den Verlust verringert oder konstant hält ( $\langle g_t, u_t \rangle \le 0$ ), wird die volle Geschwindigkeit angewendet ( $\gamma=1$ ).
- Wenn die Bewegung den Verlust erhöht ( $\langle g_t, u_t \rangle > 0$ ), wird die Komponente gedämpft, um sicherzustellen, dass die Verlustzunahme innerhalb eines vorgeschriebenen Budgets ( $\Delta L = L(\theta_1) - L(\theta_0)$ ) bleibt. Spezifisch gilt: $\gamma = \text{clip}(\frac{\Delta L}{\langle g_t, u_t \rangle}, 0, 1)$ .
Integration: Die Trajektorie wird durch Integration des bereinigten Geschwindigkeitsfeldes $v_t(\theta) = u_\perp + \gamma u_\parallel$ unter Verwendung der Euler-Integration auf einem kleinen Kalibrierungsdatensatz generiert.

3. Nutzenbewusste Zeitplanung

Um den Stabilitäts-Plastizitäts-Trade-off zu steuern, wählt die Methode einen Betriebszeitpunkt $t_k$ entlang der Trajektorie aus, anstatt bis zum vollständigen Endpunkt ( $t=1$ ) zu integrieren. Der Zeitpunkt $t_k$ wird durch das relative Nutzenmaß der eingehenden Aufgabe bestimmt:
$t_k = \frac{w_k}{\sum_{i=1}^k w_i}$
wobei $w_k$ das Nutzenmaß der $k$ -ten Aufgabe ist. In einem einheitlichen Setting reduziert sich dies auf $t_k = 1/k$ , was den Beitrag neuer Aufgaben, wenn der Strom wächst, natürlich verringert und somit mehr historisches Wissen bewahrt.

Hauptbeiträge

Trajektorienformulierung: Das Paper stellt CMM als Pfadsuchproblem neu dar und erweitert das Konzept der Verlustbarrieren von der linearen Interpolation auf allgemeine verbindende Pfade.
Barrierebewusste Dynamik: Es schlägt eine neuartige ODE-gesteuerte Merging-Strategie vor, die ein bereinigtes Geschwindigkeitsfeld verwendet, um verluststeigernde Bewegungen über leichtes Feedback erster Ordnung reguliert, wodurch Regionen mit hohem Verlust vermieden werden, ohne eine vollständige Neuordnung zu erfordern.
Explizite Steuerung: Durch die Auswahl von Betriebspunkten entlang der Trajektorie basierend auf Nutzenmaßen bietet die Methode einen expliziten Mechanismus, um bewahrtes historisches Wissen und eingehende Aufgabenspezialisierung auszugleichen.

Experimentelle Ergebnisse

Die Autoren bewerteten ODE-M auf CLIP ViT-Rückgraten (ViT-B/32, ViT-B/16, ViT-L/14) über Aufgabenströme der Längen 8, 14 und 20 hinweg, unter Verwendung von Datensätzen aus der FusionBench-Suite.

Leistung: ODE-M erreichte im Vergleich zu starken Baselines (einschließlich Continual Task Arithmetic, Continual Ties-Merging und OPCM) State-of-the-Art-Leistung in Bezug auf die durchschnittliche Genauigkeit (ACC) und den rückwärtigen Transfer (BWT). Beispielsweise verbesserte ODE-M auf ViT-B/32 mit 8 Aufgaben die ACC von 75,5 (OPCM) auf 79,6.
Heterogene Nützlichkeit: Unter nicht-uniformer Aufgabenbedeutung erreichte ODE-M konsistent die höchste nutzen-gewichtete Genauigkeit ( $ACC_w$ ) und demonstrierte damit seine Fähigkeit, spezifische Aufgabenprioritäten besser zu optimieren als Methoden, die auf uniforme Makro-Durchschnitte optimiert sind.
Robustheit: Ablationsstudien zeigten, dass die Methode robust gegenüber der Größe des Kalibrierungsdatensatzes ist (sie funktioniert gut mit nur 512 Proben) und gegenüber der numerischen Integrationsschrittweite.
Effizienz: Der Rechenaufwand pro Verschmelzung ist praktikabel (z. B. ~124 s für ViT-B/32) und wird von der numerischen Integration und den Gradientenberechnungen auf dem Kalibrierungsdatensatz dominiert, was im Vergleich zur vollständigen Neuordnung vernachlässigbar ist.

Bedeutung und Behauptungen

Das Paper behauptet, dass ODE-M das Potenzial des kontinuierlichen Model-Mergings erschließt, indem es das Paradigma von festen algebraischen Aktualisierungen zu kontrollierten kontinuierlichen Übergängen verschiebt. Durch das explizite Konstruieren von Pfaden, die die Verlustlandschaft respektieren, und die Regulierung der Integrationsgeschwindigkeit basierend auf dem Aufgabennutzen, mildert ODE-M das Vergessen effektiv ab und bewältigt heterogene Aufgabenbedeutungen.

Die Autoren positionieren diese Arbeit als einen Schritt hin zu einer skalierbareren und kontrollierbaren Modellanpassung, die den technischen und rechnerischen Aufwand für die Wartung von Multi-Aufgaben-Systemen reduziert. Sie räumen Einschränkungen ein, wie die Notwendigkeit eines Kalibrierungsdatensatzes zur Berechnung von Gradienten und den aktuellen Fokus auf visuelle Klassifizierungsaufgaben, und weisen darauf hin, dass zukünftige Arbeiten große Sprachmodelle und effizientere Integrationsstrategien untersuchen werden.