🤖 machine learning

Resolving Interference (RI): Disentangling Models for Improved Model Merging

Der vorgestellte Ansatz „Resolving Interference" (RI) verbessert das Zusammenführen von Modellen, indem er Expertenmodelle mithilfe ungelabelter Hilfsdaten funktional orthogonalisiert, um die durch unabhängiges Training verursachte Interferenz zu reduzieren und so die Leistung sowie die Generalisierungsfähigkeit der fusionierten Modelle signifikant zu steigern.

Ursprüngliche Autoren: Pratik Ramesh, George Stoica, Arun Iyer, Leshem Choshen, Judy Hoffman

Veröffentlicht 2026-03-17

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Pratik Ramesh, George Stoica, Arun Iyer, Leshem Choshen, Judy Hoffman

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

🧩 Das Problem: Wenn zwei Genies im selben Raum streiten

Stell dir vor, du hast zwei sehr talentierte Spezialisten:

Herr Hund: Ein Experte, der jede Hunderasse der Welt erkennt.
Frau Katze: Eine Expertin, die jede Katzenrasse perfekt identifiziert.

Beide sind in ihren eigenen Bereichen absolute Weltmeister. Jetzt möchtest du sie zu einer einzigen Person zusammenfassen, die sowohl Hunde als auch Katzen erkennen kann. Das klingt toll, oder?

Aber hier kommt das Problem: Wenn du einfach nur ihr Wissen „mischst" (ihre Gehirnstrukturen oder Parameter kombinierst), passiert oft ein Chaos. Die Erinnerungen an die Hunde überlagern die Erinnerungen an die Katzen.

Das Ergebnis? Die neue Person ist verwirrt. Sie hält einen Dackel für eine Katze oder eine Perserkatze für einen Wolf.
In der KI-Welt nennt man das „Cross-Task Interference" (Interferenz zwischen Aufgaben). Die Fähigkeiten der einen Aufgabe stören die andere.

Bisherige Methoden, um diese beiden zu mischen, waren wie ein Versuch, zwei widersprüchliche Anweisungen in einen einzigen Satz zu packen, ohne die Personen vorher zu trainieren. Das funktionierte oft nicht gut.

💡 Die Lösung: „Resolving Interference" (RI) – Der diplomatische Coach

Die Autoren dieses Papers haben eine clevere Idee entwickelt: RI (Interferenz auflösen).

Stell dir RI nicht als Mischmaschine vor, sondern als einen diplomatischen Coach, der die beiden Experten bevor sie zusammengeführt werden, auf ein neues Training schickt.

Wie funktioniert das Training? (Die Analogie)

Normalerweise würde man die Experten mit echten Fotos von Hunden und Katzen trainieren. Aber oft hat man diese Fotos nicht (wegen Datenschutz oder weil sie verloren gegangen sind).

RI nutzt stattdessen einen „neutralen Raum":
Der Coach gibt den Experten eine Schachtel mit zufälligen, unbeschrifteten Bildern (z. B. Landschaften, Autos, abstrakte Muster). Das ist das „Hilfsdaten"-Material.

Der Coach sagt nun zu Herrn Hund:

„Hör zu, Herr Hund. Wenn du diese Landschaftsbilder ansiehst, musst du dich so verhalten, als würdest du gar nicht existieren. Deine Reaktion auf diese Bilder muss genau so aussehen wie die eines völlig normalen, untrainierten Menschen (dem 'leeren' Gehirn). Aber wenn du auf deine eigentliche Aufgabe (Hunde) gehst, musst du dein volles Können zeigen."

Und zu Frau Katze sagt er das Gleiche, nur mit dem Fokus auf Katzen.

Das Ziel:
Herr Hund lernt, dass sein Wissen über Hunde nur für Hunde gilt und nicht auf andere Dinge (wie Landschaften oder Katzen) „überschreibt". Er wird in einen „spezialisierten Modus" gezwungen, der sich nicht in den Modus der anderen einmischt.

In der Wissenschaft nennen sie das funktionale Orthogonalität.

Einfach gesagt: Die beiden Experten lernen, in völlig verschiedenen Räumen zu arbeiten, ohne sich gegenseitig die Möbel umzuwerfen.

🚀 Was bringt das?

Nach diesem kurzen, leichten Training (das nur wenige Minuten dauert und keine echten Aufgaben-Daten braucht) werden die beiden Experten endlich gemischt.

Das Ergebnis ist ein Super-Experte:

Er ist nicht verwirrt: Er erkennt Hunde und Katzen genauso gut wie die einzelnen Experten.
Er ist robuster: Wenn er auf völlig neue Bilder trifft (z. B. Zeichnungen statt Fotos), funktioniert er besser als vorher.
Er braucht keine perfekten Daten: Es reicht, ihm ein paar zufällige Bilder zu zeigen, damit er lernt, sich zu disziplinieren.

📊 Die Ergebnisse in Zahlen (einfach erklärt)

Die Forscher haben das an vielen verschiedenen KI-Modellen getestet:

Die Leistung der besten bisherigen Mischmethoden hat sich um bis zu 3,8 % verbessert. Klingt wenig? In der Welt der KI ist das wie der Unterschied zwischen einem Goldmedaillengewinner und einem Weltrekordhalter.
Die Fähigkeit, Dinge zu erkennen, die sie nie gesehen haben (z. B. neue Bildstile), verbesserte sich um 2,3 %.

🌟 Warum ist das so besonders?

Keine Daten nötig: Du brauchst nicht die originalen Trainingsdaten (die oft geheim oder teuer sind). Ein paar zufällige Bilder reichen.
Schnell und leicht: Es ist kein riesiges, teures Training. Es ist wie ein kurzer „Aufwärm-Check" vor dem großen Spiel.
Stabil: Die Methode funktioniert auch dann gut, wenn man die Einstellungen (Hyperparameter) nicht perfekt abstimmt. Sie ist weniger empfindlich als frühere Methoden.

Fazit

Stell dir RI wie einen Übergangs-Trainer vor, der zwei streitende Spezialisten lehrt, ihre eigenen Werkzeuge so zu benutzen, dass sie sich nicht gegenseitig im Weg stehen. Erst wenn sie gelernt haben, sich nicht zu stören, werden sie zu einem Team zusammengefügt. Das Ergebnis ist ein Team, das stärker ist als die Summe seiner Teile – und das alles ohne Zugriff auf die geheimen Original-Daten.

1. Problemstellung

Das Paper adressiert das zentrale Problem des Model Merging (Modellverschmelzung). Obwohl es möglich ist, Multi-Task-Modelle zu erstellen, indem die Parameter verschiedener, unabhängig trainierter Spezialisten-Modelle direkt kombiniert werden, führt dies oft zu einer signifikanten Leistungsverschlechterung.

Cross-Task Interference (Aufgabenübergreifende Interferenz): Wenn Modelle, die auf unterschiedlichen Aufgaben trainiert wurden (z. B. Hunderassen vs. Katzensorten), verschmolzen werden, können die gelernten Merkmale der einen Aufgabe die der anderen überschreiben oder verzerren.
Folge: Die Repräsentationen des verschmolzenen Modells weichen von denen der ursprünglichen Expertenmodelle ab, was zu einem Leistungsabfall führt.
Herausforderung bestehender Methoden:
- Gradient-freie Methoden ignorieren die Daten und können nicht erfassen, wie Parameter mit Eingaben interagieren.
- Gradient-basierte Methoden benötigen oft Zugriff auf die originalen Trainingsdaten der einzelnen Aufgaben, was in datenarmen Szenarien oder bei proprietären Daten unrealistisch ist.
- Routing-Methoden erhöhen die Inferenzkosten und den Kapazitätsbedarf.

Die Autoren stellen die Frage, ob eine leichte, gradientenbasierte Methode existiert, die Interferenz reduziert, ohne Inferenzkosten zu erhöhen und ohne Zugriff auf die originalen Trainingsdaten der Aufgaben.

2. Methodik: Resolving Interference (RI)

Die Autoren schlagen Resolving Interference (RI) vor, ein leichtgewichtiges Anpassungsframework, das Expert-Modelle funktional entkoppelt, bevor sie verschmolzen werden.

A. Formale Definition der Interferenz

Die Autoren definieren Cross-Task Interferenz ( $\xi$ ) als die Divergenz zwischen den Repräsentationen des verschmolzenen Modells und denen der einzelnen Expertenmodelle, wenn sie auf ihren jeweiligen Aufgaben evaluiert werden. Das Ziel ist es, $\xi$ zu minimieren.

B. Der RI-Ansatz (Twin-Distillation)

Statt die Modelle direkt zu verschmelzen, passt RI jeden Task-Vektor ( $\tau_i$ ) so an, dass er in einen disjunkten funktionalen Unterraum überführt wird. Dies geschieht durch die Optimierung einer Verlustfunktion ( $L_{RI}$ ) unter Verwendung von beliebigen, ungelabelten Hilfsdaten ( $D_{aux}$ ), ohne Zugriff auf die originalen Task-Daten.

Die Verlustfunktion besteht aus zwei Komponenten:

Task-Preservation Loss ( $L_1$ ): Sicherstellt, dass der angepasste Task-Vektor $\tau^*_i$ unter seinem eigenen Task-Head ( $h_i$ ) und den Hilfsdaten die gleiche Ausgabe wie das originale Expertenmodell liefert.
Interference-Reduction Loss ( $L_2$ ): Erzwingt, dass der angepasste Vektor $\tau^*_i$ keinen Einfluss auf die Ausgaben anderer Task-Heads ( $h_j, j \neq i$ ) hat. Das Modell soll sich also verhalten, als wäre es nur der Basis-Backbone (Pretrained), wenn es von einem fremden Head betrachtet wird.

Die Gesamtverlustfunktion lautet:
$L_{RI} = L_1 + \frac{\alpha}{N-1} L_2$
Wobei $\alpha$ den Trade-off steuert (Standardwert: 1).

C. Ablauf

Für jeden Experten wird ein trainierbarer Kopie des Task-Vektors initialisiert.
Unter Verwendung von ungelabelten Hilfsdaten (z. B. ImageNet) wird der Vektor so angepasst, dass er die oben genannten Bedingungen erfüllt.
Die so „entwirrten" (disentangled) Vektoren werden anschließend mit herkömmlichen Merging-Methoden (z. B. Task Arithmetic, TIES, WUDI) verschmolzen.

3. Wichtige Beiträge

Formalisierung der Interferenz: Einführung einer metrischen Definition für Cross-Task Interferenz, die als diagnostisches Werkzeug dient und direkt optimiert werden kann.
RI-Framework: Entwicklung einer datenunabhängigen Anpassungsstrategie, die Expert-Modelle in orthogonale Subräume überführt, ohne zusätzliche Inferenzkosten oder Task-spezifische Daten zu benötigen.
Empirische Validierung: Nachweis, dass RI die Leistung bestehender State-of-the-Art (SOTA) Merging-Methoden konsistent verbessert.
Robustheitsanalyse: Untersuchung der Sensitivität gegenüber Hyperparametern und der Wahl der Hilfsdaten.

4. Ergebnisse

Die Methode wurde an verschiedenen Vision-Benchmarks (8, 14 und 20 Aufgaben) und mit verschiedenen CLIP-Architekturen (ViT-B/32, ViT-B/16, ViT-L/14) evaluiert.

Leistungssteigerung: RI verbessert SOTA-Merging-Methoden um bis zu 3,8 % (im Durchschnitt oft signifikant, z. B. +9,6 % bei Task-Arithmetic auf 20 Aufgaben).
Generalisierung (Out-of-Distribution): Auf dem DomainNet-Benchmark (Generalisierung auf 5 unsichtbare Domänen) konnte die Generalisierungsfähigkeit um bis zu 2,3 % verbessert werden.
Robustheit: Modelle, die mit RI angepasst wurden, sind deutlich weniger empfindlich gegenüber der Feinabstimmung von Merging-Hyperparametern (z. B. Skalierungsfaktoren). Dies ist besonders wertvoll, wenn keine validierten Task-Daten für die Hyperparameter-Optimierung verfügbar sind.
Hilfsdaten: Die Methode funktioniert mit einer Vielzahl von Hilfsdatenquellen (synthetisch, ImageNet, MSCOCO). Je näher die Hilfsdaten an der Zielverteilung liegen, desto besser die Ergebnisse, aber selbst semantisch irrelevante Daten (wie Gaussian Noise) bringen leichte Verbesserungen.
Effizienz: Der Anpassungsprozess ist leichtgewichtig (ca. 7–9 Minuten pro Expert auf einer A40 GPU für 2500 Schritte) und skaliert sublinear mit der Anzahl der Aufgaben, da die Experten unabhängig angepasst werden.

5. Bedeutung und Fazit

Das Paper bietet einen wichtigen Durchbruch für das Feld des Model Merging, insbesondere in datenscharfen Szenarien (Data-Scarce), wo keine Zugriff auf die originalen Trainingsdaten der Expertenmodelle besteht.

Paradigmenwechsel: Statt zu versuchen, Interferenz während des Mergings zu minimieren, wird sie durch eine Vorverarbeitung (Adaptation) der Experten gelöst.
Praktische Anwendbarkeit: Da RI keine Task-Daten benötigt und keine zusätzliche Inferenzkapazität erfordert, ist es direkt in realen Anwendungen einsetzbar, in denen Datenschutz oder Datenmangel die Nutzung herkömmlicher gradientenbasierter Merging-Techniken verhindern.
Zukunftsausblick: Die Arbeit zeigt, dass die Entkopplung von Funktionen vor der Verschmelzung ein effektiver Weg ist, um robuste Multi-Task-Modelle zu erstellen, und hinterfragt die Notwendigkeit von task-spezifischen Validierungsdaten für das Hyperparameter-Tuning.

Zusammenfassend stellt RI eine effiziente, datenunabhängige Lösung dar, die die Grenzen des Model Merging erweitert und die Leistung von Multi-Task-Systemen signifikant steigert.