Locality-aware Private Class Identification for Domain Adaptation with Extreme Label Shift

Technische Zusammenfassung: Lokale private Klassenidentifikation für Domänenanpassung mit extremem Label-Shift

Problemstellung
Die unüberwachte Domänenanpassung (UDA) geht typischerweise von einem Closed-Set-Szenario aus, bei dem Quell- und Zieldomäne einen identischen Labelraum teilen. In realen Anwendungen kommt es jedoch häufig zu einem „extremen Label-Shift", bei dem die Labelräume heterogen sind. Dies manifestiert sich in zwei primären Szenarien: Open Set Domain Adaptation (OSDA), bei der die Zieldomäne private Klassen enthält, die in der Quelle fehlen, und Partial Domain Adaptation (PDA), bei der die Quelldomäne private Klassen enthält, die in der Zieldomäne fehlen.

Die zentrale Herausforderung in diesen Szenarien ist die „Identifikation privater Klassen". Bestehende Methoden stützen sich im Allgemeinen auf die Annahme, dass der semantische Shift privater Klassen konsistent größer ist als der Domänen-Shift geteilter Klassen und behandeln private Stichproben als Ausreißer. Die Autoren argumentieren, dass diese Annahme in der Praxis häufig verletzt wird, da die Varianz innerhalb einer einzelnen geteilten Klasse den Abstand zwischen einer privaten Klasse und einer anderen geteilten Klasse überschreiten kann. Folglich scheitern bestehende Methoden oft daran, private Stichproben zuverlässig zu unterscheiden, was zu negativem Transfer und Fehljustierung führt.

Methodik
Die Arbeit schlägt ein neuartiges Framework vor, das auf der lokalen privaten Klassenidentifikation und einem zuverlässigen Transfermodell namens ReOT (Reliable OT-based method) basiert.

1. Lokale Identifikation mittels Masked Optimal Transport (MOT):

   • Die Autoren beobachten, dass zwar globale Verschiebungen mehrdeutig sein mögen, eine lokale räumliche Struktur jedoch gilt: Innerhalb einer lokalen Nachbarschaft eines Clusters geteilter Klassen ist der Abstand zwischen geteilten Stichproben konsistent kleiner als der Abstand zwischen geteilten und privaten Stichproben.
   • Sie nutzen Masked Optimal Transport (MOT), um diese lokale Struktur zu charakterisieren. Eine Maskenmatrix wird auf die Kostenmatrix angewendet, um den Transport nur zwischen Stichproben mit denselben vorhergesagten Labels zu erzwingen.
   • Eine Transportmass-basierte Score-Funktion wird abgeleitet. Basierend auf den theoretischen Eigenschaften von MOT ist die gesamte Masse, die zu einer privaten Klassenstichprobe von einer geteilten Klassenquelle transportiert wird, signifikant kleiner als die Masse, die zu einer geteilten Klassenstichprobe transportiert wird.
   • Eine Score-Funktion $s(z')$ wird definiert als $1/m - \sum \Gamma^*_{ij}$. Stichproben mit $s(z') > 0$ (oder die einen Margin überschreiten) werden als privat identifiziert, während solche mit $s(z') < 0$ als geteilt identifiziert werden. Dieser Ansatz garantiert theoretisch die Trennung geteilter und privater Stichproben unter lokalen räumlichen Annahmen, ohne auf globale Ausreißerannahmen zurückzugreifen.

2. Das ReOT-Framework:

   • Zuverlässiger Transfer-Verlust ($L_{rt}$): Sobald private und geteilte Stichproben identifiziert sind, minimiert ReOT die interklassischen Abstände über Domänen hinweg für geteilte Klassen, während es den Abstand zwischen geteilten und privaten Klassen maximiert. Dies wird unter Verwendung des Transportplans aus MOT erreicht, um bedingte Verteilungen nur innerhalb der identifizierten geteilten Mengen auszurichten.
   • Risikominimierung ($L_{cls}$): Das Modell minimiert das empirische Klassifikationsrisiko sowohl auf der Quelldomäne als auch auf den identifizierten privaten Stichproben in der Zieldomäne (oder Quelldomäne für PDA).
   • Barycenter-Rekonstruktionsverlust ($L_{br}$): Um die Repräsentation weiter zu verfeinern, bildet das Modell Zielrepräsentationen unter Verwendung des Transportplans (Barycenter-Map) zurück auf die Quelldomäne ab und minimiert den Rekonstruktionsverlust. Dies liefert eine weiche Überwachung, die Zielstichproben in Richtung ihrer entsprechenden Klassenprototypen drückt.
   • Das finale Ziel kombiniert diese Verluste: $L = L_{cls} + \eta_1 L_{rt} + \eta_2 L_{br}$.

3. Theoretische Analyse:

   • Die Arbeit liefert eine Generalisierungsschranke für das Zielrisiko in Szenarien mit extremem Label-Shift. Die Schranke zerlegt den Fehler in Terme, die sich auf das Quellenrisiko, den maximalen Vorhersagefehler, die Diskrepanz der Labelverteilung und die Lücke im geteilten bedingten Kontext beziehen.
   • Die Autoren beweisen, dass ReOT diese obere Schranke minimiert, indem es das Quellenrisiko reduziert, bedingte Verteilungen ausrichtet (die Lücke im geteilten bedingten Kontext verringert) und private Klassen effektiv identifiziert, um Fehler auf diesen spezifischen Stichproben zu minimieren.

Hauptbeiträge

• Lokale Identifikation: Eine neue Methode zur Identifikation privater Klassen unter Verwendung einer Score-Funktion, die aus dem Transportmass von MOT abgeleitet ist. Sie lockert die unrealistische globale Ausreißerannahme auf, indem sie lokale räumliche Strukturen nutzt.
• Theoretische Garantie: Ein theoretischer Beweis, der die Fähigkeit der Score-Funktion demonstriert, geteilte und private Stichproben zu unterscheiden, sowie eine Generalisierungsfehlerschranke für Szenarien mit extremem Label-Shift, die ReOT nachweislich minimiert.
• Einheitliches Framework (ReOT): Ein einzelner Algorithmus, der sowohl OSDA- als auch PDA-Einstellungen handhaben kann, indem er die Transportrichtung und Maskendefinitionen dynamisch anpasst, je nachdem, welche Domäne die privaten Klassen enthält.
• Empirische Validierung: Umfassende Experimente auf vier Benchmark-Datensätzen (Image-CLEF, Office-31, Office-Home, VisDA-2017), die eine überlegene Leistung gegenüber State-of-the-Art-Methoden in sowohl OSDA- als auch PDA-Einstellungen belegen.

Experimentelle Ergebnisse

• OSDA-Leistung: Auf Image-CLEF, Office-31 und Office-Home erreichte ReOT in der Mehrheit der Aufgaben die höchste Harmonische-Mittelwert-Genauigkeit ($H$) und übertraf SOTA-Methoden wie ANNA und MRJT. Beispielsweise erreichte ReOT auf Image-CLEF eine durchschnittliche $H$ von 84,4 % und übertraf ANNA um 1,5 %.
• PDA-Leistung: ReOT zeigte eine robuste Leistung auf Office-Home und VisDA-2017, erreichte die beste mittlere Genauigkeit (78,7 % auf Office-Home) und behielt auf dem herausfordernden VisDA-2017-Datensatz eine hohe Leistung bei, auf dem andere Methoden signifikant nachließen.
• Ablationsstudien: Das Entfernen des Transferverlusts ($L_{rt}$) oder des Rekonstruktionsverlusts ($L_{br}$) führte zu Leistungseinbußen, was die Notwendigkeit sowohl der klassenbedingten Ausrichtung als auch der Barycenter-Rekonstruktion bestätigt.
• Identifikationseffizienz: Die Methode zur Identifikation privater Klassen identifizierte erfolgreich etwa 88,2 % der privaten Stichproben in OSDA und 95,6 % in PDA über die Datensätze hinweg.
• Robustheit: Die Methode blieb über verschiedene Hyperparameter-Einstellungen und Kostenfunktionswahlen (quadratische euklidische Distanz vs. diskriminatorbasiert) stabil.

Bedeutung und Behauptungen
Die Arbeit behauptet, dass ReOT die grundlegende Einschränkung bestehender Methoden zur Identifikation privater Klassen adressiert, indem es den Fokus von der globalen Ausreißererkennung auf die Charakterisierung lokaler räumlicher Strukturen verlagert. Durch die theoretische Fundierung des Identifikationsprozesses in den Eigenschaften von maskiertem Optimal-Transport stellt die Methode Zuverlässigkeit sicher, selbst wenn private Klassen keine distincten Ausreißer sind.

Die Autoren behaupten, dass ReOT eine einheitliche Lösung für sowohl OSDA als auch PDA bietet und die Lücke zwischen diesen beiden symmetrischen, aber oft separat behandelten Szenarien schließt. Theoretisch bietet die vorgeschlagene Generalisierungsschranke eine neue Perspektive auf die Zerlegung von Fehlern in heterogenen Labelräumen und zeigt, dass die Minimierung der Schranke sowohl eine genaue Identifikation privater Klassen als auch die Ausrichtung bedingter Verteilungen erfordert. Empirisch validieren die Ergebnisse, dass ReOT ein besseres Gleichgewicht zwischen der Erkennung privater Stichproben und der Erhaltung der Leistung geteilter Klassen erreicht, was zu einer robusteren Domänenanpassung in realen Szenarien mit extremem Label-Shift führt.

Die Arbeit schließt bescheiden mit der Feststellung, dass ReOT zwar für Single-Source/Single-Ziel-Szenarien effektiv ist, zukünftige Arbeiten das Framework jedoch auf Multi-Source-, Multi-Ziel- und source-freie Einstellungen erweitern könnten.