Rethinking the Flow-Based Gradual Domain Adaptation: A Semi-Dual Optimal Transport Perspective

Technische Samenvatting: Het heroverwegen van de Flow-gebaseerde Graduele Domeinadaptatie: Een Semi-duaal Optimal Transport Perspectief

Probleemstelling
Graduele Domeinadaptatie (GDA) beoogt de distributiekloof tussen een gelabeld bron-domein en een ongelabeld doel-domein te overbruggen door modellen progressief aan te passen via een sequentie van tussenliggende domeinen. Hoewel flow-gebaseerde benaderingen aandacht hebben gekregen voor het synthetiseren van deze tussenliggende domeinen door interpolatie tussen bron- en doeldistributies, kampen ze met een kritieke beperking: ze vertrouwen vaak op de expliciete schatting van de kansdichtheidsfunctie (PDF) van het doel-domein. Bestaande methoden schatten de doel-PDF (bijv. via score matching) om de drijvende kracht (snelheidsveld) voor de flow te definiëren. Het schatten van PDF's vanaf enkel samples is echter een slecht gesteld probleem; onnauwkeurigheden in deze schatting kunnen leiden tot samples die naar gebieden met een lage dichtheid worden gedreven, wat resulteert in een mismatch tussen gegenereerde en werkelijke doel-samples, waardoor de prestaties van downstream-taken verslechteren.

Methodologie: E-SUOT Framework
Om de afhankelijkheid van expliciete PDF-schatting en de instabiliteit van bestaande duale formuleringen aan te pakken, stellen de auteurs Entropy-regularized Semi-dual Unbalanced Optimal Transport (E-SUOT) voor. De methodologie verloopt als volgt:

1. Herformulering als Optimalisatie: De auteurs herformuleren het flow-gebaseerde GDA-probleem, dat traditioneel wordt beschouwd als een gradiëntflow die een $f$-divergentie minimaliseert, als een recursief optimalisatieprobleem dat wordt geregulariseerd door de gekwadrateerde 2-Wasserstein afstand (een Jordan-Kinderlehrer-Otto schema). Deze formulering vermijdt de noodzaak voor expliciete PDF-evaluatie.
2. Semi-duale Formulering: Zij leiden een semi-duale formulering af van dit optimalisatieprobleem. In tegenstelling tot de priam-formuleringen die dichtheidschatting vereisen, hangt het semi-duale objectief alleen af van verwachtingen over de bron- en doel-samples. Dit maakt het gebruik van Monte Carlo-methoden mogelijk om integralen te benaderen zonder toegang te hebben tot de doel-PDF.
3. Aanpakken van Instabiliteit: De standaard semi-duale formulering bevat een samengestelde "sup–inf"-structuur (adversarial training), die volgens de auteurs kan leiden tot niet-unieke optimale oplossingen en instabiliteit tijdens de training. Om dit op te lossen, introduceren zij een entropie-regularisatie term aan het priam-objectief.
4. Stabiele Sequentiële Optimalisatie: De entropie-regularisatie transformeert het adversariële min–max probleem in een stabiel sequentieel optimalisatieproces. Theoretisch zorgt dit voor de uniciteit van de optimale oplossing en garandeert het convergentie.
5. Trainingsworkflow: Het framework traint twee neurale netwerken op een afwisselende wijze:
   • Een potentiefunctie $w_\phi$ wordt geoptimaliseerd om het semi-duale objectief te maximaliseren (dat nu de entropie-term bevat).
   • Een transportmap $T_\theta$ wordt geoptimaliseerd om de transportkosten te minimaliseren, geconditioneerd op de geleerde potentie $w_\phi$.
   • Zodra de sequentie van transportkaarten is geleerd, wordt de classifier stadium-voor-stadium gefinetuned langs de gegenereerde tussenliggende domeinen.

Kernbijdragen

1. Semi-duale Formulering: Het artikel ontwikkelt een semi-duale formulering voor de generatie van tussenliggende domeinen in flow-gebaseerde GDA die de noodzaak voor expliciete schatting van de doel-PDF elimineert, waardoor fouten geassocieerd met dichtheidsschatting worden vermeden.
2. Entropie-geregulariseerde Stabiliteit: De auteurs introduceren een entropie-regularisatie term om de inherente instabiliteit en niet-uniciteit van de semi-duale formulering aan te pakken. Dit resulteert in de nieuwe E-SUOT framework, die een unieke optimale oplossing en een stabiel trainingsproces garandeert.
3. Theoretische Analyse: Het artikel biedt theoretische bewijzen met betrekking tot de convergentie van het E-SUOT framework en stelt een bovengrens vast voor de generalisatiefout van het aangepaste model, waarbij de fout wordt gekoppeld aan de cumulatieve transportkosten en labelcontinuïteit langs het adaptatiepad.
4. Empirische Validatie: Uit uitgebreide experimenten op GDA-taken (Portraits, MNIST met rotatie) en UDA-taken (Office-Home) blijkt dat E-SUOT superieure prestaties levert vergeleken met de huidige state-of-the-art methoden, inclus_ief self-training, gradient flow-gebaseerde methoden (GGF, CNF) en optimal transport-gebaseerde benaderingen (MMDSW, SMMD).

Experimentele Resultaten

• GDA Taken: Op de Portrait-, MNIST $45^\circ$- en MNIST $60^\circ$-datasets presteerde E-SUOT consequent beter dan de bestaande baselines. Bijvoorbeeld, het verbeterde de nauwkeurigheid met respectievelijk 21,5%, 23,4% en 38,6% ten opzichte van de source-only baseline, en overtrof de op één na beste methoden (bijv. STDW, GOAT) over alle datasets.
• UDA Taken: Op de Office-Home dataset behaalde E-SUOT de hoogste gemiddelde nauwkeurigheid onder de vergeleken methoden. Hoewel het niet altijd de beste performer was op elke specifieke transferrichting, toonde het een hoge stabiliteit en concurrentiekracht, waarbij het vaak de op één na beste resultaten behaalde met kleine marges ten opzichte van de beste methoden.
• Ablatie-studies:
  • Het verwijderen van de entropie-regularisatie (terugkeren naar adversarial training) veroorzaakte aanzienlijke prestatiedalingen, wat de noodzaak van de regularisatie voor stabiliteit bevestigt.
  • Het gebruik van alternatieve $f$-divergenties (bijv. $\chi^2$, Softplus) of barycentrische projectiestrategieën resulteerde in inferieure prestaties vergeleken met de voorgestelde KL-divergentie-gebaseerde semi-duale aanpak.
  • De methode toonde robuustheid tegen variaties in UMAP embedding dimensies en hyperparameters zoals stapgrootte en batchgrootte.

Betekenis en Claims
Het artikel claimt dat E-SUOT het veld van GDA vooruit helpt door flow-gebaseerde methoden en optimal transport te verenigen binnen een semi-duale formulering. Het identificeert en lost fundamentele problemen van stabiliteit en generalisatie op die eerdere benaderingen hebben beperkt, specifiek de afhankelijkheid van onnauwkeurige PDF-schatting en de instabiliteit van adversarial training. Door een theoretisch gefundeerd, entropie-geregulariseerd framework te bieden, stellen de auteurs dat hun aanpak een robuustere en betrouwbaardere mechanisme biedt voor het construeren van tussenliggende domeinen. Het werk suggereert dat het vermijden van expliciete dichtheidsschatting terwijl een stabiele optimalisatie wordt gewaarborgd, de sleutel is tot effectieve graduele adaptatie, vooral in scenario's waarin tussenliggende domeinen niet beschikbaar zijn of moeilijk te synthetiseren zijn. De auteurs houden een bescheiden standpunt aan door beperkingen te erkennen, zoals de aanname van label-invariantie langs het transportpad en de huidige afhankelijkheid van multi-stage offline training, wat toekomstige richtingen suggereert voor het integreren van labelinformatie en het verbeteren van parameterefficiëntie.