Take It or Leave It: Intent-Controlled Partial Optimal Transport

Dit artikel introduceert Intent-gecontroleerde Gedeeltelijke Optimale Transport (IC-POT), een nieuw raamwerk dat gedeeltelijke optimale transport generaliseert door globale massa-rejectie te vervangen door puntsgewijze, intentie-gedreven rejectiekosten gebaseerd op zijinformatie, waardoor er een meer gestructureerde en betrouwbare matching mogelijk wordt in toepassingen zoals positief-onbemand leren en analyse van multi-modale satellietdata.

De kern

Stel je voor dat je twee verschillende groepen mensen probeert te koppelen voor een dans. De ene groep is de "Bron" (laten we zeggen, dansers uit New York) en de andere is de "Doel" (dansers uit Londen).

De Oude Manier (Standaard Optimaal Transport):
Traditioneel was de regel streng: Elke enkele danser moet een partner vinden. Zelfs als een danser uit New York een clownneus draagt en een danser uit Londen een tutu, dwingt het algoritme hen om samen te gaan, alleen maar om de aantallen te laten kloppen. Dit leidt vaak tot belachelijke, geforceerde koppelingen die geen zin hebben.

De "Partiële" Manier (Vorige Oplossingen):
Later zeiden onderzoekers: "Oké, we kunnen sommige mensen ongekoppeld laten." Maar ze deden dit met een globaal budget. Stel je een manager voor die zegt: "We kunnen 10% van de dansers aan de zijlijn laten staan." De manager geeft er niets om wie er buiten valt; ze willen gewoon dat het totale aantal 10% bedraagt. Als de 10% die buiten valt toevallig de beste dansers zijn, is de match verpest. Het systeem mist nuance.

De Nieuwe Manier (IC-POT - "Neem het of Laat het"):
Dit artikel introduceert Intentie-Gestuurde Partiële Optimaal Transport (IC-POT). In plaats van een globaal budget, krijgt elke enkele danser een persoonlijk "afwijzingsprijskaartje".

Denk eraan als een portier bij een club, maar dan een andere portier voor elke persoon:

• De "Neem het"-Regel: Als een danser betrouwbaar is, goed gekleed en past bij de sfeer, is hun "afwijzingsprijs" hoog. Het algoritme denkt: "Het kost te veel om deze persoon eruit te gooien, dus we moeten proberen hen een partner te vinden."
• De "Laat het"-Regel: Als een danser duidelijk op zijn plaats is (misschien is het een clown op een formeel bal, of zijn data is ruis), is hun "afwijzingsprijs" laag. Het algoritme denkt: "Het is goedkoop om deze persoon aan de zijlijn te laten staan, dus dat doen we."

Hoe het in het echt werkt (De voorbeelden uit het artikel)

De auteurs tonen aan dat dit werkt in drie specifieke scenario's:

1. Het "Raadspel" (Positief-Ongelabeld Leren)
Stel je voor dat je probeert alle katten in een foto te vinden, maar je hebt slechts een paar gelabelde katfoto's en een enorme stapel ongelabelde foto's (sommige katten, sommige honden).

• Het Probleem: Sommige katten zitten in de schaduw (moeilijk te zien), terwijl anderen helder en duidelijk zijn. Een standaard "partiële" methode zou de schaduwkatten misschien weggooien omdat het probeert efficiënt te zijn.
• De IC-POT Oplossing: Het systeem weet dat "schaduwrijke" gebieden gewoon moeilijk te zien zijn, niet per se "geen katten". Het plaatst een hoog prijskaartje op het afwijzen van schaduwkatten. Het houdt ze in de match. Het plaatst een laag prijskaartje op de voor de hand liggende honden. Het resultaat? Het vindt meer katten zonder zich te laten verwarren door honden.

2. De "Taalbarrière" (Open-Partiële Domeinadaptatie)
Stel je voor dat je een computer leert objecten te herkennen in foto's uit een nieuw land. Sommige objecten bestaan in beide landen (auto's, bomen), maar sommige bestaan alleen in het nieuwe land (unieke lokale dieren).

• Het Probleem: De computer probeert misschien een match te forceren tussen een lokaal dier en een auto, omdat het wanhopig is om iedereen te koppelen.
• De IC-POT Oplossing: Het systeem kijkt naar de "betrouwbaarheid" van de match. Als een lokaal dier zeer zeker is van zijn eigen identiteit maar geen match heeft in het oude land, geeft het systeem het een lage afwijzingsprijs. Het zegt: "Laat dit dier ongekoppeld; het hoort niet bij de oude lijst." Maar als een auto duidelijk een auto is, is de prijs om deze af te wijzen hoog, dus deze wordt gekoppeld.

3. Het "Zeezicht" (Geofysische Data)
Dit is het meest visuele voorbeeld. De auteurs vergeleken twee verschillende satellietcamera's die naar oceaan golven kijken.

• Het Probleem: De ene camera (SWIM) ziet golven duidelijk, maar krijgt "storing" (ruis) in bepaalde richtingen. De andere camera (SAR) ziet golven goed, maar wordt "vaag" in andere richtingen door de fysica.
• De IC-POT Oplossing: Het systeem gebruikt kennis van de fysica als prijskaartje.
  • Als een golf wazig is in Camera A maar helder in Camera B, zegt het systeem: "Dit is een echte golf, maar Camera A heeft gewoon een slechte dag. Afwijzen niet." (Hoge prijs om af te wijzen).
  • Als een golf helder is in Camera A maar eruitziet als "storing" in Camera B, zegt het systeem: "Camera B ziet gewoon ruis. Wijzig deze match." (Lage prijs om af te wijzen).
  • Resultaat: Ze krijgen een perfecte kaart van de golven door de specifieke "glitches" van elke camera te negeren, in plaats van te proberen een match te forceren tussen een echte golf en een storing.

De Grote Kernboodschap

Het artikel betoogt dat niet alle mismatches gelijk zijn gemaakt.

• Oude Methode: "Laten we 10% van de data willekeurig of op basis van een simpele regel weggooien."
• IC-POT: "Laten we naar elk stukje data individueel kijken. Als het betrouwbaar is, houden we het. Als het onbetrouwbaar of ruisend is, laten we het buiten. We beslissen dit op basis van specifieke aanwijzingen (zoals schaduwen, betrouwbaarheidsscores of sensorfysica) die beschikbaar zijn voor dat specifieke stukje data."

Het verandert de beslissing "wat we weg moeten gooien" van een bot instrument in een precisie, intelligent hulpmiddel.

Technische samenvatting

Technische Samenvatting: Intentie-gecontroleerde Partiële Optimaal Transport (IC-POT)

Probleemstelling

Klassiek Optimaal Transport (OT) legt een starre beperking op waarbij alle bronmassa moet worden getransporteerd en alle doelmassa moet worden verklaard. Deze "volledige-deelname"-aanname leidt vaak tot kunstmatige correspondenties of negatieve overdracht bij het vergelijken van verdelingen waarbij slechts een subset van de massa relevant of betrouwbaar is.

Hoewel Partiële Optimaal Transport (POT) dit verzacht door het mogelijk te maken dat massa ongekoppeld blijft, vertrouwen bestaande formuleringen doorgaans op globale controlemechanismen. Deze omvatten een scalair budget voor getransporteerde massa, een uniforme scalare korting, of globale marginale straffen. Deze mechanismen controleren hoeveel massa wordt afgewezen, maar niet welke specifieke punten beschermd of verwijderd moeten worden. Bijgevolg slagen ze er niet in toepassingen aan te pakken waarbij de beslissing om massa ongekoppeld te laten afhangt van zij-specifieke betrouwbaarheid, ondersteuningsgeometrie of externe informatie (bijvoorbeeld steekproefbias in Positive-Unlabeled learning, vertrouwen in Domain Adaptation, of sensor-specifieke artefacten in de geofysica).

Methodologie: IC-POT

De auteurs introduceren Intentie-gecontroleerde Partiële Optimaal Transport (IC-POT), een gerichte generalisatie van POT die het paradigma van globale afwijzing vervangt door puntsgewijze afwijzingskosten op zowel de bron- als de doelmaten.

Formulering

Gegeven discrete ondersteuningen $X = \{x_i\}$ en $Y = \{y_j\}$ met massa's $\mu$ en $\nu$, en een transportkostmatrix $C$, introduceert IC-POT slackvariabelen $u$ (ongekoppelde bronmassa) en $v$ (ongekoppelde doelmassa). Het optimalisatieprobleem is:

$$\min_{P, u, v} \langle C, P \rangle + \langle c_s, u \rangle + \langle c_t, v \rangle$$
onder voorwaarde van:
$$P\mathbf{1} + u = \mu, \quad P^\top\mathbf{1} + v = \nu, \quad P, u, v \geq 0$$

Hier zijn $c_s \in \mathbb{R}^n_+$ en $c_t \in \mathbb{R}^m_+$ puntsgewijze ongekoppelde kosten. In tegenstelling tot globale kortingen, prijzen deze kosten het lokale alternatief om specifieke massa ongekoppeld te laten, direct op de oorspronkelijke ondersteuningen.

Structurele Eigenschappen

Het artikel stelt verschillende belangrijke theoretische eigenschappen vast:

1. Gereduceerde Lagrangiaanse Vorm: Het probleem is equivalent aan het minimaliseren van $\sum_{i,j} (C_{ij} - c_s(i) - c_t(j))P_{ij}$ over sub-koppelingen, wat effectief de scalare korting van klassieke POT vervangt door een scheidbare, puntsgewijze korting.
2. Duale Interpretatie: De duale formulering onthult dat $c_s(i)$ en $c_t(j)$ fungeren als lokale acceptatiedrempels (plafonds) voor de duale variabelen. Een punt wordt afgewezen als zijn duale variabele dit plafond raakt.
3. Toelaatbaarheid en Sparsiteit: Een rand $(i, j)$ kan alleen actief zijn in een optimaal transportplan als $C_{ij} \leq c_s(i) + c_t(j)$. Dit biedt een exacte, vooraf te berekenen regel voor het snoeien van het transportnetwerk, wat sparsiteit garandeert op basis van de specifieke afwijzingskosten.
4. Equivalentie met Geëxpandeerde Ondersteuning: IC-POT kan worden herschreven als een standaard gebalanceerd Kantorovich OT-probleem op een geëxpandeerde ondersteuning (door een dummy-punt aan elke marginale toe te voegen), wat de goedgestelde aard binnen het discrete OT-kader bewijst.

Belangrijkste Bijdragen

Het artikel claimt drie primaire bijdragen:

1. Expliciete Modellering van Ongekoppeld Gedrag: Het maakt het beleid voor ongekoppelde massa een expliciet object in de formulering via slackvariabelen op de oorspronkelijke ondersteuningen, in plaats van een impliciet resultaat van globale beperkingen.
2. Theoretische Karakterisering: Het karakteriseert het probleem als een scheidbare puntsgewijze-korting generalisatie van Lagrangiaans partiële transport, waarbij duale plafonds, sparsiteitsregels voor toelaatbaarheid en een strikte scheiding van partiële OT met constante kosten worden vastgesteld (gedemonstreerd via tegenvoorbeelden waarbij puntsgewijze kosten symmetrieën doorbreken die door uniforme regels worden behouden).
3. Empirische Validatie: Het demonstreert dat het opnemen van puntsgewijze afwijzingsregels gedreven door zij-informatie de prestaties verbetert in taken waarbij afwijzing gestructureerd is, specifiek in Positive-Unlabeled (PU) learning, Open-Partiële Domain Adaptation (OPDA) en het vergelijken van geofysische signalen.

Experimentele Resultaten

1. Positive-Unlabeled (PU) Learning

In PU learning is het doel om gelabelde positives te matchen met een ongelabelde pool die zowel latente positives als negatives bevat.

• Opzet: De auteurs simuleren "Selected at Random" (SAR)-scenario's waarbij positieve steekproeven in bepaalde regio's (randen) onderwaarnemen zijn vanwege covariaat-afhankelijke selectiebias.
• Resultaat: Een baseline met partiële OT met constante kosten (uniforme afwijzing) faalt in het beschermen van deze onderwaargenomen randregio's en behandelt ze als negatives. IC-POT, met behulp van een profiel van kosten aan de bronzijde dat de selectiebias codeert (waardoor afwijzing duur wordt in regio's met weinig waarnemingen), presteert aanzienlijk beter dan de baseline.
• Maten: In heterogene regimes behaalde IC-POT een F1-score van 0,86 vergeleken met 0,52 voor de baseline met constante kosten.

2. Open-Partiële Domain Adaptation (OPDA)

In OPDA bevat het doelgebied onbekende klassen die afgewezen moeten worden.

• Opzet: Met een vaste CLIP-distillatie-ruggengraat hebben de auteurs uitsluitend de laatste afwijzingslaag aangepast. Ze vergeleken een uniforme partiële-W baseline met twee IC-POT varianten: één die posterior entropie gebruikt (bescherming van steekproeven met lage entropie) en één die prototype-ondersteuning gebruikt (bescherming van steekproeven met coherent lokaal buurtoestemmingsakkoord).
• Resultaat: Beide IC-POT varianten verbeterden de uniforme baseline over meerdere datasets (Office-31, Office-Home, VisDA, DomainNet). De variant met prototype-ondersteuning behaalde de hoogste winsten op lokaal coherente datasets (bijvoorbeeld 95,12 H-score op Office-31 versus 94,08 voor partiële-W).
• Vinding: De resultaten suggereren dat zodra de representatie vaststaat, prestatiewinsten afhankelijk zijn van het modelleren van afwijzing als een beleid dat afhankelijk is van structuur, in plaats van een uniforme scalare regel.

3. Geofysische Case Study: SWIM/SAR Oceaan Golf Spectra

Dit experiment adresseert het vergelijken van oceaan-golfspectra afgeleid van twee verschillende sensoren (SWIM en SAR) met onderscheidende artefacten.

• Context: SAR-spectra lijden aan "azimuth cutoff" (verplaatsing van energie), terwijl SWIM-spectra lijden aan "speckle" (onbetrouwbare directionele sectoren). Het doel is om alleen fysiek consistente golfsystemen te vergelijken.
• Methode: IC-POT gebruikt zij-specifieke kosten afgeleid van fysieke priors: het beschermen van SAR-massa verplaatst door cutoff (indien ondersteund door SWIM) terwijl het speckle-gedomineerde of niet-ondersteunde massa blootstelt aan afwijzing.
• Resultaat: IC-POT herstelde vergelijkbare golfenergie (0,993) vergelijkbaar met een hoge-prijs globale baseline, maar verminderde spurious transport met een factor 7 (0,031 versus 0,236).
• Betekenis: In tegenstelling tot een scalare regel die een afweging forceert tussen het herstellen van gemeenschappelijke systemen en het afwijzen van artefacten, staat IC-POT toe dat het afwijzingsbeleid wordt gedefinieerd door de fysieke aard van de data zelf.

Betekenis en Beperkingen

Het artikel betoogt dat IC-POT significant is omdat het het paradigma van partiële transport verschuift van "hoeveel af te wijzen" naar "wat af te wijzen". Door het beleid voor ongekoppelde massa een expliciete, puntsgewijze variabele te maken, stelt het domeinspecifieke kennis (steekproefbias, vertrouwen, fysieke priors) in staat om het transportplan direct te informeren.

Beperkingen erkend door de auteurs:

• Specificatie: De ongekoppelde functies ($c_s, c_t$) moeten worden gespecificeerd door de gebruiker op basis van beschikbare zij-informatie of diagnostiek. Het artikel stelt geen methode voor om deze functies automatisch te leren uit data, hoewel het dit suggereert als een toekomstige richting (bijvoorbeeld via bilevel optimalisatie).
• Schaalbaarheid: Hoewel de sparsiteitsoplosser exact is, kunnen grootschalige toepassingen verdere benaderingen vereisen.
• Regularisatie: De auteurs merken op dat standaard entropische regularisatie (Sinkhorn) niet direct van toepassing is op de formulering met geëxpandeerde ondersteuning zonder het doel te wijzigen (het introduceren van een bias op de totale getransporteerde massa) of schaaldiscrepanties te creëren tussen dummy- en echte punten. Bijgevolg is IC-POT geen directe vervanging voor standaard entropische OT-oplossers.

Concluderend biedt IC-POT een flexibel kader voor gestructureerde afwijzing in optimaal transport, en demonstreert het dat het coderen van zij-informatie in puntsgewijze afwijzingskosten superieure prestaties oplevert in taken waarbij de beslissing "ongekoppeld" inherent niet-uniform is.