A primer on optimal transport for causal inference with observational data

Het Grote Detective Spel: Het Ontdekken van Verborgen Oorzaken

Stel je voor dat je een detective bent die een mysterie probeert op te lossen, maar met een twist: je kunt de plaats delict alleen bekijken nadat het misdrijf heeft plaatsgevonden, en je hebt nooit de acties van de verdachte in realtime kunnen zien. Dit is de dagelijkse strijd van wetenschappers die proberen causaliteit te begrijpen—uitzoeken of één ding (zoals het nemen van een nieuw medicijn of het bouwen van een fabriek) daadwerkelijk een ander ding (zoals beter worden of het veranderen van de lokale economie) veroorzaakt. Het probleem is dat we nooit twee versies van de werkelijkheid tegelijkertijd kunnen zien. We kunnen niet een persoon zien die een medicijn nam en exact dezelfde persoon die het niet nam, naast elkaar, om te zien wie er ziek werd. We krijgen slechts één pad te zien.

Om dit op te lossen, hebben statistici een gereedschapskist ontwikkeld om verschillende groepen mensen te vergelijken, in de hoop een "controlegroep" te vinden die fungeert als een perfecte tweeling voor de mensen die de behandeling hebben ontvangen. Maar deze groepen zijn vaak geen perfecte tweelingen; ze hebben verborgen verschillen (zoals motivatie of genetica) die de vergelijking verstoren. Decennialang hebben onderzoekers slimme wiskundige trucjes gebruikt om dit te herstellen, maar ze realiseerden zich vaak niet dat ze allemaal hetzelfde geheime wapen gebruikten. Dat wapen wordt Optimal Transport genoemd. Denk aan het als de ultieme logistieke puzzel: stel je voor dat je een hoop zand hebt op één plek en een hoop zand op een andere plek, en je wilt de eerste hoop verplaatsen om de vorm van de tweede hoop perfect te laten matchen met de minste hoeveelheid energie. Dit artikel onthult dat de wiskunde die wordt gebruikt om zand te verplaatsen, eigenlijk de verborgen fundering is voor veel van de belangrijkste methoden die we gebruiken om oorzaak en gevolg in de echte wereld te begrijpen.

De Grote Onthulling van het Papier: De Verborgen Kaart

In dit artikel fungeert Florian Gunsilius als een gids, die ons laat zien dat de complexe wereld van causale inferentie (uitzoeken wat wat veroorzaakt) en optimal transport (de wiskunde van het efficiënt verplaatsen van waarschijnlijkheidsverdelingen) eigenlijk oude vrienden zijn die al jaren in verschillende talen tegen elkaar spreken. De auteur betoogt dat veel van de standaardinstrumenten die economen en statistici decennialang hebben gebruikt om observationele data te analyseren—data waarbij we geen gecontroleerde experimenten kunnen uitvoeren—stiekem gebouwd zijn op de principes van optimal transport, zelfs als de onderzoekers dat niet wisten.

Het papier wijst niet alleen op deze connectie; het suggereert dat het beseffen van deze link ons kan helpen om betere, krachtigere instrumenten te bouwen. Hier is wat de auteur vindt en uitlegt:

1. De "Monotone Rearrangement" is het Geheime Ingrediënt
Het papier begint met het uitleggen van een concept genaamd de monotone rearrangement. Stel je voor dat je een kaartspel hebt dat mensen vertegenwoordigt met verschillende niveaus van "verborgen bekwaamheid" (een onwaarneembaar kenmerk), en je wilt zien hoe die bekwaamheid vertaalt naar "inkomen". Als je ervan uitgaat dat een hogere bekwaamheid altijd leidt tot een hoger inkomen (een regel genaamd monotoniciteit), kun je simpelweg de persoon met de laagste bekwaamheid koppelen aan de persoon met het laagste inkomen, de tweede laagste aan de tweede laagste, enzovoort. Dit creëert een perfecte kaart tussen het verborgen kenmerk en de uitkomst.
De auteur laat zien dat dit eenvoudige "op een rij zetten" eigenlijk een specifiek type optimal transport-probleem is. Dit inzicht is krachtig omdat het onderzoekers in staat stelt om niet alleen het gemiddelde effect van een behandeling te identificeren, maar het volledige verhaal van hoe verschillende mensen worden beïnvloed. Zo werd in een beroemd debat over het minimumloon door sommige studies gezegd dat het verhogen van lonen banen schaadde, terwijl andere zeiden dat het hielp. Door dit "optimal transport"-perspectief te gebruiken, vonden onderzoekers dat de waarheid in het midden lag: het verhogen van de lonen hielp kleine restaurants, maar schaadde grote bedrijven. Het gemiddelde verborg het echte verhaal, maar de transportkaart onthulde het.

2. Het "Slechte Tweeling"-probleem oplossen met Instrumenten
Soms kun je geen perfecte controlegroep vinden omdat de mensen die voor de behandeling kiezen verschillen van degenen die dat niet doen (dit wordt endogeniteit genoemd). Om dit te herstellen, gebruiken onderzoekers instrumentele variabelen—een derde factor die invloed heeft op wie de behandeling krijgt, maar niet direct invloed heeft op de uitkomst.
Het papier legt uit dat de wiskunde die deze instrumenten laat werken ook gebaseerd is op optimal transport. Specifiek introduceert het een methode genaamd fixed-point iteratie. Stel je voor dat je een ontmoetingsplek probeert te vinden tussen twee groepen. Je begint bij een punt, beweegt naar de andere groep toe, beweegt dan weer terug, en blijft deze "pingpong"-beweging herhalen totdat je op een plek terechtkomt waar de groepen op één lijn liggen. Het papier laat zien dat deze wiskundige "pingpong"-beweging eigenlijk een dynamisch systeem is van het verplaatsen van waarschijnlijkheidsverdelingen (zoals een Brenier-map). Dit helpt onderzoekers om causale effecten te identificeren, zelfs wanneer de data rommelig is, hoewel de auteur opmerkt dat dit zeer ingewikkeld wordt wanneer men te maken krijgt met meerdere variabelen tegelijk.

3. Synthetische Tweelingen Bouwen met "Zandhopen"
Een andere populaire methode is Synthetic Controls, waarbij onderzoekers een nep "controle-eenheid" bouwen door verschillende echte eenheden te mengen (zoals het creëren van een nep staat door delen van Californië, Texas en New York te mengen) om te zien wat er zou zijn gebeurd als een behandeling niet had plaatsgevgevonden.
Het papier verbindt dit met Wasserstein barycenters, wat een chique manier is om te zeggen: "het gemiddelde van een hoop zand". In plaats van alleen getallen te middelen, middelt deze methode volledige verdelingen (vormen). De auteur suggereert dat we door deze transport-gebaseerde aanpak te gebruiken, "distributional synthetic controls" kunnen creëren die de volledige vorm van de data matchen, en niet alleen het gemiddelde. Dit is nuttig wanneer de mensen in de groepen in de loop van de tijd veranderen (zoals restaurants die openen en sluiten), waar standaardmethoden moeite mee hebben.

4. Wanneer Tweelingen Niet Matchen: Unbalanced Transport
Ten slotte pakt het papier een veelvoorkomend probleem aan: wat als de behandelingsgroep en de controlegroep zo verschillend zijn dat je geen match kunt vinden voor iedereen? Standaard "optimal transport" vereist dat elke korrel zand in de ene hoop naar de andere wordt verplaatst, wat onderzoekers dwingt om mensen te matchen die eigenlijk niet op elkaar lijken, wat leidt tot slechte gissingen.
De auteur stelt het gebruik van unbalanced optimal transport voor. Denk aan dit als een logistiek systeem dat het mogelijk maakt om wat zand achter te laten of een beetje extra toe te voegen als de hopen niet perfect overeenkomen. Deze methode verwerpt automatisch de mensen die geen goede match hebben, in plaats van een slechte match te forceren. Het papier suggereert dat dit kan leiden tot nauwkeurigere resultaten in real-world studies waar perfecte matches zeldzaam zijn, hoewel de auteur opmerkt dat er meer onderzoek nodig is om precies te bewijzen hoeveel beter het is vergeleken met oude methoden.

Wat het Papier Zegt dat We Voor Zichtig Moeten Zijn

De auteur is voorzichtig in het benadrukken dat hoewel deze connecties opwindend zijn, ze geen toverstokjes zijn.

• Het is geen opgelost probleem: Het papier suggereert dat deze methoden veelbelovend zijn en nieuwe manieren bieden om over oude problemen na te denken, maar het beweert niet dat optimal transport elk causaal inferentie-probleem oplost. Sterker nog, het benadrukt dat sommige uitbreidingen (zoals het overgaan van één dimensie naar vele dimensies) wiskundig lastig zijn en niet altijd eenvoudig verlopen.
• Aannames blijven van belang: De "monotone rearrangement" (het idee dat hogere bekwaamheid altijd tot hogere inkomens leidt) is een sterke aanname. Het papier merkt op dat als deze aanname onjuist is, de kaart breekt. Het suggereert dat we door deze problemen te bekijken als transportproblemen, verschillende "kostenfuncties" (verschillende regels voor hoe we het zand verplaatsen) kunnen testen om te zien of onze conclusies robuust zijn.
• Beperkingen in de data: Het papier vermeldt dat sommige van de meest geavanceerde methoden (zoals de "fixed-point" iteraties voor instrumentele variabelen) vertrouwen op specifieke wiskundige voorwaarden, zoals het hebben van een continu bereik aan data. Als de data te schaars of "hobbelig" is, werken deze chique methoden misschien niet zo goed.

De Kernboodschap

Uiteindelijk is dit papier een verenigende kaart. Het vertelt ons dat de instrumenten die statistici hebben gebruikt om het "fundamentele probleem van causale inferentie" op te lossen (we kunnen niet in twee werelden tegelijk kijken), stiekem de hele tijd de fysica van het verplaatsen van waarschijnlijkheidsverdelingen hebben gebruikt. Door deze connectie expliciet te maken, hoopt de auteur de taal tussen verschillende velden — economie, statistiek en machine learning — te verenigen en de deur te openen naar nieuwe, flexibelere manieren om de wereld te begrijpen. Het is een herinnering dat de meest krachtige inzichten soms voortkomen uit het besef dat twee verschillende puzzels eigenlijk onderdelen zijn van hetzelfde plaatje.