Technische Samenvatting: Causale Inferentie met Categorieel Onwaargenomen Verwarrenden via Mixture Learning

Probleemstelling

Het schatten van causale effecten uit observationele data wordt fundamenteel belemmerd door onwaargenomen verwarrenden—latente variabelen die zowel de toewijzing van de behandeling als de uitkomsten beïnvloeden. Standaardmethoden zoals regressie of propensity score matching falen wanneer deze verwarrenden niet zijn gemeten, wat leidt tot vertekende schattingen (bijvoorbeeld Simpson's paradox).

Bestaande literatuur probeert dit aan te pakken via twee hoofdroutes, die beide beperkingen hebben:

1. Proximale Causale Inferentie: Gebruikt proxyvariabelen (negatieve controles) om causale effecten te identificeren. Echter, huidige kaders (bijvoorbeeld Miao et al., 2018; Tchetgen Tchetgen et al., 2020) vereisen dat proxies strikt worden ingedeeld in asymmetrische rollen: behandeling-inducerende proxies, uitkomst-inducerende proxies en gemeenschappelijke oorzaken. In de praktijk is het vaak moeilijk om variabelen te vinden die aan deze specifieke, asymmetrische voorwaarden voldoen.
2. Meerdere Behandelingen (De "Deconfounder"): Benut meerdere conditioneel onafhankelijke behandelingen om latente structuur af te leiden (Wang en Blei, 2019). Hoewel conceptueel veelbelovend, worden de identificeerbaarheidsvoorwaarden voor deze aanpak betwist (Ogburn et al., 2019), en vertrouwen bestaande schattingsmethoden vaak op heuristische algoritmen (bijvoorbeeld Expectation-Maximization) die geen garanties voor globale convergentie of consistentie in eindige steekproeven bieden.

Dit artikel vult het gat door aan te tonen dat causale effecten identificeerbaar zijn in zowel multi-proxy als multi-behandeling scenario's wanneer de onwaargenomen verwarrende variabele categorisch is (een eindig aantal waarden aanneemt). De auteurs stellen een kader voor gebaseerd op mixture learning en tensor decompositie om de latente verwarrende structuur te herstellen zonder asymmetrische proxy-classificatie of heuristische schatting te vereisen.

Methodologie

Het kerninzicht is dat wanneer de latente verwarrende variabele $U$ categorisch is en er ten minste drie conditioneel onafhankelijke views (proxies of behandelingen) zijn, het identificatieprobleem reduceert tot het herstellen van een eindige mixture-verdeling. De auteurs maken gebruik van de momentenmethode via tensor decompositie om dit te bereiken.

1. Multi-Proxy Setting

Het kader veronderstelt een latente verwarrende variabele $U \in \{1, \dots, K\}$ en $p \ge 3$ proxyvariabelen $Z_1, Z_2, Z_3$ die conditioneel onafhankelijk zijn gegeven $U$. In tegenstelling tot eerdere werken hoeven deze proxies niet te worden ingedeeld in specifieke causale rollen; ze worden symmetrisch behandeld.

• Identificatie: Onder aannames van conditionele onafhankelijkheid en lineaire onafhankelijkheid van de conditionele maten, zijn de parameters van de mixture-verdeling (mixing weights $\pi_u$ en componentdichtheden $P_{v,u}$) strikt identificeerbaar tot permutatie (Allman et al., 2009).
• Schatprocedure:
  1. Zelftoezicht Tensor Learning: Pas robuuste tensor decompositie toe (Anandkumar et al., 2014) op de gezamenlijke verdeling van de proxies om de mixing weights $\hat{\pi}$ en componentdichtheden $\hat{f}_{v,u}$ te schatten.
  2. Posterior Herstel: Bereken de posterior-kans van de latente toestand voor elke eenheid: $\hat{w}_u(Z) = P(U=u|Z)$.
  3. Behandelingsschatting: Regresseer de behandeling $A$ op kenmerken gewogen door de herstelde posteriors om clusterspecifieke behandelingsparameters te schatten.
  4. Uitkomstmodel Schatting: Update de posteriors om rekening te houden met de behandelingstoewijzing ($P(U=u|A, Z)$) en regresseer de uitkomst $Y$ op kenmerken gewogen door deze bijgewerkte posteriors om clusterspecifieke uitkomstparameters te schatten.
  5. Berekening Causaal Effect: Bereken het Average Treatment Effect (ATE) en Conditional Average Treatment Effect (CATE) door te integreren over de herstelde latente structuur.

2. Multi-Behandeling Setting

Het kader wordt uitgebreid naar scenario's zonder proxies maar met meerdere (ten minste drie) conditioneel onafhankelijke behandelingen $A_1, A_2, A_3$.

• Identificatie: Net als in de proxy-setting maakt de gezamenlijke verdeling van behandelingen de unieke identificatie van de latente mixture-parameters mogelijk.
• Schatting: Een tensor decompositie wordt direct toegepast op de behandelingsvariabelen om de latente prior en emissiekansen te herstellen. Deze worden vervolgens gebruikt om gewogen kenmerken te construeren voor een uiteindelijke regressie op de uitkomst om causale parameters te schatten.

3. Theoretische Garanties

Het artikel biedt niet-asymptotische foutgrenzen voor de volledige schattingspijplijn.

• Consistentie in Eindige Steekproeven: De auteurs leiden foutgrenzen af voor de tensor decompositiestap (het schatten van posteriors) en propageren deze fouten door de daaropvolgende regressiestadia.
• Convergentie: Het voorgestelde algoritme bereikt consistentie in eindige steekproeven voor de causale parameter (ATE), met een foutgrens van $O(\log(\delta) \cdot n^{-\frac{b}{2b+7d}})$, waarbij $b$ een gladheidsparameter is en $d$ de dimensie van de proxies.
• Globale Convergentie: In tegenstelling tot EM-algoritmen, zorgt de gebruikte tensor power-methode voor globale convergentie onder milde niet-degeneratievoorwaarden.

Belangrijkste Bijdragen

1. Gevrijde Proxy-aannames: Het artikel introduceert een multi-proxy causaal kader dat geen strikte classificatie van proxies in negatieve controle-exposures of uitkomsten vereist. Het vereist slechts een verzameling van drie of meer conditioneel onafhankelijke proxies.
2. Identificeerbaarheid en Schatting: De auteurs stellen de identificeerbaarheid vast van modelparameters en causale schattingsgrootheden (ATE, CATE) voor zowel multi-proxy als multi-behandeling scenario's onder de aanname van een categorische latente verwarrende variabele.
3. Algoritmische Stabiliteit: Zij stellen een efficiënte schattingsprocedure voor gebaseerd op tensor decompositie die garanties voor globale convergentie biedt, waardoor problemen met lokale optima die gebruikelijk zijn bij variational inference of EM, worden vermeden.
4. Theorie voor Eindige Steekproeven: Het artikel biedt rigoureuze foutgrenzen voor de niet-parametrische schatting van latente posterior-verdelingen en de daaropvolgende causale parameters, wat resulteert in een consistentiegarantie voor de ATE.
5. Niet-Parametrische Generalisatie: De identificeerbaarheidsresultaten worden uitgebreid naar een bredere niet-parametrische setting (Stelling 5.2), hoewel de specifieke algoritmische implementatie voor de volledig niet-parametrische case wordt aangemerkt als toekomstig werk.

Experimentele Resultaten

De auteurs valideren hun methode door middel van simulaties en analyse van real-world data:

• Simulaties: In zowel multi-proxy als multi-behandeling scenario's toont de voorgestelde schatter convergentie naar de ware causale coëfficiënten naarmate de steekproefgrootte toeneemt, en presteert goed zelfs met beperkte data.
• Real Data (BWGHT Dataset): De methode werd toegepast om het effect van roken tijdens de zwangerschap op het geboortegewicht van baby's te schatten. De onwaargenomen verwarrende variabele werd geïdentificeerd als latente sociaaleconomische status van het gezin.
  • Met behulp van drie proxies (gezinsinkomen, opleiding van de vader, opleiding van de moeder), herstelde de tensor decompositie een trivalente latente structuur ($K=3$).
  • De resulterende clusters kwamen overeen met epidemiologisch consensus (hoog-risico achtergestelde, discordante middenlaag en sterk bevoorrechte beschermende klassen).
  • Het geschatte causale effect van roken was negatief over alle latente strata, wat eerdere bevindingen over door roken veroorzaakte foetale groeirestrictie bevestigt.

Betekenis en Claims

Het artikel claimt een "concrete brug te slaan tussen mixture learning en causale inferentie". Door het probleem van onwaargenomen categorische verwarrenden te herformuleren als een probleem van identificatie van latente mixtures, vermijden de auteurs de slecht gestelde inverse problemen die typerend zijn voor integralvergelijkingsbenaderingen die worden gebruikt in proximale causale inferentie.

De betekenis van dit werk ligt in:

• Praktijkgerichtheid: Het verwijdert de moeilijke eis om asymmetrische negatieve controles te vinden, waardoor proximale causale inferentie toepasbaarder wordt voor domeinen waar dergelijke variabelen moeilijk te identificeren zijn.
• Theoretische Strenge: Het biedt de eerste consistente schattingsmethode voor de multi-behandeling setting met garanties voor globale convergentie en foutgrenzen voor eindige steekproeven, waarmee de theoretische gaten in de "Deconfounder"-literatuur worden aangevuld.
• Methodologische Innovatie: Het toont aan dat tensor decompositie effectief kan worden ingezet om latente verwarrende verdelingen te "ontmengen", waardoor consistente causale herstel mogelijk wordt in settings die eerder als onhandelbaar werden beschouwd zonder sterke parametrische aannames of ongeteste identificatievoorwaarden.

De auteurs blijven bescheiden wat betreft toekomstige richtingen, en merken op dat hoewel hun huidige resultaten proxy-verdelingen niet-parametrisch behandelen, het schattingsalgoritme parametrische vormen aanneemt voor de behandelings- en uitkomstmodellen. Het generaliseren van het kader naar een volledig niet-parametrische setting voor schatting wordt geïdentificeerd als een natuurlijke uitbreiding voor toekomstig onderzoek.