Outcome-adapted Automatic Debiased Machine Learning

Technische Samenvatting: Uitkomst-geadapteerde Automatische Debiased Machine Learning

1. Probleemstelling

In causale inferentie en econometrie worden parameters van belang, zoals treatment effecten (ATE) of beleidseffecten, vaak uitgedrukt als lineaire functionalen van een uitkomst-regressiefunctie, $\gamma(x) = E[Y|X=x]$. Hoewel "plug-in" schatters die gebruikmaken van machine learning (ML) voor $\gamma$ intuïtief zijn, lijden ze vaak aan aanzienlijke bias en slagen ze er niet in om $\sqrt{n}$-consistentie te bereiken.

Om dit aan te pakken, werd Automatic Debiased Machine Learning (AutoDML) (Chernozhukov et al., 2022b, 2024) geïntroduceerd. Dit framework construeert asymptotisch normale schatters door simultaan de uitkomst-regressie $\gamma$ en een Riesz-representer $\alpha$ (een nuisance-functie afgeleid van de structuur van het functional) te schatten. Bestaande AutoDML-architecturen, zoals RieszNet en MADNet, maken gebruik van een gedeelde intermediaire covariaat-representatie $Z$ om zowel $\gamma$ als $\alpha$ te schatten.

Het centrale probleem dat in dit artikel wordt behandeld, is de optimaliteit van de gedeelde representatie. Het blijft onduidelijk of de gedeelde representatie $Z$ voorspellend moet zijn voor de Riesz-representer $\alpha$ (zoals traditioneel aangenomen in RieszNet) of voor de uitkomst $Y$. De auteurs onderzoeken of een representatie die de voorspellende kracht voor de uitkomst prioriteert en informatie over de Riesz-representer weglaat, superieure schattings-efficiëntie oplevert.

2. Methodologie en Theoretisch Kader

Theoretische resultaten over efficiëntie:
De auteurs stellen twee primaire theoretische resultaten vast met betrekking tot covariaat-representaties $Z = h(X)$:

• Theorem 6 (Uitkomst-geadapteerde Efficiëntie): Als een representatie $Z$ de voorspellende kracht van de uitkomst behoudt (d.w.z. $\gamma_{h,P}(Z) = \gamma_P(X)$ en $Var_P[Y|Z] = Var_P[Y|X]$), dan heeft de resulterende AutoDML-schatter een asymptotische variantie $V_{h,P}$ die kleiner dan of gelijk aan de variantie $V_P$ van de schatter die de volledige covariaten $X$ gebruikt. Specifiek is de variantiereductie evenredig aan $E_P[Var_P[\alpha_P(X)|Z] Var_P[Y|Z]]$. Om de efficiëntie te maximaliseren, moet $Z$ maximaal voorspellend zijn voor $Y$, maar minimaal voorspellend voor $\alpha_P(X)$.
• Theorem 8 (Riesz-geadapteerde Inefficiëntie): Omgekeerd, voor een brede klasse van functionalen (inclusief ATE en gemiddelde beleidseffecten), als een representatie de Riesz-representer behoudt (d.w.z. $\alpha_{h,P}(Z) = \alpha_P(X)$), dan is de asymptotische variantie $V_{h,P}$ over het algemeen groter dan of gelijk aan $V_P$. Dit suggereert dat het leren van een representatie specifiek voor de Riesz-representer kan leiden tot efficiëntieverliezen.

De Uitkomst-geadapteerde AutoDML Schatter:
Gesterkt door Theorem 6, stellen de auteurs de uitkomst-geadapteerde AutoDML-schatter voor. De procedure omvat:

1. Sample Splitting: Het verdelen van de data in sets voor representatie-leren en definitieve schatting.
2. Representatie-leren: Het schatten van een representatie $Z = \hat{h}(X)$ uitsluitend via een uitkomst-regressiestap op de eerste data-split.
3. Nuisance Schatting: Het gebruik van de geleerde representatie $Z$ om zowel de uitkomst-regressie $\hat{\gamma}$ als de Riesz-representer $\hat{\alpha}$ (via Riesz-regressie) te schatten op dezelfde split.
4. Definitieve Schatting: Het berekenen van de parameter-schatting op de uitgesloten data-split met behulp van de dubbel-robuuste schattingsfunctie.

Implementatie met Neurale Netwerken:
De auteurs implementeren dit met een neurale netwerkarchitectuur die lijkt op RieszNet, maar met een onderscheidend trainingsprotocol:

• Architectuur: Een gedeelde "trunk" (verborgen lagen) brengt covariaten $X$ in kaart naar een representatie $Z$, gevolgd door aparte takken voor de uitkomst ($\gamma$) en de Riesz-representer ($\alpha$).
• Trainingsstrategie:
  1. Stap 1: Optimaliseer de gedeelde trunk en de uitkomst-tak door de Mean Squared Error (MSE) loss te minimaliseren.
  2. Stap 2: Bevries de parameters van de gedeelde trunk en optimaliseer alleen de parameters van de Riesz-tak door de Riesz-loss te minimaliseren.
• Informatie-bottleneck: Om te garanderen dat $Z$ minimaal voorspellend is voor $\alpha$, introduceren de auteurs technieken voor dimensionaliteitsreductie:
  • Eenvoudige Dimensionaliteitsreductie: Het afdwingen van een kleine vaste dimensie voor $Z$.
  • Adaptieve Dimensionaliteitsreductie: Het toepassen van een group LASSO-penalty op de gewichten van de $Z$-laag om spaarzaamheid te stimuleren en effectief neuronen op nul te zetten, waardoor de dimensionaliteit van $Z$ wordt verminderd.

3. Belangrijkste Bijdragen

1. Theoretische Karakterisering: Het artikel bewijst dat voor AutoDML de optimale gedeelde representatie uitkomst-geadapteerd is (voorspellend voor $Y$, niet voor $\alpha$), in tegenstelling tot de intuïtie achter bestaande methoden zoals RieszNet die streven naar Riesz-geadapteerde representaties.
2. Nieuwe Schatter: Introductie van de uitkomst-geadapteerde AutoDML-schatter, die representaties leert via uitkomst-regressie eerst, gevolgd door Riesz-regressie op de gefixeerde representatie.
3. Implementatie met Neurale Netwerken: Een specifieke tweestaps trainingsprocedure voor neurale netwerken die de uitkomst-geadapteerde eigenschap afdwingt en informatie-bottlenecks (via dimensionaliteitsreductie) gebruikt om efficiëntiewinsten te maximaliseren.
4. Herwaardering van RieszNet: De auteurs bieden een theoretische verklaring voor het empirische succes van RieszNet, waarbij zij hypothetiseren dat de prestaties voortkomen uit de specifieke keuze van loss-gewichten (met name een kleine gewicht op de Riesz-loss en de inclusie van de TMLE-loss), wat onbedoeld een uitkomst-geadapteerde representatie creëert.

4. Experimentele Resultaten

De auteurs valideren hun methode op synthetische en semi-synthetische datasets:

• Synthetische Data (Proof of Concept): In een setting waar de ware optimale representatie bekend is, bereikte de uitkomst-geadapteerde schatter met adaptieve dimensionaliteitsreductie de theoretisch minimale variantie, waarbij deze zich gedroeg alsof hij over oracle-kennis van de optimale representatie beschikte. In contrast hiermee vertoonden schatters die aparte netwerken of Riesz-geadapteerde representaties gebruikten een hogere variantie.
• IHDP Benchmark: Op de semi-synthetische Infant Health and Development Program (IHDP) dataset bereikte het uitkomst-geadapteerde neurale netwerk met adaptieve dimensionaliteitsreductie de state-of-the-art prestaties (laagste Mean Absolute Error) vergeleken met RieszNet, MADNet en aparte neurale netwerken.
• Average Shift Effect: De uitkomst-geadapteerde schatter met adaptieve dimensionaliteitsreductie vertoonde consistent de laagste variantie en Mean Squared Error (MSE) over verschillende steekproefgroottes.
• Mean Missing Outcome (Adversarial Setting): In een uitdagende setting met extreme propensity scores (Kang & Schafer, 2007) bereikte de uitkomst-geadapteerde schatter met adaptieve dimensionaliteitsreductie de laagste MSE, primair gedreven door verminderde squared bias. Hoewel Gaussische betrouwbaarheidsintervallen een lage dekking hadden in deze moeilijke setting, verbeterde bootstrap-betrouwbaarheidsintervallen (specifiek de percentile bootstrap) de dekking aanzienlijk, waarbij nominale niveaus werden bereikt voor grote steekproeven.

5. Betekenis en Claims

Het artikel beweert dat uitkomst-adaptatie de sleuteleigenschap is voor het bereiken van de efficiëntie van de schatter binnen het AutoDML-framework. De auteurs argumenteren dat:

• Het leren van een representatie die voorspellend is voor de uitkomst maar informatie over de Riesz-representer weglaat, leidt tot asymptotisch meer efficiënte schatters.
• De voorgestelde uitkomst-geadapteerde AutoDML-schatter een generalisatie is van de debiased uitkomst-geadapteerde propensity estimator (DOPE) naar het bredere AutoDML-framework.
• De voorgestelde methode de state-of-the-art nauwkeurigheid bereikt op standaard benchmarks zonder dat complexe afstemming van trade-off parameters tussen meerdere doelstellingen nodig is (in tegen tegenstelling tot RieszNet, dat de balans moet vinden tussen MSE, Riesz- en TMLE-losses).
• De resultaten suggereren dat het succes van bestaande methoden zoals RieszNet te danken is aan hun impliciete leerproces van uitkomst-geadapteerde representaties in plaats van Riesz-geadapteerde representaties.

De auteurs concluderen dat hoewel hun methode efficiëntiewinsten biedt, de representatiefout gecontroleerd moet worden (bijv. via variabele selectie of voldoende steekproefomvang) om geldige inferentie te garanderen, en zij bevelen het gebruik van bootstrapping aan voor betrouwbaarheidsintervallen in uitdagende settings waar de representatiefout mogelijk niet asymptotisch verwaarloosbaar is.