Double Machine Learning of Continuous Treatment Effects with General Instrumental Variables

Deze paper introduceert een nieuw raamwerk voor het schatten van causale effecten van continue behandelingen met behulp van instrumentvariabelen en machine learning, waardoor vertekening door niet-geobserveerde verstorende factoren wordt opgelost.

De kern

Stel je voor dat je een chef-kok bent die probeert uit te vinden hoe de hoeveelheid zout in een soep de smaak beïnvloedt. Dit is een continue behandeling: je kunt een snufje, een theelepel of een hele lepel zout toevoegen. Je wilt weten: "Hoeveel zout is precies nodig voor de perfecte smaak?"

In de echte wereld is dit echter lastig. Misschien is de soep al wat zouter omdat de kok een andere smaak heeft (dit noemen we verstorende factoren of confounders). Als je gewoon kijkt naar de soep die er het lekkerst uitziet, kun je denken dat het aan het zout ligt, terwijl het eigenlijk aan de kwaliteit van de groenten lag die je niet hebt gemeten.

Dit artikel, geschreven door onderzoekers van de Universiteit van Zhejiang, lost dit probleem op met een slimme truc: Instrumentele Variabelen.

Hier is de uitleg in simpele taal, met een paar creatieve metaforen:

1. Het Probleem: De "Onzichtbare Gast"

Stel je voor dat je een feestje geeft. Je wilt weten of meer muziek (de behandeling) zorgt voor meer dansen (het resultaat). Maar er is een onzichtbare gast, de "feeststemming" (de ongemeten verstorende factor), die zowel de muziekkeuze als het dansen beïnvloedt. Als je gewoon kijkt, zie je een verband tussen muziek en dansen, maar is dat echt door de muziek, of door die onzichtbare gast?

Klassieke methoden zeggen: "Meet alles wat je kunt zien en je bent klaar." Maar in de echte wereld kun je niet alles meten.

2. De Oplossing: De "Toevallige Wervelwind" (Instrument)

De auteurs gebruiken een Instrumentele Variabele (IV). Denk hierbij aan een toevallige wervelwind die plotseling de luidsprekers aanzet, maar die niet te maken heeft met de feeststemming van de gasten.

• De wind zorgt voor meer muziek.
• De wind heeft niets te maken met of mensen al dan niet willen dansen (behalve via de muziek).

Door te kijken naar de momenten dat de wind de muziek verhoogt, kun je puur het effect van de muziek op het dansen meten, zonder dat de "feeststemming" je in de weg zit.

3. Het Nieuwe Probleem: De "Oneindige Schaal"

Bij een gewone schakelaar (aan/uit) is dit makkelijk. Maar bij zout (een continue hoeveelheid) is het lastiger. De "wervelwind" werkt misschien goed bij een beetje zout, maar niet bij heel veel zout.

• Metafoor: Stel je hebt een toverstaf die werkt op een afstand van 1 meter, maar niet op 10 meter. Als je de hele wereld wilt bestrijken met één toverstaf, mislukt het.

4. De Slimme Truc: De "Kleurstoffen" en de "Kaart"

De auteurs bedenken een nieuwe manier om dit op te lossen. Ze zeggen: "Laten we de wereld niet in één keer bestrijken, maar in stukjes."

• Uniforme Regelmatige Weegfuncties (URWF): Stel je voor dat je een kaart hebt van het hele zoutgebied. Je kunt niet één grote deken over de hele kaart leggen omdat de grond te ongelijk is. In plaats daarvan leg je een reeks kleine, speciale dekenstukjes (open verzamelingen) over de kaart.
• Op elk klein stukje van de kaart werkt een specifieke "toverstaf" (een weegfunctie) perfect.
• Door deze stukjes samen te voegen, kun je de hele kaart bestrijken. Dit noemen ze een eindige open overdekking.

5. De Machine Learning: De "Slimme Assistent"

Om al deze stukjes en toverstaven te berekenen, gebruiken ze Debiased Machine Learning (Dubbel Machine Learning).

• Metafoor: Stel je hebt een super-slimme assistent die twee taken heeft. Hij moet eerst alle "verstorende factoren" (zoals de onzichtbare gast) voorspellen en die uit de weg ruimen. Pas daarna kijkt hij naar het effect van het zout.
• Ze gebruiken een techniek genaamd Cross-fitting. Dit is alsof je de assistent twee keer laat werken: eerst op groep A om de regels te leren, en dan op groep B om de resultaten te testen (en andersom). Zo voorkom je dat de assistent "kijkt in de antwoorden" en vals speelt.

6. De Praktijk: Hoe werkt het?

In het artikel laten ze zien hoe je dit in de praktijk doet:

1. Zoek de stukjes: Kijk waar je toverstaf werkt en waar niet.
2. Maak een kaart: Verdeel het probleem in kleine gebieden waar je een specifieke oplossing voor hebt.
3. Test het: Gebruik statistische tests om te zien of je toverstaf op dat specifieke stukje wel werkt.
4. Bereken het resultaat: Gebruik de slimme assistent om het effect van de behandeling (zout) op het resultaat (smaak) te berekenen, zonder dat de onzichtbare gast je bedriegt.

7. Het Resultaat: Een Echte Proef

Ze testten hun methode op echte data: het effect van opleiding (jaren school) op verdienste (geld).

• Als je gewoon kijkt, zie je dat meer school = meer geld. Maar misschien zijn slimme mensen gewoon van nature beter in school én verdienen ze meer, ongeacht de school.
• Met hun methode (gebruikmakend van het aantal scholen per vierkante kilometer als "wervelwind"), vonden ze dat de relatie complexer is. Tot een bepaald punt helpt meer school veel, maar daarna neemt het voordeel af. De "gewone" methoden zagen dit subtiele punt niet.

Samenvatting

De auteurs hebben een nieuwe, slimme manier bedacht om te kijken naar het effect van dingen die je in verschillende hoeveelheden kunt doen (zoals medicijnen, geld of tijd), zelfs als er onzichtbare factoren zijn die je niet kunt meten. Ze doen dit door het probleem op te splitsen in kleine, hanteerbare stukjes en slimme computers (machine learning) in te zetten om de "ruis" uit de data te filteren.

Het is alsof je een complexe puzzel oplost door hem eerst in kleine stukjes te knippen, elk stukje apart te bekijken met een speciale lens, en ze daarna weer tot een perfect plaatje samen te voegen.

Technische samenvatting

Probleemstelling

Het schatten van causale effecten van continue behandelingen (bijvoorbeeld de dosis-responsrelatie tussen medicijndosering en gezondheid, of jaren onderwijs en inkomen) is een veelvoorkomend probleem in de praktijk. Klassieke methoden, zoals die gebaseerd op de propensity score, gaan er vaak van uit dat alle verstorende variabelen (confounders) volledig worden waargenomen. In real-world toepassingen is dit echter zelden het geval; onwaargenomen verstorende variabelen (unmeasured confounding) leiden vaak tot vertekende schattingen.

Hoewel instrumentvariabelen (IV) een bekende oplossing bieden voor onwaargenomen verstorende variabelen bij discrete behandelingen, is er weinig werk gedaan om IV-methoden niet-parametrisch toe te passen op continue behandelingen. Bestaande IV-methoden voor continue behandelingen zijn vaak beperkt tot specifieke aannames of lokale gemiddelde behandelingseffecten (LATE) voor compliers, in plaats van de volledige gemiddelde dosis-responsfunctie (ADRF).

Methodologie

De auteurs stellen een nieuw raamwerk voor om de ADRF, $\theta(a) = E[Y(a)]$, te identificeren en te schatten onder onwaargenomen verstorende variabelen, gebruikmakend van een general instrumentele variabele (IV).

1. Theoretische Identificatie

• Additieve Instrumentvariabele (AIV): De auteurs definiëren een nieuwe voorwaarde, de Additive IV, waarbij de dichtheid van de behandeling $A$ gegeven de IV $Z$, onwaargenomen confounders $U$ en geobserveerde covariaten $L$, kan worden geschreven als een som van een functie van $U$ en een functie van $Z$:
  $$p_{A|Z,U,L}(a | Z, U, L) = b_a(U, L) + c_a(Z, L)$$
  Deze voorwaarde garandeert dat er geen interactie is tussen de IV en de onwaargenomen confounders in het behandelingmodel.
• Regular Weighting Functions (RWF): Een cruciaal concept is de Regular Weighting Function $\pi(Z, L)$. Dit is een functie die zorgt voor voldoende variatie in de IV om de behandeling te voorspellen. De auteurs tonen aan dat een globale RWF voor het hele behandelspectrum niet altijd bestaat.
• Finite Open Covering: Omdat een enkele RWF niet overal werkt, gebruiken de auteurs het concept van een eindige open overdekking. Het behandelspectrum wordt opgedeeld in een eindig aantal open intervallen. Op elk interval kan een specifieke Uniform Regular Weighting Function (URWF) worden geconstrueerd die lokaal geldig is. Dit maakt lokale identificatie mogelijk.

2. Schattingsprocedure (Double Machine Learning)

Om de ADRF te schatten, combineren de auteurs semiparametrische theorie met Debiased Machine Learning (DML):

• AIPW Score: Ze leiden een Augmented Inverse Probability Weighted (AIPW) score-functie af. Deze score heeft de "mixed-bias" eigenschap: de schatter is robuust tegen fouten in de schatting van de "nuisance parameters" (zoals conditonedale verwachtingen), zolang de fouten in deze parameters snel genoeg convergeren.
• Cross-fitting: Om overfitting te voorkomen en de asymptotische normaliteit te garanderen, wordt een cross-fitting procedure gebruikt. De data wordt in $K$ folds verdeeld; nuisance-functies worden getraind op de ene deelset en de score wordt berekend op de andere.
• Lokale Lineaire Kernel Regressie (LLKR): De uiteindelijke schatting van de ADRF wordt verkregen door de berekende AIPW-scores te regresseren op de behandeling $A$ met behulp van lokale lineaire kernelregressie. Dit zorgt voor een gladde, niet-parametrische schatting van de curve.
• Validatie: Er wordt een hypothese-toetsingsprocedure ontwikkeld om te controleren of een gekozen weighting function voldoet aan de RWF-voorwaarde op specifieke punten.

Belangrijkste Bijdragen

1. Nieuw Identificatiekader: Het is het eerste werk dat een algemeen IV-raamwerk biedt voor het niet-parametrisch identificeren van de volledige ADRF bij continue behandelingen, zelfs bij onwaargenomen verstorende variabelen.
2. Concept van Finite Covering: De auteurs introduceren de noodzaak en het gebruik van een eindige overdekking van het behandelspectrum met lokale URWF's, een theoretische doorbraak die het probleem van de niet-bestaande globale URWF oplost.
3. AIPW Score voor Continue IV: Ze leiden een specifieke AIPW score-functie af die werkt in combinatie met een AIV, wat de schatting dubbel robuust maakt (robust tegen fouten in zowel de uitkomstregressie als de behandelingstochtsverdeling).
4. Asymptotische Theorie: Ze bewijzen de convergentiesnelheid en asymptotische normaliteit van de schatter, wat valide betrouwbaarheidsintervallen mogelijk maakt. De schatter bereikt de "oracle" minimax ondergrens.
5. Praktische Gids: Ze bieden een concrete procedure voor het selecteren van weighting functions en het testen van de geldigheid ervan in de praktijk.

Resultaten

• Simulaties: In simulatiestudies presteert de voorgestelde methode (AIPW met IV) aanzienlijk beter dan methoden die geen rekening houden met onwaargenomen verstorende variabelen (NUC-methoden), die grote vertekening vertonen. De IV-methode reduceert de bias effectief, hoewel de variantie iets hoger is dan bij de NUC-methode (wat te verwachten is bij het corrigeren voor endogeniteit).
• Empirische Toepassing: De methode wordt toegepast op de Job Training Partnership Act (JTPA) dataset om het effect van jaren onderwijs op jaarinkomen te schatten.
  • De resultaten tonen een positief effect van onderwijs op inkomen.
  • In tegenstelling tot de NUC-methode, suggereert de IV-methode dat het inkomen licht daalt bij zeer hoge opleidingsniveaus (boven 12 jaar), wat wijst op een mogelijk afnemend rendement.
  • De methode is robuust tegen verschillende specificaties van de confounders.

Betekenis en Impact

Dit artikel vult een belangrijke lacune in de causale inferentie-literatuur. Het biedt onderzoekers een wiskundig onderbouwde en praktisch toepasbare tool om causale effecten van continue interventies te schatten in situaties waar randomisatie onmogelijk is en er onwaargenomen verstorende variabelen zijn. Door de combinatie van instrumentvariabelen, machine learning (DML) en niet-parametrische regressie, stelt het onderzoekers in staat om complexe dosis-responsrelaties nauwkeurig te modelleren zonder de strenge aannames van lineaire modellen of volledige observatie van confounders. Dit heeft directe implicaties voor beleidsevaluaties in gezondheidszorg, economie en sociale wetenschappen.