📊 statistics

Generated outcomes as generated regressors: Equivalences in recursive causal estimation

Dit artikel으로 toont aan dat recursieve plug-in-, balancing weight- en doubly robust-schatters voor tijdvariërende behandelingseffecten numeriek equivalent zijn wanneer ze via gewone kleinste kwadraten worden gefit, en het karakteriseert het gedrag van deze schatters onder ridge-penalisatie, waarbij wordt aangetoond dat de bias-correctie naar OLS geometrisch afneemt met het aantal tijdstappen.

Oorspronkelijke auteurs: Wisse Rutgers, Rahul Singh

Gepubliceerd 2026-06-30

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Wisse Rutgers, Rahul Singh

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Plaatje: Het "Pass-de-Pakket"-probleem

Stel je voor dat je probeert de werkelijke oorzaak te achterhalen van iets complex, zoals hoe een specifiek medicijn de gezondheid over twee jaar beïnvloedt, of hoe een trainingsprogramma een carrièrepad van een persoon verandert.

In de statistiek kunnen we vaak niet simpelweg naar het eindresultaat kijken en zeggen: "Dit veroorzaakte dat." We moeten een keten van voorspellingen opbouwen.

Eerst voorspellen we wat er in Jaar 1 gebeurt.
Daarna gebruiken we die voorspelling om te voorspellen wat er in Jaar 2 gebeurt.
Ten slotte gebruiken we die tweede voorspelling om het totale effect te schatten.

Dit wordt recursieve schatting genoemd. Het is als een spelletje "Pass-de-Pakket" of een estafette. De stok (de voorspelling) wordt doorgegeven van de ene loper (statistisch model) aan de volgende. Als de eerste loper de stok laat vallen, rent de tweede loper met het verkeerde object, en zal het eindresultaat fout zijn.

De Drie Concurrenten

Statistici hebben drie belangrijke manieren om deze estafette aan te pakken. De auteurs van dit artikel vergelijken ze:

De Voorspeller (Plug-in Estimator): Deze methode richt zich op het voorspellen van de uitkomst bij elke stap. Het zegt: "Laat me raden wat er in Jaar 1 gebeurt, en gebruik die gok dan om Jaar 2 te voorspellen."
De Balancer (Balancing Weight Estimator): Deze methode richt zich op de mensen (de data). Het zegt: "Laat me het gewicht van elke persoon in mijn studie aanpassen zodat de groep gebalanceerd en eerlijk oogt, en bereken dan het gemiddelde."
De Hybride (Doubly Robust Estimator): Deze methode probeert beide te doen. Het gebruikt zowel de voorspellingen als de balancerende gewichten. Het idee is dat als één deel een beetje fout is, het andere deel de dag kan redden. Dit wordt meestal beschouwd als de "veiligste" of meest robuuste methode.

De Verrassing: Ze Zijn Eigenlijk Dezelfde (Grotendeels)

In eenvoudige, eenmalige studies (cross-sectioneel), wisten statistici al dat als je basiswiskunde gebruikt (Ordinary Least Squares, of OLS), de Voorspeller, de Balancer en de Hybride precies hetzelfde antwoord geven.

De grote vraag die dit artikel stelt, is: Gebeurt dit ook nog steeds wanneer we een meerstaps estafette hebben (longitudinale data)?

Het Antwoord: Ja.
Als je bij elke stap van de estafette basis, niet-gepenaliseerde wiskunde (OLS) gebruikt, zijn alle drie de methoden numeriek identiek. Het maakt er niet toe of je modellen perfect of imperfect zijn; de wiskunde werkt zo uit dat de "Hybride" methode niets extra's toevoegt — het komt simpelweg op dezelfde bestemming aan als de andere twee.

De Twist: Wat Gebeurt Er Wanneer We "Veiligheidsnetten" Toevoegen?

In de echte wereld zijn data rommelig. Om te voorkomen dat de modellen te extreem worden (overfitting), voegen statistici "regularisatie" of "straffen" toe. Denk hierbij aan het toevoegen van zijwieltjes of een veiligheidsnet om de voorspellingen stabiel te houden.

Het artikel kijkt naar wat er gebeurt als we deze veiligheidsnetten toevoegen (specifiek iets dat Ridge Regressie wordt genoemd).

1. De "Shrinkage"-mythe

In eenvoudige, eenstapsstudies bestaat een algemeen geloof: Het toevoegen van het Hybride veiligheidsnet is als "undersmoothing" of het terugtrekken van het antwoord naar het basis OLS-antwoord. Het is alsof men zegt: "De Hybride methode is gewoon een slimmere versie van de basismethode."

De Bevinding van het Papier: Deze intuïtie breekt af in meerstapsstudies.
Naarmate je meer stappen aan de estafette toevoegt (meer tijdperioden), begint de Hybride methode minder te lijken op de basis OLS-methode. De "trek" naar het basisantwoord wordt zwakker en zwakker. Sterker nog, het neemt geometrisch af. Als je een lang tijdsverloop hebt (veel jaren), gedraagt de Hybride methode zich heel anders dan de basis Voorspeller-methode.

2. Het "Anker"-effect

Wanneer je veiligheidsnetten gebruikt (Ridge-straffen), kan de Hybride methode worden gezien als een mix van twee dingen:

De "rommelige" voorspelde waarden.
De "schone" basis OLS-waarden.

Het papier laat zien dat het gewicht dat aan de "schone" OLS-waarden wordt gegeven, snel krimpt naarmate je meer tijdstappen toevoegt. Als je 1 jaar hebt, is de Hybride methode zwaar verankerd aan de basis OLS. Als je 10 jaar hebt, houdt dat anker nauwelijks nog stand.

Creatieve Analogie: De Echo Chamber

Stel je voor dat je een boodschap schreeuwt door een lange gang met spiegels aan de muren (de recursieve stappen).

De Voorspeller is jou die de boodschap direct schreeuwt.
De Balancer is het aanpassen van het volume van je stem zodat de echo duidelijk klinkt.
De Hybride is jou die zowel schreeuwt als het volume aanpast.

Bevinding 1 (Geen Veiligheidsnetten): Als de gang perfect stil is en de spiegels perfect zijn, geven direct schreeuwen en het volume aanpassen aan het einde exact hetzelfde echo-effect. Ze zijn gelijkwaardig.

** Bevinding 2 (Met Veiligheidsnetten):** Stel je nu voor dat de gang vol hangt met geluiddempend schuim (regularisatie/straffen) op de muren om te voorkomen dat de echo te veel vervormt.

In een korte gang (1 stap) is de Hybride methode erg vergelijkbaar met gewoon schreeuwen.
In een zeer lange gang (veel stappen) absorbeert het schuim zoveel van de "basis" schreeuw dat de Hybride methode uiteindelijk heel anders klinkt. De "veiligheid" van de Hybride methode zorgt er niet alleen voor dat de schreeuw wordt "opgeruimd"; het verandert de aard van de echo volledig naarmate de gang langer wordt.

Waarom Is Dit Belangrijk?

Eenvoud: Als je een meerstapsanalyse uitvoert en basiswiskunde (OLS) gebruikt, hoef je je geen zorgen te maken over de keuze tussen de Voorspeller, de Balancer of de Hybride methode. Ze zijn hetzelfde. Je kunt de methode kiezen die het makkelijkst te berekenen is.
Voorzichtigheid bij Complexiteit: Als je geavanceerde machine learning-technieken gebruikt (die straffen/regularisatie gebruiken) voor langetermijnstudies, kun je er niet vanuit gaan dat de "Doubly Robust" methode slechts een iets betere versie is van de basismethode. Het gedraagt zich anders, en de "veiligheid" die het biedt, werkt op een complexere manier dan statistici voorheen dachten.

Samenvatting in één zin

In meerstaps causale studies zijn de drie belangrijkste schattingsmethoden wiskundig identiek als je basisstatistiek gebruikt, maar als je geavanceerde "veiligheidsnet"-statistiek gebruikt, gedraagt de meest robuuste methode zich steeds minder als een eenvoudige correctie en wordt deze steeds onderscheidender naarmate het aantal tijdstappen groter wordt.

Technische Samenvatting: "Generated Outcomes as Generated Regressors: Equivalences in Recursive Causal Estimation"

Auteurs: Wisse Rutgers en Rahul Singh
Datum: Juni 2026

1. Probleemstelling

Empirisch onderzoek naar tijdsvariërende behandelingseffecten, door surrogaten geïdentificeerde behandelingseffecten en mediatieanalyse leunt vaak op recursieve regressies. In deze settings wordt de doelparameter (bijv. een contrafactueel gemiddelde) geïdentificeerd door een achterwaartse recursie van conditionele verwachtingen, waarbij de voorspelde waarde van één stadium dient als de "gegenereerde uitkomst" voor het volgende stadium. Omgekeerd kunnen deze parameters worden geïdentificeerd via een voorwaartse recursie van inverse waarschijnlijkheidsweging (balancerende gewichten), waarbij de gewichten van één stadium dienen als "gegenereerde regressoren" voor het volgende.

Hoewel de numerieke equivalentie tussen regressie-, balancerende gewichts- en dubbel robuuste schatters goed gevestigd is in de cross-sectionele causale inferentie (settings met één periode), blijft het onduidelijk of deze equivalentie zich uitstrekt tot longitudinale (recursieve) settings. Bovendien suggereert recente cross-sectionele literatuur dat debiasing via balancerende gewichten algebraïsch equivalent is aan "undersmoothing" (het naar Ordinary Least Squares (OLS) krimpen van een geregulariseerde schatter). Het artikel onderzoekt of deze "shrinkage"-intuïtie standhoudt wanneer het aantal tijdstippen ( $T$ ) toeneemt.

2. Methodologie en Raamwerk

De auteurs formaliseren een klasse van recursieve functionalen gedefinieerd door $T \ge 1$ stadia. Het raamwerk omvat standaard causale modellen:

Tijdsvariërende behandelingseffecten: $g$ -computation met dynamische behandelingen.
Surrogatie: Two-sample settings waarbij een surrogaat-index de link vormt tussen behandeling en langetermijnuitkomsten.
Mediatieanalyse: Cross-world contrafactuelen die mediatoren involveren.

De studie opereert binnen een lineair schattingsraamwerk waarbij nuisance-functies (uitkomstregressies $f_t$ en Riesz-representers $\alpha_t$ ) lineair zijn in een woordenboek van basisfuncties. De auteurs vergelijken drie schatters:

Recursieve Plug-in ( $\hat{\theta}_P$ ): Achterwaartse recursie van geregulariseerde uitkomstregressies.
Recursieve Balancing Weight ( $\hat{\theta}_Q$ ): Voorwaartse recursie van geregulariseerde Riesz-regressies (balancerende gewichten).
Recursieve Doubly Robust ( $\hat{\theta}_{DR}$ ): Een combinatie van de plug-in en de balancing weight schatters met orthogonale momenten.

De analyse behandelt drie regularisatieregimes:

Geen Regularisatie (OLS): Ongepenaliseerde kleinste kwadraten.
Ridge Regularisatie: Kwadratische straffen op coëfficiënten.
Algemene Convexe Regularisatie: Willekeurige convexe straffen (bijv. Lasso, elastic net).

3. Belangrijkste Bijdragen en Resultaten

A. Equivalentie van Schatters onder OLS
Het artikel stelt een primaire positieve resultaat vast: Schatting door het recursief regresseren van gegenereerde uitkomsten is numeriek equivalent aan schatting door het recursief balanceren van gegenereerde regressoren.

Theorem 1: Wanneer alle stadia worden gefit met OLS (geen regularisatie), komen de recursieve plug-in, de recursieve balancing weight en de recursieve doubly robust schatters exact overeen in elke eindige steekproef, ongeacht of de lineaire modellen correct gespecificeerd zijn.
Mechanisme: In het OLS-geval vervalt elke debiasing-correctieterm in de doubly robust schatter individueel. Bovendien is elk tussentijds cross-stage inwendig product gelijk aan de doelparameter. Dit impliceert dat het toevoegen van lineaire balancerende gewichten aan een OLS-uitkomstmodel (of vice versa) de schatter niet verandert.

B. Ridge Regularisatie en Geometrische Afname van de OLS-gewicht
Het artikel geeft een genuanceerd, gedeeltelijk negatief antwoord met betrekking tot de generalisatie van de "shrinkage"-intuïtie.

Equivalentie van Ridge-vormen: Als dezelfde ridge-straf wordt toegepast op zowel de uitkomst- als de Riesz-regressies in elk stadium, is de balancing weight schatter gelijk aan de plug-in schatter (Lemma 2).
Decompositie van de Doubly Robust Schatter: Wanneer de Riesz-representers ridge-geregulariseerd zijn maar de uitkomstregressies algemeen (of ook ridge) zijn, kan de doubly robust schatter worden geschreven als een enkele recursieve plug-in schatter met geaugmenteerde coëfficiënten.
Geometrische Afname (Theorem 2 & Corollary 1): De geaugmenteerde coëfficiënten zijn een recursieve blend van de gepenaliseerde schattingen en de OLS-schattingen. Cruciaal is dat het gewicht toegekend aan de pure OLS plug-in schatter geometrisch afneemt met het aantal tijdstippen $T$ $T$ .
- In een scalaire diagonale casus is het OLS-anker gewicht $\prod_{t=1}^T a_t$ , waarbij $a_t \in (0,1)$ de shrinkage-factor in stadium $t$ is.
- Implicatie: Naarmate $T$ toeneemt, neemt de invloed van de OLS-anker snel af. Daarom wordt de cross-sectionele intuïtie dat "debiasing de schatter naar OLS beweegt" steeds zwakker in longitudinale settings. Het aantal tijdstippen is centraal belangrijk voor het begrijpen van regularisatie-effecten.

C. Algemene Convexe Regularisatie
Voor algemene convexe straffen (waarvoor geen gesloten vorm bestaat), leiden de auteurs algebraïsche identiteiten af:

Telescoping Identiteit (Lemma 3 & Theorem 3): De balancing weight schatter en de doubly robust schatter kunnen worden gedecomposeerd in de OLS-schatter plus een som van correctietermen.
Elke correctieterm is het inwendig product van de Riesz-residue (de onbalans in dat stadium) en het verschil tussen de gepenaliseerde uitkomstcoëfficiënten en de OLS-coëfficiënten.
Dit bevestigt dat hoewel de schatters algebraïsch gerelateerd blijven, de "shrinkage naar OLS" geen eenvoudige, uniforme aantrekkingskracht is, maar een complexe accumulatie van stadium-gewijze correcties die afhangt van de specifieke straf en de recursieve structuur.

4. Betekenis en Claims

De auteurs claimen twee hoofdconclusies:

Uitbreiding van Equivalentie: De fundamentele algebraïsche equivalentie tussen regressie-gebaseerde en balancing-weight-gebaseerde schatting, eerder gedocumenteerd voor cross-sectionele inferentie, strekt zich uit tot longitudinale causale inferentie met betrekking tot recursieve functionalen.
Beperking van de Shrinkage-intuïtie: De interpretatie van debiasing als "undersmoothing" (het naar OLS krimpen) generaliseert niet rechtstreeks. In recursieve settings verzwakt de aantrekkingskracht naar OLS geometrisch naarmate het aantal tijdstippen groeit. Bij gevolg, in multi-period causale inferentie, zijn debiasing en undersmoothing niet "twee kanten van dezelfde munt" zoals in single-period settings.

Het artikel concludeert dat de algebraïsche structuur van recursieve causale schatting robuust is, maar dat de statistische intuïtie afgeleid van cross-sectionele settings met betrekking tot regularisatie en bias-correctie een significante modificatie vereist wanneer deze wordt toegepast op dynamische, meerstaps problemen.