🤖 machine learning

Doubly Robust Estimation of Causal Effect on CVR with Targeted Regularization

Dit artikel stelt een nieuwe dubbel robuuste schatter voor van het causale effect op conversieratio's (CVR) na een klik, die gebruikmaakt van semiparametrische theorie en gerichte regularisatie om problemen met steekproefselectiebias en variantie te overwinnen, waarbij superieure convergentiesnelheden en stabiliteit worden geboden vergeleken met bestaande methoden die loss-debiasing combineren met standaard causale schatters.

Oorspronkelijke auteurs: Jiayi Dan, Bo Li, Lu Deng, Yong Wang

Gepubliceerd 2026-08-14

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Jiayi Dan, Bo Li, Lu Deng, Yong Wang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die probeert uit te zoeken of een nieuwe marketingtruc mensen echt aanzet tot kopen. In de wereld van online winkelen en reclame is er een beroemde tweestapsdans: eerst moet een gebruiker op een advertentie klikken (de "klik"), en daarna moet hij daadwerkelijk een product kopen (de "conversie"). De snelheid waarmee mensen die klikken vervolgens overgaan tot kopen, wordt de Conversieratio of CVR genoemd. Het is alsof je meet hoeveel mensen die een winkel binnenlopen, ook daadwerkelijk met een tas naar buiten lopen.

Maar hier komt het lastige deel bij: als je alleen naar de mensen kijkt die geklikt hebben, krijg je misschien het verkeerde antwoord. Het is alsof je probeert te beoordelen hoe goed een restaurant is door alleen de mensen te vragen die door de deur zijn gelopen, terwijl je iedereen negeert die de menukaart zag, vond dat het te duur leek en weer wegliep. Die mensen die niet klikten, waren misschien juist degenen die het meest zouden hebben gekocht als ze een andere coupon of een betere deal hadden gekregen. Dit wordt "selectiebias" genoemd. Wetenschappers proberen dit al heel lang te oplossen met wiskunde die raadt wat er zou zijn gebeurd als iedereen had geklikt, maar de oude hulpmiddelen gaan vaak kapot als de data rommelig wordt of wanneer de computermodellen te flexibel zijn. Dit artikel stapt in dat detectiveverhaal om een beter, betrouwbaarder hulpmiddel te bouwen voor het oplossen van het mysterie of een strategie daadwerkelijk werkt.

De auteurs, Jiayi Dan, Bo Li en hun team, stellen een volledig nieuwe manier voor om deze effecten te berekenen, die ze een "doubly robust" estimator noemen. Denk aan een hightech veiligheidsgordel voor een klimmer. In hun methode moeten ze drie verschillende dingen over de data raden (zoals hoe waarschijnlijk het is dat iemand klikt, hoe waarschijnlijk het is dat iemand koopt, en hoe de advertentie werd getoond). Normaal gesproken, als je gok over zelfs maar één van die dingen fout is, valt je hele berekening uit elkaar. Maar deze nieuwe "veiligheidsgordel" is speciaal: hij is zo ontworpen dat zelfs als je gokken op twee van deze dingen een beetje afwijken, de uiteindelijke uitslag nog steeds accuraat is, zolang ten minste één van hen juist is. Het is als het hebben van een reserveparachut die werkt, zelfs als de eerste faalt.

Om deze wiskunde werkbaar te maken in de echte wereld, waar dingen wankel en onstabiel kunnen zijn, heeft het team een slimme truc toegevoegd genaamd "targeted regularization". Stel je voor dat je probeert een stapel borden in evenwicht te houden terwijl je op een eenwieler rijdt. De oude manier om deze wiskunde te doen, was als het proberen te balanceren van de stapel door middel van plotselinge, schokkerige aanpassingen die vaak alles omver wierpen. De nieuwe methode is als een zachte, automatische gyroscoop die kleine, vloeiende correcties maakt om de stapel stabiel te houden zonder hem uit balans te brengen. Ze hebben dit idee getest op zowel nagebootste data als op echte data uit een enorme dataset genaamd CRITICO-UPLIFTv2 (die ongeveer 13 miljoen monsters bevat). De resultaten lieten zien dat hun nieuwe methode veel beter was in het vinden van het ware effect dan de oude manieren, en dat het stabiel bleef wanneer de instellingen werden aangepast.

Het artikel pakt ook een veelvoorkomende verleiding aan: de oude "loss debiasing"-trucs die gebruikt worden voor het voorspellen van verkopen, simpelweg op deze nieuwe causale vragen plakken. De auteurs ontdektenen dat deze "mix-en-match"-aanpak niet goed werkt. Het is alsof je probeert een kapotte automotor te repareren door alleen de motorkap te verven; het ziet er misschien mooi uit, maar de motor zal nog steeds niet goed lopen. Ze bewezen dat je de wiskunde voor het voorspellende deel niet zomaar kunt repareren en dan verwachten dat het uiteindelijke antwoord correct is; je moet de hele motor vanaf nul opbouwen met de juiste onderdelen. Hun nieuwe framework, dat de veiligheidsgordel combineert met de vloeiende gyroscoop, versloeg consequent andere populaire methoden in hun experimenten, wat aantoont dat het een veel betrouwbaardere manier is om te bepalen of een marketingstrategie echt helpt of de gebruikerservaring juist schaadt.

Technische Samenvatting: Doubly Robust Schatting van Causale Effect op CVR met Targeted Regularization

1. Probleemformulering

Het artikel behandelt de uitdaging van het schatten van het causale effect van een behandeling $A$ (bijv. de toewijzing van coupons) op de Post-click Conversieratio (CVR). CVR wordt gedefinieerd als de voorwaardelijke kans $P(Y_2=1 | Y_1=1)$ , waarbij $Y_1$ een klik aangeeft en $Y_2$ een conversie. De doelstelling (estimand) is de gemiddelde potentiële CVR onder een specifieke behandelingsstrategie:
$\psi_a = E[P(Y_2(a)=1 | Y_1(a)=1, X)]$
waarbij $X$ de covariaten vertegenwoordigt.

Belangrijke uitdagingen:

Steekproefselectiebias (Sample Selection Bias): Standaard causale inferentiemethoden toegepast op enkel geklikte monsters ( $Y_1=1$ ) introduceren bias omdat het klik-event niet willekeurig is en afhankelijk is van de behandeling.
Beperkingen van bestaande CVR-voorspelling: Eerdere werken op het gebied van CVR-voorspelling maken gebruik van "ideale loss" om selectiebias te corrigeren door een onbevooroordeelde loss te optimaliseren over de volledige steekproef. Het artikel stelt echter dat een onbevooroordeelde loss theoretisch geen onbevooroordeelde uiteindelijke estimator voor het causale effect garandeert.
Beperkingen van standaard causale estimators: Het direct toepassen van plug-in estimators (het schatten van nuisance-parameters en het nemen van hun ratio) lijdt aan trage convergentiesnelheden en gevoeligheid voor model-misspecificatie, met name bij het gebruik van flexibele niet-parametrische estimators zoals neurale netwerken.

2. Methodologie

De auteurs benaderen het probleem vanuit een semiparametrisch theoretisch perspectief en leiden een nieuwe estimator af die is afgestemd op de ketenstructuur van CVR-uitkomsten.

A. Constructie van de Doubly Robust (DR) Estimator
Het artikel leidt de invloedsfunctie (influence function) en de von Mises-expansie af voor de doelstelling. Op basis hiervan construeren zij een nieuwe Doubly Robust estimator:
$\hat{\psi}_{a}^{dr} = \hat{\psi}_{plug-in} + \mathbb{P}_n(\phi_a(\hat{P}))$
waarbij $\phi_a(P)$ de invloedsfunctie is die de volgende nuisance-parameters bevat:

$\mu_1(x, a) = E(Y_1 | X, A=a)$ (Klikkans)
$\mu_2(x, a) = E(Y_2 | X, A=a)$ (Conversiekans)
$\pi(a|x)$ (Propensity score)

De estimator bevat een correctieterm die de eerste-orde bias van de plug-in estimator elimineert. Theoretisch bereikt deze estimator $\sqrt{n}$ -consistentie en asymptotische normaliteit, zelfs als de nuisance-parameters met tragere snelheden worden geschat (bijv. $o_P(n^{-1/4})$ ), mits het product van hun fouten voldoende snel convergeert. Deze eigenschap blijft behouden, zelfs als één van de nuisance-estimators inconsistent is (Double Robustness).

B. Targeted Regularization Framework
Om de numerieke instabiliteit van de directe one-step correctie aan te pakken (die schattingen buiten de parameterruimte kan produceren of instabiel kan zijn door lage click-through rates), stellen de auteurs een Targeted Regularization framework voor.

In plaats van een harde correctiestap introduceren zij een leerbare perturbatieparameter $\epsilon(a)$ (benaderd via splines voor continue behandelingen).
Een regularisatieterm $R$ wordt toegevoegd aan de loss-functie om het empirische gemiddelde van de invloedsfunctie naar nul te dwingen:
$R = \frac{1}{n} \sum_{i=1}^n \left( \frac{y_{2i} - \hat{\mu}_{2i}}{\hat{\mu}_{1i}} - \frac{(y_{1i} - \hat{\mu}_{1i})\hat{\mu}_{2i}}{\hat{\mu}_{1i}^2} - \frac{\hat{\epsilon}(a_i)}{\hat{\pi}_i} \right)^2$
Multi-Task Learning: Het framework schat gelijktijdig de causale effecten van zowel CTR als CVR. Om de logische beperking af te dwingen dat een conversie een klik impliceert ( $Y_2 \le Y_1$ ), voorspelt het model $\hat{\mu}_2 = \hat{\mu}_1 \times \tilde{\mu}_2$ .
Gradient Blocking: Gradiënten van de targeted regularization-termen worden geblokkeerd van voortplanting naar de propensity score estimator $\hat{\pi}$ om een nauwkeurige propensity schatting te waarborgen.

3. Belangrijkste Bijdragen

Theoretische Formulering: Het artikel herbezoekt de CVR causale schatting vanuit een semiparametrisch perspectief, leidt de invloedsfunctie af en stelt een nieuwe Doubly Robust estimator op die specifiek is ontworpen voor keten-gestructureerde uitkomsten. Het bewijst dat deze estimator $\sqrt{n}$ -consistentie bereikt onder milde aannames.
Praktisch Framework: Het stelt een Targeted Regularization framework voor dat het concept van Double Robustness uitbreidt naar een stabiele, end-to-end trainingsprocedure zonder dat sample splitting (cross-fitting) vereist is, wat het geschikt maakt voor complexe modellen zoals neurale netwerken.
Empirische Validatie: Uitgebreide experimenten op synthetische, semi-synthetische en real-world data laten zien dat de voorgestelde methode de standaard baselines (DragonNet, VCNet, Causal Forest) en bestaande CVR-specifieke methoden overtreft.
Theoretische Noodzaak van Nieuwe Estimators: Het artikel toont aan dat het combineren van "loss debiasing" (uit de CVR-voorspellingsliteratuur) met standaard causale estimators inferieure resultaten oplevert, wat de noodzaak onderstreept van het direct afleiden van estimators die gericht zijn op de uiteindelijke doelstelling.

4. Experimentele Resultaten

Datasets: Experimenten werden uitgevoerd op synthetische data en semi-synthetische data (gebaseerd op de News dataset). Daarnaast werden experimenten uitgevoerd op een grootschalige real-world dataset (CRITEO-UPLIFTv2), waarbij de auteurs expliciet opmerken dat dit alleen als aanvullende referentie dient vanwege beperkingen in de publiekelijk beschikbare data (bijv. binaire behandeling versus continue behandeling, gebrek aan grondwaarheid voor de doelstelling).
Metrieken: Average Mean Squared Error (AMSE) werd gebruikt voor synthetische/semi-synthetische data; AUUC en QINI werden gebruikt voor de real-world dataset.
Prestaties:
- De voorgestelde methode presteerde aanzienlijk beter dan alle baselines, inclus\n bij de standaard DR Estimator en de "Ours (w/o. t-reg)" ablatie-studie, op de primaire synthetische en semi-synthetische datasets.
- De ablatie-studie bevestigde dat Targeted Regularization cruciaal is; het verwijderen ervan veroorzaakte een significante daling in prestaties, waardoor de methode degradeerde tot een minder stabiele plug-in estimator.
- De methode toonde robuustheid over verschillende hyperparameter-instellingen voor de regularisatiegewichten.
- Vergelijking met een alternatieve aanpak die loss debiasing combineerde met standaard causale estimators toonde aan dat de voorgestelde methode superieur was, wat bevestigt dat een onbevooroordeelde loss geen onbevooroordeelde causale schatting garandeert.
- Resultaten op de CRITEO-UPLIFTv2 dataset valideerden verder de praktische bruikbaarheid van de methode, hoewel de auteurs waarschuwen dat de prestaties mogelijk worden onderschat door dataset-beperkingen.

5. Betekenis en Claims

Het artikel claimt een algemeen framework te bieden voor het schatten van causale effecten op keten-gestructureerde uitkomsten zoals CVR. De betekenis ligt in het overbruggen van de kloof tussen theoretische semiparametrische efficiëntie en praktische deep learning toepassingen.

Het stelt dat bestaande methoden die vertrouwen op "ideale loss" voor CVR-voorspelling onvoldoende zijn voor causale effectschatting, omdat ze de onbevooroordeeldheid van de uiteindelijke estimator niet garanderen.
Het demonstreert dat een op maat gemaakte Doubly Robust estimator, gestabiliseerd door targeted regularization, zowel theoretische garanties (consistentie, asymptotische normaliteit) als praktische stabiliteit (robuustheid tegen model-misspecificatie en lage click-through rates) biedt.
Het werk wordt gepositioneerd als een oplossing voor besluitvorming in de bedrijfswereld binnen e-commerce en advertenties, waar het begrijpen van de fase-gewijze efficiëntie (specifiek de post-click conversie) van strategieën cruciaal is.