📈 economics

Anytime-Valid Inference in Adaptive Experiments: Covariate Adjustment and Balanced Power

Deze paper introduceert MADCovar en MADMod, twee methoden die de Mixture Adaptive Design-framework uitbreiden om in adaptieve experimenten zowel de precisie van schattingen voor het gemiddelde behandelingseffect te verhogen door covariaatcorrectie als de statistische power voor suboptimale behandelingsarmen te balanceren, terwijl geldige 'anytime-valid' inferentie wordt behouden.

Oorspronkelijke auteurs: Daniel Molitor, Samantha Gold

Gepubliceerd 2026-02-16

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Daniel Molitor, Samantha Gold

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een kok bent die probeert het beste recept voor een nieuwe soep te vinden. Je hebt vijf verschillende ingrediënten (behandelingen) om te testen.

In de oude manier (traditioneel experiment) zou je beslissen: "Ik maak 100 kommen soep, 20 met elk ingrediënt, en dan proef ik ze allemaal." Dit is eerlijk, maar inefficiënt. Als je merkt dat ingrediënt A al na 10 kommen super lekker is, moet je toch doorgaan met het maken van 10 kommen met ingrediënt B, zelfs als je al weet dat B minder lekker is.

In de nieuwe, slimme manier (adaptieve experimenten) doe je het anders: "Ik maak een kommetje met A, proef het, en als het lekker is, maak ik de volgende 10 kommen ook met A. Als B saai smaakt, maak ik er maar één mee." Je leert veel sneller wat het beste is en je waste minder tijd en ingrediënten.

Maar hier zit een addertje onder het gras:

Het statistische probleem: Omdat je de keuze van het volgende ingrediënt baseert op wat je al hebt geproefd, zijn je conclusies "verkeerd" volgens de oude statistische regels. Het is alsof je een weddenschap sluit terwijl je al weet wie er gaat winnen; de kansberekening klopt niet meer.
Het eerlijkheidsprobleem: Omdat je zo snel mogelijk naar het beste ingrediënt (A) springt, krijg je nooit genoeg data over de slechtere ingrediënten (B, C, D). Je weet dus niet zeker of B misschien toch net iets beter is dan C, of dat D helemaal niet zo slecht is. Je hebt geen zekerheid over de verliezers.

Deze paper introduceert twee slimme trucjes (MADCovar en MADMod) om dit op te lossen, zodat je de snelheid van de slimme manier behoudt, maar de zekerheid van de oude manier terugkrijgt.

Truc 1: MADCovar (De "Slimme Notitie")

Stel je voor dat je niet alleen proeft, maar ook noteert: "Deze soep was lekker, maar de klant had een koude maag." Of: "Deze soep was saai, maar de klant was erg moe."

In de statistiek noemen we dit covariaten (extra informatie over de proefpersoon).

Het probleem: Soms lijkt een ingrediënt slecht, alleen omdat de proefpersoon een slechte dag had.
De oplossing (MADCovar): Deze methode kijkt naar die extra informatie. Het "corrigeert" de smaaktest. Het zegt: "Oh, die soep was niet slecht, de persoon was gewoon moe."
Het resultaat: Je krijgt veel scherpere en nauwkeurigere resultaten zonder dat je meer soep hoeft te koken. Het is alsof je een bril opzet die de wazige details wegneemt. De auteurs laten zien dat je hiermee je resultaten tot wel 60% scherper kunt maken.

Truc 2: MADMod (De "Eerlijke Verdelingsplanner")

Stel je voor dat je in een race zit. De slimme manier (MAB) zorgt ervoor dat je de winnende auto (de beste behandeling) steeds vaker laat rijden. Maar wat als je ook wilt weten of de auto op plek 3 of 4 misschien toch goed genoeg is voor een dagrit? De slimme manier negeert die auto's volledig.

Het probleem: Je weet alles over de winnaar, maar niets over de rest.
De oplossing (MADMod): Deze methode is als een slimme race-directeur. Zodra hij ziet dat Auto A echt de winnaar is, zegt hij: "Oké, Auto A, jij mag nog een beetje rijden, maar we gaan de rest van de tijd ook Auto B, C en D een kans geven."
Hoe werkt het? Zodra een behandeling "wint" (statistisch significant is), schuift de methode automatisch wat meer proefpersonen naar de verliezers toe. Het is een balans: je blijft efficiënt, maar je zorgt ervoor dat niemand in de kou staat.
Het resultaat: Je hebt nu betrouwbare antwoorden over alle behandelingen, niet alleen de beste. Je maakt veel minder fouten door een goed middel te verwerpen omdat je er te weinig van hebt getest.

Waarom is dit belangrijk?

Voor onderzoekers in de echte wereld (zoals artsen die nieuwe medicijnen testen of politici die beleid evalueren) is dit een game-changer.

Efficiëntie: Je hoeft minder mensen te betrekken bij een experiment om tot een goed antwoord te komen (goedkoper en ethischer).
Veiligheid: Je kunt stoppen met testen zodra je zeker weet dat iets werkt, zonder bang te zijn dat je statistische regels hebt overtreden.
Eerlijkheid: Je krijgt een eerlijk beeld van alle opties, zodat je geen goede oplossingen over het hoofd ziet.

Kort samengevat:
De auteurs hebben een manier bedacht om "slim te experimenteren" (waarbij je snel naar het beste springt) zonder je statistische bril te verliezen. Ze zorgen ervoor dat je niet alleen weet wat de winnaar is, maar ook precies weet hoe de verliezers presteren, en dat je dit doet met minder tijd en middelen. Het is alsof je een race organiseert die niet alleen de snelste auto vindt, maar ook eerlijk is voor alle andere coureurs.

Titel en Context

Titel: Anytime-Valid Inference in Adaptive Experiments: Covariate Adjustment and Balanced Power
Auteurs: Daniel Molitor en Samantha Gold (Cornell University)
Datum: 16 februari 2026
Kernwoorden: Adaptieve experimenten, causale inferentie, multi-armed bandits, experimenteel ontwerp, sequentiële besluitvorming.

1. Het Probleem

Adaptieve experimenten, zoals Multi-Armed Bandits (MAB), bieden aanzienlijke efficiency-voordelen ten opzichte van traditionele gerandomiseerde experimenten (RCT's). Ze kunnen sneller de beste behandeling identificeren, de cumulatieve welvaart van respondenten maximaliseren en de steekproefgrootte voor optimale behandelingen vergroten. Echter, voor onderzoekers die causale inferentie willen trekken, brengen deze methoden twee fundamentele uitdagingen met zich mee:

Ongeldige Inferentie: In adaptieve experimenten hangt de toewijzing van een behandeling ( $W_t$ ) af van eerdere uitkomsten en toewijzingen. Dit schendt de onafhankelijkheidsaannames die nodig zijn voor standaard schatters van het gemiddelde behandelingseffect (ATE), zoals het verschil in gemiddelden of inverse propensity score schatters. Hierdoor zijn deze schatters vertekend en zijn standaard betrouwbaarheidsintervallen ongeldig.
Ongelijkmatige Statistische Kracht: Adaptieve algoritmes concentreren steekproeven op de optimale behandelingen. Hierdoor krijgen sub-optimale behandelingen onvoldoende steekproefgrootte (low power), wat het moeilijk maakt om betrouwbare inferentie te trekken voor deze behandelingen, zelfs als ze praktisch waardevol kunnen zijn.

Bestaande oplossingen voor geldige inferentie (zoals herschalingstechnieken) vereisen vaak dat elke behandeling een positieve kans op toewijzing heeft, wat populaire algoritmes zoals Explore-Then-Commit (ETC) of Upper Confidence Bound (UCB) uitsluit. Andere methoden bieden "anytime-valid" inferentie (geldig op elk willekeurig moment), maar lijden vaak onder hoge variantie (brede betrouwbaarheidsintervallen) en lossen het probleem van onbalans in statistische kracht niet op.

2. Methodologie

De auteurs bouwen voort op het Mixture Adaptive Design (MAD) framework van Liang en Bojinov (2024), dat een mengsel vormt van een volledig random toewijzingsbeleid en een adaptief beleid. Ze introduceren twee nieuwe extensies om de bovengenoemde problemen op te lossen:

A. MADCovar: Covariate-Adjusted ATE Estimator

Om de precisie van de ATE-schatting te verbeteren, passen de auteurs covariaat-justering toe binnen het MAD-framework.

Methode: Ze gebruiken een schatter voor het individuele behandelingseffect ( $\hat{\tau}_i$ ) gebaseerd op de methode van Robins en Rotnitzky (1995). Deze schatter combineert een voorspellingsmodel voor de uitkomst ( $\hat{\mu}_w(X_i)$ ) met een inverse propensity score correctie.
Formule:
$\hat{\tau}_i := \hat{\mu}_1(X_i) - \hat{\mu}_0(X_i) + \frac{1\{W_i = 1\}(Y_i - \hat{\mu}_1(X_i))}{p^{MAD}_i(1)} - \frac{1\{W_i = 0\}(Y_i - \hat{\mu}_0(X_i))}{p^{MAD}_i(0)}$
Waarbij $p^{MAD}_i(w)$ de toewijzingskans is binnen het MAD-framework.
Garantie: Onder bepaalde aannames (beperkte voorspellingen en cumulatieve variantie) behoudt deze schatter de eigenschap van asymptotische Anytime-Valid Confidence Sequences (CS). Dit betekent dat onderzoekers continu kunnen monitoren en stoppen wanneer gewenst, zonder dat de Type I-fout (vals-positief) explodeert, terwijl de variantie van de schatting aanzienlijk wordt verlaagd door de covariaten.

B. MADMod: Power-Modified MAD

Om de onbalans in statistische kracht aan te pakken, introduceren ze een dynamische herschikking van steekproeven.

Methode: Het algoritme introduceert "importance weights" ( $w_k(t)$ $w_{k} (t)$ ) voor elke behandelingsarm $k$ $k$ .
- Als een arm nog niet statistisch significant is, blijft de weging 1.
- Zodra een arm significant wordt (het betrouwbaarheidsinterval 0 uitsluit), begint de weging $w_k(t)$ te vervallen (decay) volgens een door de onderzoeker gedefinieerde functie (bijv. polynoom decay).
Herschikking: De oorspronkelijke toewijzingskansen worden vermenigvuldigd met deze wegingen. De "verloren" waarschijnlijkheidsmassa wordt vervolgens evenredig herverdeeld naar de onderbelichte (sub-optimale) armen.
Doel: Dit zorgt ervoor dat sub-optimale behandelingen meer steekproeven krijgen om hun effecten betrouwbaar te kunnen schatten, terwijl het adaptieve algoritme (zoals Thompson Sampling) nog steeds grotendeels wordt gevolgd voor efficiëntie.

3. Belangrijkste Bijdragen

MADCovar: Een covariaat-gecorrigeerde schatter die de precisie van ATE-schattingen in adaptieve experimenten drastisch verbetert zonder de geldigheid van de "anytime-valid" inferentie te schenden.
MADMod: Een mechanisme om steekproeven dynamisch te herschikken naar onderbelichte behandelingen, waardoor de statistische kracht voor alle behandelingen wordt gebalanceerd in plaats van alleen voor de optimale.
Theoretische Garantie: Beide methoden behouden de kernvoordelen van MAD: het leveren van asymptotische betrouwbaarheidssequenties (CS) die geldig zijn voor elke stopregel en elke adaptieve strategie.
Implementatie: De methoden zijn beschikbaar in een open-source Python-pakket (pyssed), inclusief replicatiepakketten voor alle figuren en tabellen.

4. Resultaten

De auteurs valideren hun methoden via simulaties en een groot real-world dataset.

Simulaties (MADCovar):
- In scenario's met matige tot sterke covariaat-signalen reduceert MADCovar de breedte van de betrouwbaarheidssequenties (CS) met 40% tot 70% ten opzichte van standaard MAD.
- Deze winst is robuust, zelfs wanneer veel irrelevante covariaten in het model worden opgenomen.
- In zeer kleine steekproeven kan de variantie iets hoger zijn, maar dit wordt snel gecorrigeerd naarmate de steekproefgrootte toeneemt.
Real-world Data (Politieke RCT):
- Gebruikmakend van een dataset met 32.000 deelnemers (Voelkel et al., 2024) over partijdige animositeit, toonde MADCovar een precisiewinst van 60% tot 75% ten opzichte van de niet-gecorrigeerde baseline.
Simulaties (MADMod):
- MADMod verlaagt de Type II-fout (vals-negatief) aanzienlijk, vooral voor sub-optimale behandelingen die normaal gesproken onderbelicht zouden zijn.
- De breedte van de betrouwbaarheidsintervallen wordt smaller voor alle armen.
- Er is een trade-off: MADMod wijst meer steekproeven toe aan sub-optimale armen, wat de pure "exploitatie"-efficiency van het onderliggende bandit-algoritme iets verlaagt, maar wel leidt tot robuustere inferentie voor het volledige portfolio van behandelingen.

5. Betekenis en Impact

De voorgestelde methoden maken adaptieve experimenten praktischer, betrouwbaarder en efficiënter voor toegepast onderzoekers in diverse domeinen (zoals gezondheidszorg, onderwijs en sociaal beleid).

Efficiëntie en Ethiek: Door de precisie te verhogen zonder de steekproefgrootte te vergroten, kunnen experimenten goedkoper en sneller worden uitgevoerd. Deelt deelnemers minder lang aan inferieure behandelingen.
Robuuste Besluitvorming: Door de statistische kracht voor alle behandelingen te balanceren, kunnen onderzoekers behandelingen die niet "optimaal" zijn, maar toch waardevol, niet onterecht verwerpen.
Flexibiliteit: De methoden bieden onderzoekers controle over de afweging tussen efficiëntie (exploitatie) en inferentiële kracht (exploratie), zonder in te boeten aan de statistische geldigheid van de resultaten.

Samenvattend vullen MADCovar en MADMod de gaten in de huidige literatuur over adaptieve experimenten door zowel de precisie van de schattingen als de gelijkheid in statistische kracht te verbeteren, terwijl de cruciale eigenschap van "anytime-valid" inferentie behouden blijft.