📊 statistics

Semiparametric Efficiency in Sequential Experiments: Characterization and Design via Average Propensity

Dit artikel stelt een semiparametrische efficiëntiebenchmark vast voor sequentiële experimenten op basis van een geïnduceerde gemiddelde propensity score en stelt implementeerbare gebatchte adaptieve designs voor die regressie-aanpassing of covariantiebalancering gebruiken om deze optimale precisie te bereiken onder diverse operationele beperkingen.

Oorspronkelijke auteurs: Jiachun Li, David Simchi-Levi

Gepubliceerd 2026-07-01

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jiachun Li, David Simchi-Levi

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je de manager bent van een enorm online platform. Je hebt verschillende nieuwe AI-functies ontwikkeld (laten we ze "AI-assistenten" noemen) en je wilt weten welke het beste werkt voor je gebruikers. Om dit te ontdekken, voer je een experiment uit: je laat verschillende gebruikers verschillende assistenten zien en meet de resultaten.

In de oude dagen zou je voor elke gebruiker gewoon een muntje opgooien. Dit wordt "random assignment" (willekeurige toewijzing) genoemd. Het is eerlijk, maar het is niet erg slim. Als je een gebruiker hebt die zeer technisch onderlegd is en een andere die dat niet is, kan een muntopgooi er per ongeluk voor zorgen dat de technisch onderlegde gebruiker de "moeilijke" assistent krijgt en de niet-technische gebruiker de "gemakkelijke" een. Dit creëert "ruis" in je gegevens, waardoor het moeilijker wordt om te bepalen welke assistent daadwerkelijk beter is.

Dit artikel gaat over hoe je deze experimenten slimmer kunt uitvoeren, vooral wanneer je beslissingen één voor één moet nemen (sequentieel) en niet kunt wachten tot alle gegevens binnen zijn voordat je een wijziging doorvoert.

Dit is de kern van het idee, onderverdeeld in eenvoudige concepten:

1. Het Probleen: Het "Bewegende Doelwit"

In moderne experimenten kun je niet zomaar een muntje opgooien en bij dat besluit blijven. Je moet misschien:

Aanpassen: Als Assistent A niet goed lijkt te presteren, wil je misschien stoppen met het tonen ervan aan nieuwe gebruikers.
Balanceren: Je wilt misschien zorgen voor een gelijk aantal technisch onderlegde en niet-technisch onderlegde gebruikers in elke groep.
Regels volgen: Je hebt misschien een budgetlimiet (slechts 100 mensen mogen Assistent B zien) of regels voor eerlijkheid.

Deze regels maken de gegevens rommelig. De gebruikers zijn niet langer onafhankelijk; wat er gebeurde met Gebruiker #1 beïnvloedt wie welke behandeling krijgt voor Gebruiker #2. Standaard statistische instrumenten, die ervan uitgaan dat iedereen onafhankelijk is, werken hierdoor niet meer.

2. De Grote Ontdekking: Het "Gemiddelde Recept"

De auteurs vonden een manier om deze chaos te vereenvoudigen. Ze realiseerden zich dat, ongeacht hoe complex je regels zijn (adaptief, gebalanceerd, budgetgestuurd), ze allemaal terug te voeren zijn op één simpel getal: De Gemiddelde Propensity Score.

Denk hierbij aan een recept.

Stel je voor dat je koekjes bakt. Je hebt een complexe set instructies: "Als de keuken warm is, voeg dan minder suiker toe. Als de oven oud is, bak dan langer."
De auteurs zeggen: "Maak je geen zorgen over de complexe instructies. Kijk alleen naar de uiteindelijke gemiddelde hoeveelheid suiker die je daadwerkelijk aan alle koekjes hebt toegevoegd."
Dat "gemiddelde aantal suiker" is de Gemiddelde Propensity Score.

De Magische Claim: Het artikel bewijst dat de precisie van je experiment (hoe duidelijk je de waarheid kunt zien) uitsluitend afhangt van dit gemiddelde recept. Het maakt niet uit of je regels ingewikkeld waren; als je gemiddelde recept goed is, is je experiment efficiënt. Als je gemiddelde recept slecht is, kan geen enkele geavanceerde wiskunde je redden.

3. Het Doel: Het "Perfecte Recept"

Als je precies wist hoe elke gebruiker zou reageren, zou je het Perfecte Recept (de "Oracle Benchmark") kunnen berekenen. Dit recept vertelt je precies hoeveel gebruikers van elk type elke assistent moeten krijgen om het duidelijkste antwoord te krijgen met de minste hoeveelheid mensen.

Het artikel vraagt: Kunnen we een experiment ontwerpen dat dicht bij dit Perfecte Recept komt, zelfs als we de antwoorden niet vooraf weten?

4. De Oplossing: Twee Manieren van Koken

De auteurs stellen twee praktische methoden voor om dicht bij dat Perfecte Recept te komen. Beide methoden maken gebruik van een strategie genaamd "Batching" (verwerking in batches). In plaats van de regels elke seconde te veranderen (wat chaotisch en moeilijk te beheren is), verander je de regels elke "batch" (bijv. elke 1.000 gebruikers).

Methode A: De "Slimme Aanpasser" (Regressie-aanpassing)

Hoe het werkt: Je voert een batch gebruikers uit. Daarna kijk je naar de gegevens en gebruik je een computermodel (zoals een slimme rekenmachine) om te raden welke gebruikers goed op welke assistent hebben gereageerd. Je gebruikt deze gok om het "recept" voor de volgende batch aan te passen.
Het Nadeel: Deze methode is afhankelijk van hoe nauwkeurig het computermodel is. Als het model er een klein beetje naast zit, kan dit de resultaten verstoren. Het artikel laat zien dat dit goed werkt, maar alleen als het model goed genoeg is.
Analogie: Het is als een chef die de soep proeft, raadt wat er mist, en dan kruiden toevoegt. Als de smaakpapillen van de chef niet kloppen, kan de soep alsnog te zout zijn.

Methode B: De "Gebalanceerde Weegschaal" (Covariaat-balancering)

Hoe het werkt: In plaats van te raden naar het antwoord met een model, richt deze methode zich op het afdwingen van balans tijdens de toewijzing. Het zorgt ervoor dat de groepen binnen een batch perfect gematcht zijn (bijv. exact hetzelfde aantal technisch onderlegde gebruikers in elke groep).
Het Voordeel: Omdat de groepen perfect in balans zijn, heb je geen fancy computermodel nodig om de gegevens later te corrigeren. Je kunt een eenvoudige, robuuste wiskundige formule gebruiken (zoals een simpel gemiddelde) om het antwoord te krijgen.
Het Nadeel: Het is moeilijker om perfect in balans te zijn als je te veel verschillende soorten gebruikers hebt (hoge dimensies).
Analogie: Het is als een chef die niet de soep proeft, maar in plaats daarvan zorgvuldig elke ingrediënt afweegt om de juiste verhoudingen te garanderen vanaf het begin. De soep wordt goed omdat de ingrediënten in balans waren, niet omdat de chef heeft geraden naar de smaak.

5. Bewijs uit de Praktijk

De auteurs hebben deze ideeën op twee manieren getest:

Simulaties: Ze creëerden nepgegevens met verschillende niveaus van complexiteit (sommige eenvoudig, andere zeer moeilijk met veel variabelen). Ze ontdekten dat hun methoden consequent beter presteerden dan de oude "muntopgooi"-methode.
Echte Data (AI Medische Assistenten): Ze pasten dit toe op een echte studie naar de evaluatie van AI medische assistenten. Ze moesten vier verschillende AI-assistenten vergelijken.
- Ze ontdekten dat door hun "batch"-methoden te gebruiken, ze hetzelfde niveau van nauwkeurigheid konden bereiken met minder gebruikers (of een betere nauwkeurigheid met hetzelfde aantal gebruikers).
- Ze toonden ook aan dat voor de "Gebalanceerde Weegschaal"-methode, het hielp om zich te concentreren op de belangrijkste menselijke eigenschappen (zoals leeftijd en scenario type) in plaats van te proberen elk detail in balans te brengen.

Samenvatting

Dit artikel biedt een nieuw "regelboek" voor het uitvoeren van moderne experimenten.

De Regel: Maak je geen zorgen over de complexe regels die je gebruikt om behandelingen toe te wijzen. Focus je alleen op de gemiddelde verdeling van die behandelingen.
De Strategie: Voer experimenten uit in batches.
De Instrumenten: Je kunt ofwel een slim model gebruiken om het recept aan te passen (Methode A), ofwel strikte balancering gebruiken om eerlijkheid te garanderen (Methode B).
Het Resultaat: Je krijgt nauwkeurigere antwoorden over wat werkt, sneller, en met minder middelen, zelfs wanneer het experiment complex en veranderlijk is.

Het is alsoer je overstapt van het gooien van een muntje naar het gebruiken van een GPS die je route elke paar mijl opnieuw berekent om ervoor te zorgen dat je de bestemming zo efficiënt mogelijk bereikt.

Technische Samenvatting: Semiparametrische Efficiëntie in Sequentiële Experimenten via Gemiddelde Propensity

1. Probleemformulering

Moderne experimentele settings, met name bij de evaluatie van door AI ondersteunde diensten en platforminterventies, wijken frequent af van klassieke onafhankelijke en identiek verdeelde (i.i.d.) steekproeven. Toewijzingen zijn vaak adaptief, gebalanceerd over covariaten, of beperkt door operationele limieten zoals blootstellingsplafonds, behandelbudgetten en vereisten voor eerlijkheid. Deze kenmerken induceren afhankelijkheid tussen observaties, waardoor klassieke i.i.d.-gebaseerde efficiëntietheorie onvoldoende is als leidraad voor experimenteel ontwerp.

Het artikel adresseert twee centrale vragen:

Wat is de fundamentele efficiëntiebenchmark voor het schatten van een doel-causaal estimand in een sequentieel experiment met afhankelijke toewijzingen?
Hoe kunnen implementeerbare ontwerpen in de praktijk deze benchmark benaderen, met name onder restricties zoals vertraagde feedback en de noodzaak voor operationele stabiliteit?

De auteurs formaliseren de setting met behulp van een non-anticipating design framework. Eenheden worden geïndexeerd door een toewijzingsvolgorde $t=1,\dots,n$ , en de behandeltoewijzing $A_t$ hangt uitsluitend af van de historie $\mathcal{F}_{t-1}$ en de huidige covariaat $X_t$ , en nooit van toekomstige uitkomsten of covariaten. Dit framework verenigt i.i.d.-randomisatie, offline gestratificeerde ontwerpen en sequentiële adaptieve ontwerpen.

2. Methodologie en Theoretisch Framework

2.1 De Geïnduceerde Gemiddelde Propensity Score

De kern van de theoretische bijdrage is de identificatie van de geïnduceerde gemiddelde propensity score als de voldoende statistiek voor de efficiëntiebenchmark. Voor elk non-anticipating design $\text{ALG}$ is de geïnduceerde gemiddelde propensity $\bar{e}_a(x)$ gedefinieerd als:
$\bar{e}_a(x) := \frac{1}{n} \sum_{t=1}^n \mathbb{E}_{\text{ALG}}[e_t(a | x, \mathcal{F}_{t-1})]$
waarbij $e_t$ de conditionele toewijzingskans is op stap $t$ .

2.2 Semiparametrische Ondergrens

Het artikel stelt een semiparametrische ondergrens vast voor reguliere, lokaal onbevooroordeelde schatters. Stelling 1 bewijst dat voor elk non-anticipating design de asymptotische variantie van een schatter wordt begrensd door de i.i.d. efficiëntiebenchmark geëvalueerd bij de geïnduceerde gemiddelde propensity $\bar{e}$ :
$\text{Var}(T) \geq \frac{1}{n} V(\bar{e}) = \frac{1}{n} \mathbb{E}[\phi_{\bar{e}}(O)^2]$
waar $\phi_{\bar{e}}$ de efficiënte invloedfunctie (EIF) is onder de vaste propensity $\bar{e}$ .

Dit resultaat impliceert dat de statistische complexiteit van adaptieve, gebalanceerde of beperkte ontwerpen convergeert naar één enkel object: de gemiddelde behandelblootstelling toegewezen over de waarden van de covariaten. Operationele beperkingen (bijv. budgetlimieten) worden geïntegreerd door de toegestane verzameling van gemiddelde propensities te beperken.

2.3 Gegeneraliseerde Neyman-allocatie

Voor vector-waardige targets (bijv. effecten van meerdere behandelingen) leidt het artikel een gegeneraliseerde Neyman-allocatie af. Het optimale ontwerp minimaliseert de trace van de covariantie-matrix van de EIF, wat leidt tot een allocatieregel waarbij behandelarmen met een hogere conditionele variantie in de efficiënte invloedfunctie een grotere blootstelling ontvangen. Voor lineaire functionalen van gemiddelde uitkomsten reduceert dit tot de klassieke Neyman-allocatieregel.

3. Constructieve Benaderingen van de Benchmark

Het artikel stelt twee complementaire, implementeerbare gebatched adaptieve ontwerpen voor die de theoretische benchmark benaderen. Beide methoden updaten het toewijzingsbeleid slechts een logaritmisch aantal keren ( $B \asymp \log n$ ), wat compatibiliteit garandeert met vertraagde feedback en operationele controleerbaarheid.

3.1 Route 1: Batched Adaptive Regression Adjustment

Deze benadering richt zich op correctie aan de zijde van de schatter.

Mechanisme: Het experiment wordt verdeeld in batches. Binnen elke batch is de toewijzingsregel vastgesteld. Aan het einde van elke batch worden nuisance-parameters (uitkomstregressies en tweede-moment functies) geschat met behulp van cross-fitting op de geaccumuleerde data. De toewijzingsregel voor de volgende batch wordt bijgewerkt via plug-in minimalisatie van het oracle design objectief.
Algemene Estimanden: Voor algemene gladde estimanden bereikt de methode de oracle benchmark, mits de nuisance-schatters convergeren met een snelheid die sneller is dan $n^{-1/4}$ . Dit is een bekende bottleneck in semiparametrische schatting vanwege de tweede-orde plug-in bias.
Lineaire Functionalen: Voor lineaire functionalen van gemiddelde uitkomsten (bijv. Average Treatment Effects, Policy Values) valt de plug-in bias exact weg door de structuur van de EIF. Bijgevolg verdwijnt de $n^{-1/4}$ bottleneck. Het artikel stelt een scherpe tweede-orde convergentiesnelheid vast van $O(n^{-1-2\alpha} \vee n^{-1-2\beta})$ , waarbij $\alpha$ en $\beta$ de convergentiesnelheden zijn van respectievelijk de uitkomstregressie en de tweede-moment schatters. Een bijbehorende ondergrens bewijst dat deze snelheid minimax-optimaal is.

3.2 Route 2: Batched Adaptive Covariate Balancing

Deze benadering richt zich op controle aan de zijde van het design om de bottlenecks in de nuisance-schatting te omzeilen.

Mechanisme: Deze route gebruikt een eenvoudige moment-gebaseerde schatter (geen regressie-adjustering in de laatste stap). Het design dwingt lokale balans af van covariaat-geïndexeerde momentfuncties binnen elke batch met behulp van ruimtelijke binning en gegroepeerde permutaties. De doel-propensity wordt over batches heen bijgewerkt op basis van geschatte tweede-moment proxies.
Efficiëntie: Door de "balancing remainder" (de afwijking van de doel-propensity) binnen batches te controleren, bereikt deze methode de semiparametrische benchmark $V^*/n$ zonder dat er nonparametric nuisance-schatting nodig is in de schattingsstap.
Trade-offs: De balancing remainder neemt af met een dimensie-afhankelijke snelheid $O(m^{-1/(d+4)})$ voor een batchgrootte $m$ . Daarom is deze route het meest effectief in laag-dimensionale settings of wanneer de effectieve dimensie van de heterogeniteit laag is.

4. Belangrijkste Resultaten en Empirische Validatie

4.1 Theoretische Resultaten

Verenigd Framework: De geïnduceerde gemiddelde propensity score verenigt voorheen uiteenlopende efficiëntiegrenzen voor adaptieve, gestratificeerde en lokale randomisatie-ontwerpen onder één enkel non-anticipating framework.
Resolutie van Conjecturen: Het framework lost een conjectuur van Cytrynbaum (2021) op betreffende de efficiëntiegrenzen van twee-fasen experimentele ontwerpen.
Minimax Scherpheid: Voor lineaire functionalen biedt het artikel het eerste minimax-karakterisering van de convergentiesnelheid naar de semiparametrische efficiëntiebound voor algemene sequentiële experimenten.

4.2 Numerieke en Empirische Studies

De auteurs valideren hun methoden via synthetische simulaties en een real-world toepassing:

Synthetische Experimenten: Simulaties met variërende dimensies ( $d \in \{2,3,8\}$ ) en heteroscedasticiteit laten zien dat beide adaptieve routes significant presteren ten opzichte van uniforme randomisatie. De regression adjustment (RA) route is robuust tegen hoge dimensies, terwijl de covariate balancing (CB) route het best presteert wanneer de balancing partition aligneert met de laag-dimensionale structuur van de data (effectieve dimensie).
Evaluatie van een AI Medische Assistent: Gebruikmakend van data uit de HELPMed studie (Bean et al., 2026), evalueerden de auteurs meerdere AI-assistenten tegenover een baseline. De adaptieve ontwerpen verminderden de genormaliseerde gemiddelde kwadratische fout (MSE) met ongeveer 5–8% vergeleken met uniforme randomisatie. De studie benadrukte dat het gebruik van een data-adaptieve, laag-dimensionale partition voor de CB-route de prestaties in hoog-dimensionale settings aanzienlijk verbeterde.

5. Betekenis en Claims

Het artikel claimt een verenigd framework te bieden voor het karakteriseren en ontwerpen van efficiënte sequentiële experimenten. De primaire betekenis ligt in:

Herformulering van Design: Het verschuift de focus van het optimaliseren van complexe, pad-afhankelijke toewijzingsmechanismen naar het leren of kiezen van een efficiënte gemiddelde propensity score.
Operationele Haalbaarheid: Door aan te tonen dat de efficiëntiebenchmark benaderd kan worden met slechts een logaritmisch aantal beleidsupdates, overbrugt het artikel de kloof tussen theoretische optimaliteit en operationele restricties (vertraagde feedback, controleerbaarheid, stabiliteit).
Praktische Flexibiliteit: De twee complementaire routes (regression adjustment en covariate balancing) bieden beoefenaars trade-offs: RA is flexibel voor hoog-dimensionale settings maar vereist snelle nuisance-schatting; CB is robuust en eenvoudig maar vereist zorgvuldige behandeling van de dimensie van de covariaat-ruimte.

De auteurs concluderen dat de gemiddelde propensity score dient als een gemeenschappelijke taal voor het begrijpen van statistische limieten in sequentiële experimentatie, wat het ontwerp van efficiënte experimenten met meerdere behandelingen mogelijk maakt in moderne toepassingen zoals de evaluatie van AI-diensten.