📊 statistics

Semiparametric Efficiency in Sequential Experiments: Characterization and Design via Average Propensity

Diese Arbeit etabliert eine semiparametrische Effizienz-Benchmark für sequentielle Experimente auf Basis eines induzierten durchschnittlichen Propensity-Scores und schlägt implementierbare gebatchte adaptive Designs vor, die eine Regressionsanpassung oder Kovariaten-Balancierung nutzen, um diese optimale Präzision unter verschiedenen operativen Einschränkungen zu erreichen.

Ursprüngliche Autoren: Jiachun Li, David Simchi-Levi

Veröffentlicht 2026-07-01

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Jiachun Li, David Simchi-Levi

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind der Manager einer riesigen Online-Plattform. Sie haben mehrere neue KI-Funktionen entwickelt (nennen wir sie „KI-Assistenten“) und möchten wissen, welcher am besten bei Ihren Nutzern ankommt. Um das herauszufinden, führen Sie ein Experiment durch: Sie zeigen verschiedenen Nutzern unterschiedliche Assistenten und messen die Ergebnisse.

In den alten Zeiten hätten Sie einfach für jeden Nutzer eine Münze geworfen. Das nennt man „Randomisierung“ (Zufallszuweisung). Das ist zwar fair, aber nicht besonders intelligent. Wenn Sie einen sehr technikaffinen Nutzer und einen weniger technikaffinen Nutzer haben, könnte ein Münzwurf versehentlich dem technikaffinen Nutzer den „schwer zu bedienenden“ Assistenten und dem weniger technikaffinen den „einfachen“ geben. Dies erzeugt „Rauschen“ in Ihren Daten, was es schwieriger macht, zu erkennen, welcher Assistent tatsächlich besser ist.

Dieses Paper beschetreibt, wie man solche Experimente smarter durchführt, insbesondere wenn man Entscheidungen nacheinander treffen muss (sequenziell) und nicht warten kann, bis alle Daten eingetroffen sind, bevor man eine Änderung vornimmt.

Hier ist der Kern der Idee, unterteilt in einfache Konzepte:

1. Das Problem: Das „bewegliche Ziel“

In modernen Experimenten können Sie nicht einfach einmal eine Münze werfen und dabei bleiben. Sie müssen vielleicht:

Anpassen: Wenn Assistent A schlecht läuft, möchten Sie ihn vielleicht nicht mehr neuen Nutzern zeigen.
Ausgleichen: Sie möchten vielleicht sicherstellen, dass Sie in jeder Gruppe eine gleiche Anzahl an technikaffinen und nicht-technikaffinen Nutzern haben.
Regeln befolgen: Sie haben vielleicht ein Budgetlimit (nur 100 Personen dürfen Assistent B sehen) oder Fairness-Regeln.

Diese Regeln machen die Daten unordentlich. Die Nutzer sind nicht mehr unabhängig; was bei Nutzer #1 passiert, beeinflusst, was Nutzer #2 erhält. Standardmäßige statistische Werkzeuge, die davon ausgehen, dass jeder unabhängig ist, funktionieren hier nicht mehr.

2. Die große Entdeckung: Das „Durchschnittsrezept“

Die Autoren fanden einen Weg, dieses Chaos zu vereinfachen. Sie erkannten, dass all diese komplexen Regeln (adaptiv, ausgleichend, budgetiert) auf eine einzige einfache Zahl zurückzuführen sind: Den durchschnittlichen Propensity Score (Wahrscheinlichkeitswert).

Denken Sie an dies wie an ein Rezept.

Stellen Sie sich vor, Sie backen Kekse. Sie haben ein komplexes Set an Anweisungen: „Wenn die Küche heiß ist, füge weniger Zucker hinzu. Wenn der Ofen alt ist, backe länger.“
Die Autoren sagen: „Machen Sie sich keine Sorgen um die komplexen Anweisungen. Schauen Sie einfach auf die finale Durchschnittsmenge an Zucker, die Sie tatsächlich über alle gebackenen Kekse hinweg verwendet haben.“
Diese „durchschnittliche Menge an Zucker“ ist der Average Propensity Score.

Die magische Behauptung: Das Paper beweist, dass die Präzision Ihres Experiments (wie klar Sie die Wahrheit sehen können) nur von diesem durchschnittlichen Rezept abhängt. Es spielt keine Rolle, wie kompliziert Ihre Regeln waren; wenn Ihr durchschnittliches Rezept gut ist, ist auch Ihr Experiment effizient. Wenn Ihr durchschnittliches Rezept schlecht ist, kann keine noch so ausgeklügelte Mathematik Sie retten.

3. Das Ziel: Das „perfekte Rezept“

Wenn Sie genau wüssten, wie jeder Nutzer reagieren würde, könnten Sie das Perfekte Rezept (einen „Oracle Benchmark“) berechnen. Dieses Rezept sagt Ihnen genau, wie viele Nutzer vom Typ X welchen Assistenten erhalten sollten, um mit den wenigsten Menschen das klarste Ergebnis zu erzielen.

Das Paper fragt: Können wir ein Experiment entwerfen, das diesem Perfekten Rezept nahekommt, selbst wenn wir die Antworten nicht im Voraus kennen?

4. Die Lösung: Zwei Wege zum Kochen

Die Autoren schlagen zwei praktische Methoden vor, um dem Perfekten Rezept nahe zu kommen. Beide Methoden nutzen eine Strategie namens „Batching“ (Chargenbildung). Anstatt die Regeln jede Sekunde zu ändern (was chaotisch und schwer zu managen wäre), ändern Sie die Regeln pro „Charge“ (z. B. alle 1.000 Nutzer).

Methode A: Der „Schlaue Anpasser“ (Regressionsanpassung)

Wie es funktioniert: Sie führen eine Charge von Nutzern durch. Dann schauen Sie sich die Daten an und nutzen ein Computermodell (wie einen smarten Taschenrechner), um zu schätzen, welche Nutzer gut auf welchen Assistenten reagiert haben. Sie nutzen diese Schätzung, um das „Rezept“ für die nächste Charge anzupassen.
Der Haken: Diese Methode hängt davon ab, dass das Computermodell sehr genau ist. Wenn das Modell leicht danebenliegt, kann das Ihre Ergebnisse verfälschen. Das Paper zeigt, dass dies gut funktioniert, aber nur, wenn das Modell gut genug ist.
Analogie: Es ist wie ein Koch, der die Suppe probiert, schätzt, was fehlt, und dann Gewürze hinzufügt. Wenn die Geschmacksknospen des Kochs danebenliegen, kann die Suppe trotzdem zu salzig sein.

Methode B: Die „Ausgewogene Waage“ (Kovariaten-Balancierung)

Wie wie es funktioniert: Anstatt mit einem Modell das Ergebnis zu erraten, konzentriert sich diese Methode darauf, die Balance während der Zuweisung zu erzwingen. Sie stellt sicher, dass die Gruppen innerhalb einer Charge perfekt abgestimmt sind (z. B. exakt die gleiche Anzahl an technikaffinen Nutzern in jeder Gruppe).
Der Vorteil: Da die Gruppen perfekt ausbalanciert sind, benötigen Sie kein ausgeklügeltes Computermodell, um die Daten später zu korrigieren. Sie können eine einfache, robuste mathematische Formel (wie einen einfachen Durchschnitt) verwenden, um das Ergebnis zu erhalten.
Der Haken: Es ist schwieriger, eine perfekte Balance zu halten, wenn Sie zu viele verschiedene Arten von Nutzern haben (hohe Dimensionen).
Analogie: Es ist wie ein Koch, der die Suppe nicht probiert, sondern stattdessen sorgfältig jedes Gramm der Zutaten misst, um sicherzustellen, dass die Verhältnisse perfekt sind. Die Suppe wird richtig, weil die Zutaten von vornherein ausgewogen waren, nicht weil der Koch den Geschmack erraten hat.

5. Beweis aus der Praxis

Die Autoren testeten diese Ideen auf zwei Arten:

Simulationen: Sie erstellten fiktive Daten mit unterschiedlichen Komplexitätsstufen (einige einfach, andere sehr schwer mit vielen Variablen). Sie fanden heraus, dass ihre Methoden konsistent besser abschnitten als die alte „Münzwurf“-Methode.
Reale Daten (KI-Medizin-Assistenten): Sie wandten dies auf eine echte Studie zur Bewertung von KI-medizinischen Assistenten an. Dabei mussten sie vier verschiedene KI-Assistenten vergleichen.
- Sie fanden heraus, dass sie durch die Verwendung ihrer „Batching“-Methoden das gleiche Maß an Genauigkeit mit weniger Nutzern erreichen konnten (oder eine bessere Genauigkeit mit der gleichen Anzahl an Nutzern).
- Sie zeigten auch, dass die „Balanced Scale“-Methung half, sich auf die wichtigsten Merkmale der Nutzer (wie Alter und Szenariotyp) zu konzentrieren, anstatt zu versuchen, jedes einzelne Detail auszubalancieren.

Zusammenfassung

Dieses Paper liefert ein neues „Regelwerk“ für moderne Experimente.

Die Regel: Machen Sie sich keine Sorgen um die komplexen Regeln, mit denen Sie Behandlungen zuweisen. Konzentrieren Sie sich stattdessen auf die durchschnittliche Verteilung dieser Behandlungen.
Die Strategie: Führen Sie Experimente in Chargen (Batches) durch.
Die Werkzeuge: Sie können entweder ein smartes Modell verwenden, um das Rezept anzupassen (Methode A), oder eine strenge Balancierung nutzen, um Fairness zu gewährleisten (Methode B).
Das Ergebnis: Sie erhalten genauere Antworten darüber, was funktioniert – schneller und mit weniger Ressourcen, selbst wenn das Experiment komplex ist und sich in Echtzeit verändert.

Es ist wie der Wechsel vom Münzwurf zu einem GPS, das seine Route alle paar Kilometer neu berechnet, um sicherzustellen, dass Sie das Ziel so effizient wie möglich erreichen.

Technisches Resümee: Semiparametrische Effizienz in sequenziellen Experimenten via Durchschnittliche Propensity Score

1. Problemformulierung

Moderne experimentelle Settings, insbesondere bei der Evaluierung von KI-gestützten Diensten und Plattform-Interventionen, weichen häufig von klassischer i.i.d.-Stichprobenziehung (identisch und unabhängig verteilt) ab. Zuweisungen sind oft adaptiv, über Kovariaten ausbalanciert oder durch operative Grenzen wie Exposure-Caps, Behandlungsbudgets und Fairness-Anforderungen beschränkt. Diese Merkmale induzieren Abhängigkeiten zwischen den Beobachtungen, wodurch die klassische i.i.d.-basierte Effizienzentheorie als Leitfaden für das experimentelle Design unzureichend wird.

Das Paper adresset zwei zentrale Fragen:

Was ist der fundamentale Effizienzwert (Benchmark) für die Schätzung eines Ziel-kausalen Estimands in einem sequenziellen Experiment mit abhängigen Zuweisungen?
Wie können implementierbare Designs diesen Benchmark in der Praxis erreichen, insbesondere unter Berücksessen von Constraints wie verzögertem Feedback und der Notwendigkeit operativer Stabilität?

Die Autoren formalisieren das Setting unter Verwendung eines nicht-antizipierenden Design-Frameworks. Einheiten werden durch eine Zuweisungsreihenfolge $t=1,\dots,n$ indiziert, und die Behandlungszuweisung $A_t$ hängt nur von der Historie $\mathcal{F}_{t-1}$ und der aktuellen Kovariate $X_t$ ab, niemals von zukünftigen Outcomes oder Kovariaten. Dieses Framework vereinigt i.i.d.-Randomisierung, Offline-stratifizierte Designs und sequenzielle adaptive Designs.

2. Methodik und theoretischer Rahmen

2.1 Der induzierte durchschnittliche Propensity Score

Der zentrale theoretische Beitrag ist die Identifizierung des induzierten durchschnittlichen Propensity Scores als hinreichende Statistik für den Effizienzwert. Für jedes nicht-antizipierende Design $\text{ALG}$ ist der induzierte durchschnittliche Propensity $\bar{e}_a(x)$ definiert als:
$\bar{e}_a(x) := \frac{1}{n} \sum_{t=1}^n \mathbb{E}_{\text{ALG}}[e_t(a | x, \mathcal{F}_{t-1})]$
wobei $e_t$ die bedingte Zuweisungswahrscheinlichkeit zum Zeitpunkt $t$ ist.

2.2 Semiparametrische Untergrenze

Das Paper etabliert eine semiparametrische Untergrenze für reguläre, lokal unvoreingenommene Schätzer. Theorem 1 beweist, dass für jedes nicht-antizipierende Design die asymptotische Varianz eines Schätzers durch den i.i.d.-Effizienzwert unter dem induzierten durchschnittlichen Propensity $\bar{e}$ nach unten begrenzt ist:
$\text{Var}(T) \geq \frac{1}{n} V(\bar{e}) = \frac{1}{n} \mathbb{E}[\phi_{\bar{e}}(O)^2]$
wobei $\phi_{\bar{e}}$ die effiziente Einflussfunktion (EIF) unter dem fixen Propensity $\bar{e}$ ist.

Dieses Resultat impliziert, dass die statistische Komplexität adaptiver, balancierter oder beschränkter Designs auf ein einziges Objekt kollabiert: die durchschnittliche Behandlungs-Exposition, die über Kovariatenwerte hinweg alloziert wird. Operative Constraints (z. B. Budgetgrenzen) werden durch die Einschränkung der zulässigen Menge der durchschnittlichen Propensities integriert.

2.3 Generalisierte Neyman-Allokation

Für vektorwertige Zielgrößen (z. B. Multi-Behandlungs-Effekte) leitet das Paper eine generalisierte Neyman-Allokation her. Das optimale Design minimiert die Spur der Kovarianzmatrix der EIF, was zu einer Allokationsregel führt, bei der Behandlungsarme mit höherer bedingter Varianz in der effizienten Einflussfunktion eine größere Exposition erhalten. Für lineare Funktionale von Outcome-Mittelwerten reduziert sich dies auf die klassische Neyman-Allokationsregel.

3. Konstruktive Ansätze zum Benchmark

Das Paper schlägt zwei komplementäre, implementierbare Batch-adaptive Designs vor, die den theoretischen Benchmark annähern. Beide Methoden aktualisieren die Zuweisungsstrategie nur eine logarithmische Anzahl von Malen ( $B \asymp \log n$ ), was die Kompatibilität mit verzögertem Feedback und operativer Auditierbarkeit sicherstellt.

3.1 Route 1: Batch-adaptierte Regressionsanpassung (Regression Adjustment)

Dieser Ansatz konzentriert sich auf die Korrektur auf der Schätzerseite.

Mechanismus: Das Experiment wird in Batches unterteilt. Innerhalb eines Batches ist die Zuweisungsregel fixiert. Am Ende jedes Batches werden die Störparameter (Outcome-Regressionen und Zweitmoment-Funktionen) unter Verwendung von Cross-Fitting auf den akkumulierten Daten geschätzt. Die Zuweisungsregel für den nächsten Batch wird via Plug-in-Minimierung des Oracle-Design-Ziels aktualisiert.
Allgemeine Estimanden: Für allgemeine glatte Estimanden erreicht die Methode den Oracle-Benchmark, sofern die Störparameter-Schätzer mit einer Rate schneller als $n^{-1/4}$ konvergieren. Dies ist ein bekannter Engpass in der semiparametrischen Schätzung aufgrund des zweitordnungigen Plug-in-Bias.
Lineare Funktionale: Für lineare Funktionale von Outcome-Mittelwerten (z. B. Average Treatment Effects, Policy Values) hebt sich der Plug-in-Bias exakt auf, bedingt durch die Struktur der EIF. Folglich verschwindet der $n^{-1/4}$ -Engpass. Das Paper etabliert eine scharfe zweitordnungige Konvergenzrate von $O(n^{-1-2\alpha} \vee n^{-1-2\beta})$ , wobei $\alpha$ und $\beta$ die Konvergenzraten der Outcome-Regression bzw. der Zweitmoment-Schätzer sind. Eine passende untere Schranke beweist, dass diese Rate minimax-optimal ist.

3.2 Route 2: Batch-adaptierte Kovariaten-Balancierung (Covariate Balancing)

Dieser Ansatz konzentriert sich auf die Kontrolle auf der Designseite, um die Engpässe der Störparameterschätzung zu umgehen.

Mechanismus: Diese Route verwendet einen einfachen momentenbasierten Schätzer (keine Regressionsanpassung im finalen Schritt). Das Design erzwingt eine lokale Balance der kovariaten-indizierten Momentfunktionen innerhalb jedes Batches mittels räumlicher Binning-Verfahren und gruppierter Permutationen. Der Ziel-Propensity wird über die Batches hinweg basierend auf geschätzten Zweitmoment-Proxies aktualisiert.
Effizienz: Durch die Kontrolle des "Balancierungs-Rests" (der Abweichung vom Ziel-Propensity) innerhalb der Batches erreicht diese Methode den semiparimetrischen Benchmark $V^*/n$ , ohne dass eine nichtparametrische Schätzung der Störparameter im Schätzungsschritt erforderlich ist.
Trade-offs: Der Balancierungs-Rest zerfällt mit einer dimensionsabhängigen Rate von $O(m^{-1/(d+4)})$ für eine Batch-Größe $m$ . Somit ist diese Route am effektivsten in niedrigdimensionalen Settings oder wenn die effektive Dimension der Heterogenität gering ist.

4. Zentrale Ergebnisse und empirische Validierung

4.1 Theoretische Ergebnisse

Vereintes Framework: Der induzierte durchschnittliche Propensity Score vereinigt zuvor disparat erscheinende Effizienzbeschränkungen für adaptive, stratifizierte und lokale Randomisierungsdesigns unter einem einzigen nicht-antizipierenden Framework.
Auflösung von Vermutungen: Das Framework löst eine Vermutung von Cytrynbaum (2021) bezüglich der Effizienzbeschränkungen von Zwei-Stufen-Experimenten auf.
Minimax-Schärfe: Für lineare Funktionale liefert das Paper die erste Minimax-Charakterisierung der Konvergenzrate zum semiparametrischen Effizienzwert für allgemeine sequenzielle Experimente.

4.2 Numerische und empirische Studien

Die Autoren validieren ihre Methoden durch synthetische Simulationen und eine reale Anwendung:

Synthetische Experimente: Simulationen mit variierenden Dimensionen ( $d \in \{2,3,8\}$ ) und Heteroskedastizität zeigen, dass beide adaptiven Routen die uniforme Randomisierung signifikant übertreffen. Die Regressionsanpassungs-Route (RA) ist robust gegenüber hohen Dimensionen, während die Kovariaten-Balancierungs-Route (CB) am besten performt, wenn die Balancierungs-Partition mit der niedrigdimensionalen Struktur der Daten (effektive Dimension) übereinstimmt.
KI-Medizinischer Assistenten-Evaluierung: Unter Verwendung von Daten aus der HELPMed-Studie (Bean et al., 2026) evaluierten die Autoren mehrere KI-Assistenten gegenüber einer Baseline. Die adaptiven Designs reduzierten den normalisierten mittleren quadratischen Fehler (MSE) im Vergleich zur uniformen Randomisierung um etwa 5–8 %. Die Studie hob hervor, dass die Verwendung einer datenadaptiven, niedrigdimensionalen Partition für die CB-Route die Performance in hochdimensionalen Settings signifikant verbesserte.

5. Bedeutung und Ansprüche

Das Paper beansprucht, ein vereinheitlichtes Framework zur Charakterisierung und Gestaltung effizienter sequenzieller Experimente bereitzustellen. Die primäre Bedeutung liegt in:

Neukonzeption des Designs: Es verschiebt den Fokus des experimentellen Designs von der Optimierung komplexer, pfadabhängiger Zuweisungsmechanismen hin zum Lernen oder Wählen eines effizienten durchschnittlichen Propensity Scores.
Operative Machbarkeit: Durch den Nachweis, dass der Effizienzwert mit nur einer logarithmischen Anzahl von Policy-Updates angenähert werden kann, schließt das Paper die Lücke zwischen theoretischer Optimalität und operativen Constraints (verzögertes Feedback, Auditierbarkeit, Stabilität).
Praktische Flexibilität: Die beiden komplementären Routen (Regressionsanpassung und Kovariaten-Balancierung) bieten Praktikern Trade-offs: RA ist flexibel für hochdimensionale Settings, erfordert aber eine schnelle Schätzung der Störparameter; CB ist robust und einfach, erfordert jedoch eine sorgfältige Handhabung des Kovariatenraums.

Die Autoren kommen zu dem Schluss, dass der durchschnittliche Propensity Score als gemeinsame Sprache dient, um die statistischen Grenzen in der sequenziellen Experimentierung zu verstehen, was das Design effizienter Multi-Behandlungs-Experimente in modernen Anwendungen wie der Evaluierung von KI-Diensten ermöglicht.