The Nonparametric Kiefer-Weiss Problem

Technische Samenvatting: Het Nonparametrische Kiefer–Weiss Probleem

Probleemformulering
Dit artikel behandelt een nieuwe variant van het Kiefer–Weiss probleem, de Nonparametrische Kiefer–Weiss Problematiek (NPKWT) genoemd. Waar het klassieke Kiefer–Weiss probleem streeft naar het minimaliseren van de maximale verwachte steekproefomvang over een parametrische distributiefamilie onder foutrestricties, draait de NPKWT de doelstelling en het restrictiedomein om. Het doel is om een gewogen som van Type I- en Type II-foutkansen ($\alpha + z\beta$) te minimaliseren, onder een restrictie dat de verwachte steekproefomvang niet groter is dan een constante $c$ voor alle mogelijke kansverdelingen op de gegeven sequentieruimte. Formeel wordt het probleem gedefinieerd als:
$$\inf_{\psi \in I^\infty_c} \inf_{\delta \in I^\infty} \alpha(\delta, \psi) + z \beta(\delta, \psi)$$
waarbij $I^\infty_c$ de verzameling stopbeleid is waarvoor $E_P[T] \le c$ geldt voor alle $P \in \mathcal{M}(\mathcal{X}^\infty)$. De auteurs gaan uit van binaire hypothesen $H_0$ en $H_1$ met betrekking tot de i.i.d.-distributie van observaties, waarbij $P_1$ absoluut continu is ten opzichte van $P_0$.

Methodologie
De oplossing wordt afgeleid via een reductie tot een optimaal stopingsprobleem, waarbij gebruik wordt gemaakt van een "beperkte willekeur"-benadering om de oplossing voor het algemene geval te construeren.

1. Reductie tot Optimaal Stoppen: De auteurs tonen eerst aan dat het optimale beslissingsbeleid $\delta^*$ een likelihood ratio test (LRT) is. Dit reduceert het probleem tot het vinden van een optimaal stopbeleid $\psi$ dat de kostenfunctie $E_0[g(z \Lambda_T)]$ minimaliseert, waarbij $\Lambda_T$ de likelihood ratio is bij de stoptijd en $g(z) = \min\{1, z\}$.
2. Beperkte Willekeur ($k$-randomisatie): De auteurs introduceren een reeks subproblemen waarbij het aantal gerandomiseerde stopbeslissingen beperkt is tot $k$. Ze definiëren een kostenfunctie $\rho_k(z, c)$ die de minimale kosten vertegenwoordigt met maximaal $k$ randomisaties.
   • Voor $k=0$ (deterministisch), reduceert de optimale test tot een Fixed-Sample-Size Test (FSST) met een steekproefomvang van $\lfloor c \rfloor$.
   • Voor $k \ge 1$ leiden de auteurs een recursieve Bellman-achtige vergelijking (Lemma 4.3) af die $\rho_k$ relateert aan $\rho_{k-1}$. Dit houdt in dat een functie $r_k(z, b)$ wordt gemaximaliseerd over een potentiële "budget" $b$ van resterende steekproeven.
3. Onbeperkte Willekeur ($k \to \infty$): De oplossing voor het oorspronkelijke probleem wordt verkregen door de limiet te nemen van $\rho_k$ als $k \to \infty$.
   • Kernstructuurresultaat: In tegen tegenstelling tot het beperkte geval, wordt aangetoond dat de limietfunctie $\rho(z, \cdot)$ convex en stuksgewijs lineair is met breukpunten op gehele getallen. Deze eigenschap vereenvoudigt de optimale stopregel aanzienlijk.
   • Optimaal Beleid: De optimale stopregel wordt gekenmerkt door een tweedimensionale teststatistiek $(z_t, c_t)$, waarbij $z_t$ de likelihood ratio is en $c_t$ de verwachte resterende steekproefomvang bijhoudt. De stopkans wordt bepaald door een functie $m^*(z)$, die de likelihood ratio naar een geheel getal aan steekproefomvang mapt. De regel is:
     $$\psi^*_t = 1 - \frac{c_t}{\max\{c_t, m^*(z_t)\}}$$
     Als $c_t < m^*(z_t)$, stopt de test met een kans van $1 - c_t/m^*(z_t)$; anders gaat de test met zekerheid door.

Belangrijkste Bijdragen en Resultaten

• Bestaan en Karakterisering: Het artikel bewijst het bestaan van een optimaal stopbeleid en karakteriseert het als de oplossing van een nietlineaire Bellman-vergelijking (Eq. 17).
• Tweedimensionale Statistiek: Het optimale beleid steunt op een tweedimensionale toestand: de likelihood ratio en het resterende steekproefbudget. Dit contrasteert met standaard Sequential Probability Ratio Tests (SPRT's), die doorgaans vertrouwen op een eendimensionale likelihood ratio met vaste drempelwaarden.
• Rol van Randomisatie: De optimale strategie maakt expliciet gebruik van randomisatie om de resterende verwachte steekproefomvang voor sommige runs te "vergroten", terwijl er voor andere runs eerder wordt gestopt. Dit mechanisme stelt de test in staat om de worst-case verwachte steekproefomvang te voldoen voor alle distributies, terwijl de foutkansen worden geminimaliseerd.
• Robuustheid en Niet-afgekapte Natuur:
  • De NPKWT vertoont een "gelijkmaking van kosten"-eigenschap: de verwachte steekproefomvang is constant ($c$) voor alle mogelijke observatiesequenties, waardoor elke distributie "minst gunstig" is.
  • In tegenstelling tot veel parametrische Kiefer–Weiss tests is de NPKWT niet-afgekapt (untruncated); de stoptijd is ondersteund op alle niet-negatieve gehele getallen, hoewel de verwachting begrensd blijft.
• Benaderingen: De auteurs stellen twee praktische benaderingen voor de optimale mapping $m^*(z)$ voor, gebaseerd op het geval met één randomisatie ($k=1$) en asymptotische analyse ($z \to 0, \infty$). Deze benaderingen laten zien de optimale steekproefomvang te begrenzen en zijn computationeel efficiënt.
• Numerieke Validatie: Twee numerieke voorbeelden (Bernoulli-shift en Normaal-gemiddelde-shift) illustreren de resultaten. De simulaties tonen aan dat het toestaan van zelfs een enkele randomisatie ($k=1$) de foutkans aanzienlijk vermindert vergeleken met deterministische FSST's ($k=0$), met verdere marginale winsten naarmate $k \to \infty$. De verdelingen van de stoptijden vertonen zware rechterstaarten, wat consistent is met de niet-afgekapte aard van het beleid.

Betekenis en Claims
Het artikel beweert een fundamenteel probleem in de sequentiële analyse op te lossen door het Kiefer–Weiss kader uit te breiden naar een nonparametrische setting. De significantie ligt in:

1. Robuustheid: De NPKWT biedt een test die robuust is tegen modelmismatch, aangezien deze geoptimaliseerd is voor de slechtste distributie in plaats van een specifieke parametrische familie.
2. Theoretisch Inzicht: Het onthult dat optimaal nonparametrisch sequentieel testen gerandomiseerde stopregels en een tweedimensionale toestandsruimte vereist, wat de intuïtie uitdaagt dat optimale tests altijd drempelgebaseerd zijn op de likelihood ratio.
3. Praktisch Nut: Hoewel de exacte oplossing het oplossen van een integraalvergelijking met zich meebrengt, betogen de auteurs dat de NPKWT essentieel een "geaugmenteerde SPRT" is die robuust is tegen afwijkingen van de optimale mapping $m^*$. Dit suggere heeft dat de voorgestelde benaderingen in de praktijk gebruikt kunnen worden met minimale computationele overhead, wat een levensvatbaar alternatief biedt voor conventionele Kiefer–Weiss tests die vaak complexe, tijdsafhankelijke drempels vereisen.

De auteurs concluderen dat hoewel de NPKWT van theoretisch belang is, de robuustheid en de beschikbaarheid van eenvoudige benaderingen het een aantrekkelijke keuze maken voor praktische toepassingen waar de modelonzekerheid hoog is. Openstaande vragen betreffen de grenzen van de winst ten opzichte van FSST's en de monotoniciteit van de optimale steekproefomvang met betrekking tot het aantal toegestane randomisaties.