Optimal e-variables under constraints

1. Problématique et Contexte

Les variables e (e-variables) constituent une fondation pour l'inférence statistique sûre et valide à tout moment (anytime-valid). Une variable aléatoire non négative $E$ est une e-variable pour une hypothèse nulle $H_0$ (un ensemble de distributions) si $\sup_{P_0 \in H_0} \mathbb{E}_{P_0}[E] \le 1$. La valeur observée d'une telle variable est appelée une e-value.

Dans le cadre non contraint, il est bien établi que les e-variables optimales en termes de taux de croissance logarithmique (GROW - Growth-Rate Optimal in Worst Case) sont données par le rapport de vraisemblance entre les distributions les plus défavorables (LFD - Least Favorable Distributions), lorsqu'elles existent.

Cependant, dans de nombreuses applications réelles, des contraintes structurelles doivent être imposées sur les e-variables, notamment :

• Confidentialité différentielle locale (LDP) : L'observateur ne voit qu'une version bruitée des données.
• Quantification : Les données doivent être transmises avec une précision finie (bits limités).
• Bornitude : Les e-variables doivent être bornées dans un intervalle $[c_1, c_2]$ pour assurer la stabilité numérique ou la robustesse.
• Contraintes intégrales convexes bornées : Limitation des moments (ex: variance) sous l'hypothèse nulle.

La question centrale de l'article est : Comment construire des e-variables optimales sous ces contraintes structurelles dans des tests d'hypothèses composites ? Intuitivement, on pourrait s'attendre à ce que chaque contrainte nécessite de résoudre un problème d'optimisation entièrement nouveau, ignorant la solution non contrainte.

2. Méthodologie : Le Principe "Optimiser puis Contraindre"

L'apport principal de l'article est la démonstration d'un principe structurel unificateur : "Optimize-then-constrain" (Optimiser puis Contraindre).

Les auteurs montrent que, sous certaines conditions (notamment l'existence d'une paire de distributions les plus défavorables), la solution contrainte optimale peut être obtenue en deux étapes simples :

1. Étape 1 : Calculer la e-variable log-optimale non contrainte (généralement le rapport de vraisemblance entre les LFD).
2. Étape 2 : Imposer la contrainte structurelle via une transformation déterministe ou aléatoire appropriée de cette solution non contrainte.

Ainsi, le problème d'optimisation du taux de croissance sous contrainte ne nécessite pas de trouver une nouvelle paire de LFD ; la solution contrainte est simplement un post-traitement de la solution non contrainte.

3. Contributions et Résultats Clés

Les auteurs dérivent des solutions exactes et sous forme fermée pour quatre classes de contraintes distinctes, tant dans le cadre simple-vs-simple que composite (avec LFD).

A. Confidentialité Différentielle Locale (LDP)

• Contexte : L'observateur reçoit une sortie $Y$ générée à partir de $X$ via un canal randomisé satisfaisant la contrainte $\epsilon$-LDP.
• Résultat : Pour le cas binaire (sortie $\{0, 1\}$), les auteurs caractérisent le mécanisme optimal qui maximise la divergence de Kullback-Leibler (KL) entre les marginales induites.
• Structure : La e-variable LDP optimale est une transformation aléatoire du rapport de vraisemblance non contraint $L(X) = dP_1/dP_0$. Elle dépend d'un seuil $t$ et d'une variable aléatoire uniforme indépendante.
• Extension : Ce résultat s'étend aux hypothèses composites en utilisant la paire LFD $(P^*_0, P^*_1)$. La e-variable optimale privée est une transformation de $L^*(X) = dP^*_1/dP^*_0$.

B. Quantification (Quantization)

• Contexte : La e-variable ne peut prendre qu'un nombre fini de valeurs (cas étudié : deux valeurs $\{u_0, u_1\}$).
• Résultat : La solution optimale est une fonction en escalier définie par un seuil sur le rapport de vraisemblance.
• Structure : $E^* = u_1$ si $L(X) > t^*$, et $u_0$ sinon. Les valeurs $u_0, u_1$ et le seuil $t^*$ sont déterminés de manière à maximiser la croissance logarithmique sous la contrainte de validité. C'est une transformation monotone du rapport de vraisemblance.

C. Bornitude (Boundedness)

• Contexte : La e-variable doit être presque sûrement contenue dans un intervalle $[c_1, c_2]$.
• Résultat : La solution est un écrêtage (clipping) déterministe du rapport de vraisemblance normalisé.
• Formule : $E^* = \min(c_2, \max(c_1, L(X)/\lambda^*))$, où $\lambda^*$ est une constante de normalisation assurant $\mathbb{E}_{P_0}[E^*] = 1$.
• Signification : Cela illustre parfaitement le principe "Optimiser puis Contraindre" : on prend la solution optimale et on la projette sur l'intervalle autorisé.

D. Contraintes Intégrales Convexes Bornées

• Contexte : Imposition d'une borne sur l'espérance d'une fonction convexe $\phi(E)$ sous l'hypothèse nulle (ex: variance bornée $\mathbb{E}[E^2] \le C$).
• Résultat : Sous des conditions de convexité stricte et de superlinéarité de $\phi$, la e-variable optimale est une transformation monotone strictement croissante du rapport de vraisemblance.
• Structure : $E^* = \psi(L(X))$, où $\psi$ est déterminée par les multiplicateurs de Lagrange associés aux contraintes.

E. Généralisation aux Tests Composites (Théorème 6.1)

C'est le résultat théorique central qui lie les cas simples aux cas composites.

• Hypothèse : Une paire de distributions les plus défavorables (LFD) $(P^*_0, P^*_1)$ existe pour les ensembles composites $P_0$ et $P_1$.
• Condition : Si la solution optimale pour le cas simple $(P^*_0, P^*_1)$ sous contrainte est une transformation monotone non décroissante du rapport de vraisemblance, alors cette même transformation appliquée à $L^*(X)$ est la solution optimale pour le problème composite.
• Conclusion : La structure de la solution se "lève" naturellement du cas simple au cas composite via les LFD.

4. Limites et Contre-exemple

L'article met en garde contre l'application universelle de ce principe sans l'existence de LFD.

• Contre-exemple : Les auteurs présentent un cas où l'hypothèse nulle est composite (moyenne bornée) et l'alternative est simple, mais où aucune paire LFD n'existe.
• Résultat : Dans ce scénario, le principe "Optimiser puis Contraindre" échoue. La solution obtenue en tronquant la e-variable non contrainte optimale (numéraire) est strictement sous-optimale par rapport à une solution qui serait optimisée directement sous contrainte.
• Implication : L'existence d'une paire LFD est une condition nécessaire pour garantir que la solution contrainte est une simple transformation de la solution non contrainte.

5. Signification et Impact

1. Unification Théorique : L'article fournit un cadre unifié pour comprendre comment les contraintes structurelles affectent l'optimalité des tests statistiques basés sur les e-values. Il réduit des problèmes d'optimisation complexes à des transformations postérieures simples.
2. Applications Pratiques : Les résultats offrent des formules explicites pour concevoir des tests robustes dans des environnements réels où la confidentialité (LDP), la bande passante (quantification) ou la stabilité numérique (bornitude) sont critiques.
3. Extension des Utilités : Bien que l'article se concentre sur l'utilité logarithmique (croissance de capital), les preuves suggèrent que ces principes s'étendent à une large classe de fonctions d'utilité concaves et croissantes.
4. Limites Identifiées : L'article clarifie les frontières de validité de cette approche, soulignant que sans LFD, la structure peut s'effondrer, nécessitant une analyse cas par cas.

En résumé, ce papier démontre que pour une large classe de problèmes de tests d'hypothèses composites avec des distributions les plus défavorables, la complexité des contraintes structurelles ne nécessite pas de repenser l'optimisation de zéro, mais peut être gérée efficacement par une transformation appropriée de la solution de base non contrainte.