Non-parametric finite-sample credible intervals with one-dimensional priors: a middle ground between Bayesian and frequentist intervals

Cet article propose une nouvelle méthode d'intervalles crédibles non paramétriques à échantillon fini, fondée sur des priors unidimensionnels, qui occupe une position intermédiaire entre les approches bayésiennes et fréquentistes en offrant un compromis pratique et philosophique pour l'estimation de la fonction de répartition et de la moyenne.

L'essentiel

Imaginez que vous êtes un chef cuisinier et que vous devez prédire le goût d'un énorme pot de soupe que vous n'avez pas encore goûté. Vous avez deux écoles de pensée pour faire cette prédiction :

1. L'école "Fidèle" (Fréquentiste) : Elle dit : « Si je refais cette recette 100 fois, dans 95 cas, ma prédiction sera correcte. » Mais le problème, c'est que pour cette soupe précise, devant vous, vous ne pouvez pas être sûr à 95 % qu'elle est bonne. C'est une statistique sur le long terme, pas sur l'instant présent.
2. L'école "Intuitive" (Bayésienne) : Elle dit : « Basé sur mon expérience passée et mon intuition, je suis à 95 % sûr que cette soupe est bonne. » Le problème ? Pour être aussi précis, vous devez connaître toutes les recettes possibles dans l'univers et avoir une opinion sur chacune d'elles. C'est trop compliqué et trop subjectif (tout le monde n'a pas la même intuition).

Le papier de Tim Ritmeester propose une troisième voie, un "juste milieu" savoureux.

Voici l'explication simple de cette nouvelle méthode, avec des analogies :

1. Le concept de base : La "Croyance Post-Intervention"

L'auteur propose une nouvelle règle du jeu. Imaginez que vous avez un ami (l'algorithme) qui regarde la soupe, fait des mesures, et vous donne un intervalle de confiance (par exemple : « La soupe est salée entre 1 et 2 grammes de sel »).

• La règle classique (Fréquentiste) : Vous ne pouvez faire confiance à cet intervalle que avant de voir le résultat. Une fois que vous voyez le chiffre, vous ne pouvez plus dire « j'ai 95 % de chances d'avoir raison ».
• La nouvelle règle (Ritmeester) : L'auteur dit : « Attendez ! Regardez l'intervalle que mon ami vous a donné. Sans avoir regardé la soupe vous-même, vous devriez pouvoir dire : J'ai au moins 95 % de confiance que la vérité est dans cette fourchette. »

C'est comme si votre ami vous donnait une boîte fermée. Vous ne savez pas ce qu'il y a dedans, mais vous savez que la méthode qu'il a utilisée pour choisir cette boîte est si fiable que vous pouvez parier 95 % de votre argent qu'elle contient la bonne réponse.

2. Le secret : Un seul ingrédient, pas tout le buffet

Pour que la méthode "Intuitive" (Bayésienne) fonctionne parfaitement, il faut connaître la probabilité de chaque ingrédient possible dans le monde (une "prior" multidimensionnelle). C'est comme essayer de deviner le goût d'une soupe en connaissant la probabilité de chaque grain de sel, chaque goutte d'eau et chaque brise de vent dans l'usine. C'est impossible.

La génialité de Ritmeester : Il dit : « On n'a pas besoin de connaître tout le buffet. On a juste besoin de connaître votre opinion sur un seul ingrédient (le paramètre qui nous intéresse, comme la quantité de sel). »

• Avantage : C'est beaucoup plus simple à utiliser (comme une recette simple).
• Résultat : On obtient un intervalle qui est presque aussi bon que la méthode complexe, mais sans la lourdeur administrative.

3. Les deux cas concrets (Les "Soupes" testées)

L'auteur a testé sa méthode sur deux problèmes courants :

• Le cas "Pourcentage" (CDF) : Combien de personnes dans une foule ont moins de 30 ans ?
  • Résultat : La méthode donne un intervalle parfait. C'est comme si votre ami avait regardé la foule et vous avait donné la réponse exacte avec la certitude promise.
• Le cas "Moyenne" (La température moyenne) : Quelle est la température moyenne d'une pièce ?
  • Résultat : L'intervalle est un peu plus large (plus prudent) que la méthode classique. C'est comme si votre ami disait : « Je suis sûr à 95 % que c'est entre 18°C et 22°C », alors que la méthode classique aurait dit « entre 19°C et 21°C ».
  • Pourquoi plus large ? Parce que l'auteur refuse de tricher. Il préfère être un peu plus large pour garantir que sa promesse de "95 % de confiance" est vraie, même si on regarde le résultat. C'est un prix à payer pour la sécurité.

4. Pourquoi c'est utile dans la vraie vie ?

Imaginez que vous prenez une décision importante (lancer un produit, arrêter un médicament) basée sur ces intervalles.

• Avec la méthode Fréquentiste, vous avez peur : « Et si ce coup-ci, la statistique me joue un tour ? »
• Avec la méthode Bayésienne, vous avez peur : « Mon intuition est-elle biaisée ? Ai-je bien choisi mes hypothèses ? »
• Avec la méthode de Ritmeester, vous avez un compromis rassurant :
  • Vous n'avez pas besoin de connaître toute la théorie du monde (juste votre avis sur le sujet).
  • Vous pouvez regarder le résultat et dire : « Ok, je fais confiance à ce chiffre. »
  • Vous pouvez même changer d'avis sur votre hypothèse initiale (votre "prior") et voir comment l'intervalle change, sans casser la règle de sécurité. C'est très flexible, comme un jeu de Lego.

En résumé

Ce papier propose un nouvel outil de prédiction qui se situe entre la rigueur froide des mathématiques pures et l'intuition subjective.

C'est comme si on vous donnait un parapluie :

• Le parapluie classique (Fréquentiste) vous protège s'il pleut souvent, mais pas forcément aujourd'hui.
• Le parapluie "Bayésien" est fait sur mesure, mais il faut connaître la météo de tous les pays du monde pour le construire.
• Le parapluie de Ritmeester est un parapluie robuste que vous pouvez construire vous-même avec juste une idée de la météo locale. Et le plus important : quand vous le voyez ouvert au-dessus de votre tête, vous pouvez être sûr à 95 % qu'il va vous protéger.

C'est une solution pratique, honnête et plus simple pour prendre des décisions dans l'incertitude.

Résumé technique

1. Problématique

L'article aborde la dichotomie classique entre les intervalles de confiance fréquentistes et les intervalles crédibles bayésiens, chacun présentant des avantages et des inconvénients majeurs :

• Approche Bayésienne : Offre une interprétation directe de la croyance (un intervalle à $p\%$ signifie qu'il y a $p\%$ de probabilité que le paramètre s'y trouve après observation des données). Cependant, elle nécessite la spécification d'une a priori sur tout l'espace des distributions (surtout en cas non-paramétrique), ce qui est souvent subjectif, complexe et difficile à mettre en œuvre.
• Approche Fréquentiste : Est objective et ne nécessite pas de a priori, mais l'interprétation de l'intervalle est limitée à la fréquence à long terme. Une fois les données et l'intervalle observés, on ne peut généralement pas assigner une probabilité de $p\%$ au fait que le paramètre soit dans l'intervalle (parfois, on peut même être certain qu'il n'y est pas). De plus, ces méthodes sont rigides face aux analyses séquentielles ou post-hoc.

Le défi : Trouver un compromis qui offre la flexibilité et l'interprétabilité bayésienne (croyance conditionnelle aux données) tout en évitant la complexité des a priori haute dimensionnelle, tout en conservant une validité rigoureuse pour des échantillons finis.

2. Méthodologie

L'auteur propose une nouvelle définition d'intervalle crédible qui se situe dans un « juste milieu » entre les deux paradigmes.

Définition de l'intervalle proposé :
Un ensemble crédible à $p\%$ pour un paramètre $\theta$ est défini de telle sorte que, après avoir observé l'intervalle (mais sans inspecter les données brutes), l'utilisateur doit attribuer au moins une croyance de $p\%$ au fait que $\theta$ se trouve dans cet intervalle.
Formellement, si $S_p$ est l'intervalle calculé à partir des données $X$ et d'une croyance a priori sur le paramètre $b(\theta)$, la condition de validité est :
$$b(\theta \in s \mid S_p = s) \ge p$$
Cette approche ne nécessite pas de spécifier une a priori sur l'espace complet des distributions, mais uniquement sur le paramètre d'intérêt $\theta$ (une dimension).

Algorithme de construction :
La méthode repose sur la construction d'une fonction de vraisemblance effective $l(\theta)$ basée sur une statistique résumée $m = M(X)$ (et non sur les données brutes $X$). L'intervalle est choisi pour satisfaire :
$$p \le \frac{\int_{S_p} l(\theta)b(\theta) d\theta}{\int_{-\infty}^{\infty} l(\theta)b(\theta) d\theta}$$
L'auteur propose deux implémentations concrètes pour des cas non-paramétriques :

1. Estimation de la Fonction de Répartition (CDF) : Estimation de $\theta = P(X < y)$.

   • Statistique résumée : $m$ = nombre d'échantillons inférieurs à $y$.
   • Vraisemblance : Distribution binomiale $l(\theta) = \binom{N}{m}\theta^m(1-\theta)^{N-m}$.
   • Résultat : L'intervalle satisfait la condition de validité avec égalité.

2. Estimation de la Moyenne (support borné) : Estimation de $\theta = E[X]$ sur $[0, 1]$.

   • Statistique résumée : $m = \hat{\mu} + Z$, où $\hat{\mu}$ est la moyenne empirique et $Z$ est une variable aléatoire uniforme sur $[-\delta, \delta]$.
   • Vraisemblance : Construite en utilisant les inégalités de Hoeffding pour borner la probabilité conditionnelle $b(m|\mu)$. La fonction $l(\mu)$ est définie par morceaux (exponentielle décroissante en dehors d'une zone centrale).
   • Résultat : L'intervalle satisfait la condition de validité par inégalité (plus conservateur).

3. Contributions Clés

• Nouvelle définition de crédibilité : Introduction d'un critère où la crédibilité est conditionnée à l'observation de l'intervalle mais pas des données brutes, comblant le fossé philosophique entre Bayes et Fréquentisme.
• Réduction de complexité : Démonstration qu'il est possible d'obtenir des intervalles crédibles non-paramétriques valides pour des échantillons finis en utilisant uniquement des a priori unidimensionnels, évitant ainsi le problème de l'inférence bayésienne non-paramétrique complète.
• Flexibilité pratique : La méthode permet l'analyse séquentielle (multiplication des fonctions de vraisemblance pour de nouveaux jeux de données) et l'exploration de différents a priori sans compromettre la validité, une propriété souvent absente des méthodes fréquentistes.
• Dérivations analytiques et numériques : Fourniture de formules explicites pour la CDF et la moyenne, avec validation numérique via des échantillonneurs de rejet ABC (Approximate Bayesian Computation).

4. Résultats

Les simulations et analyses asymptotiques montrent les propriétés suivantes :

• Validité : Les intervalles respectent la condition de validité ($b(\theta \in s | S_p=s) \ge p$). Pour la CDF, c'est une égalité exacte ; pour la moyenne, c'est une inégalité (l'intervalle est légèrement plus large que nécessaire pour garantir la validité).
• Précision (Largeur de l'intervalle) :
  • Petits échantillons : Grâce à l'utilisation de l'information a priori sur le paramètre, les intervalles proposés sont plus étroits que leurs équivalents fréquentistes.
  • Grand échantillons (Asymptotique) :
    • Pour la CDF, la largeur converge vers celle des intervalles fréquentistes standards (Clopper-Pearson) et bayésiens complets.
    • Pour la Moyenne, l'intervalle est asymptotiquement plus large que l'intervalle fréquentiste basé sur l'inégalité de Hoeffding. Pour $p=0.95$, il est environ 48,79 % plus large. Par rapport à l'approche bayésienne complète, il peut être jusqu'à 2,06 fois plus large dans le pire des cas (variance maximale).
• Robustesse : La méthode fonctionne sans hypothèse paramétrique sur la distribution sous-jacente $P(X)$, seulement sur le paramètre $\theta$.

5. Signification et Perspectives

Cet article propose un outil statistique pragmatique pour la prise de décision sous incertitude, particulièrement utile lorsque :

1. On souhaite une interprétation bayésienne (croyance dans l'intervalle après observation).
2. On ne peut pas ou ne veut pas spécifier un a priori complexe sur l'espace des distributions.
3. On dispose d'échantillons de taille modérée où les méthodes asymptotiques pures sont insuffisantes.

Limites et travaux futurs :

• La méthode pour la moyenne produit des intervalles plus larges que les méthodes asymptotiques bayésiennes. L'auteur suggère d'améliorer cela en choisissant une distribution de bruit $Z$ différente ou en utilisant des inégalités incorporant la variance.
• L'intégration potentielle avec les statistiques fiducielles pour justifier l'utilisation de a priori non informatifs dans des contextes non-paramétriques.
• L'extension de cette approche à d'autres statistiques et modèles au-delà de la CDF et de la moyenne.

En résumé, Ritmeester propose un « troisième chemin » qui conserve les avantages pratiques du bayésianisme (interprétation intuitive, flexibilité) tout en évitant ses pièges computationnels et subjectifs les plus lourds, offrant ainsi une alternative robuste pour l'inférence statistique non-paramétrique à échantillon fini.