🔬 applied physics

Weighted Bayesian Conformal Prediction

Ce papier propose la Prédiction Bayésienne Conformée Pondérée (WBCP), une méthode qui généralise la Prédiction Bayésienne Conformée aux scénarios de décalage de distribution en remplaçant la distribution Dirichlet uniforme par une version pondérée, permettant ainsi d'obtenir des garanties de couverture conditionnelles et des diagnostics d'incertitude plus riches tout en maintenant des garanties théoriques solides.

Auteurs originaux : Xiayin Lou, Peng Luo

Publié 2026-04-09

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Xiayin Lou, Peng Luo

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🌧️ Le Prédicteur et son "Météo" : Pourquoi la confiance compte autant que la prédiction

Imaginez que vous êtes un prévisionniste météo. Votre travail est de dire : "Demain, il pleuvra".
Mais il y a deux façons de regarder cette prédiction :

La Prédiction elle-même (Niveau 1) : "Il va pleuvoir." C'est la réponse directe.
La Confiance dans la prédiction (Niveau 2) : "Suis-je sûr de moi ? Ai-je assez de données pour le dire ?"

La plupart des systèmes d'intelligence artificielle actuels sont comme des prévisionnistes qui vous donnent juste la réponse (1), mais qui gardent le silence sur leur niveau de confiance (2). C'est dangereux ! Si vous êtes dans une zone où il n'y a aucune donnée météo, dire "il va pleuvoir" avec la même assurance que dans une zone bien équipée, c'est risqué.

Ce papier, intitulé WBCP (Prédiction Conformale Bayésienne Pondérée), propose une solution brillante pour combler ce vide.

🧩 Le Problème : Deux défauts majeurs

Les chercheurs ont identifié deux problèmes dans les méthodes actuelles :

Le problème de la "Météo Décalée" (Distribution Shift) : Imaginez que votre modèle a été entraîné avec des données de Paris (ville dense), mais que vous devez l'utiliser à la campagne (zones isolées). Les données sont différentes. Les méthodes classiques (comme la "Prédiction Conformale Pondérée") savent ajuster les prédictions pour ces différences, mais elles donnent toujours une seule réponse fixe, sans dire si elles sont "à l'aise" ou "stressées" par ce changement.
Le problème de l' "Aveuglement" (Meta-Uncertainty) : Une méthode récente (BQ-CP) a essayé de mesurer cette confiance en disant : "Voici une fourchette de réponses possibles". Mais elle ne fonctionne que si les données sont parfaites et identiques partout (comme des pièces de monnaie parfaitement équilibrées). Dès qu'il y a des zones pauvres en données ou des changements, elle s'effondre.

Le résultat ? Nous avons soit des méthodes qui s'adaptent aux changements mais ne disent pas si elles sont sûres, soit des méthodes qui disent si elles sont sûres mais qui ne s'adaptent pas aux changements.

💡 La Solution : WBCP, le "Système de Confiance Dynamique"

Les auteurs (Xiayin Lou et Peng Luo) ont créé WBCP. C'est comme donner à notre prévisionniste un radar de confiance en temps réel.

L'analogie du "Compte de Banquier" (L'Échantillon Effectif)

Imaginez que vous essayez de prédire le prix d'une maison à Seattle.

Cas A : Vous avez 200 maisons similaires dans le même quartier. C'est une confiance totale.
Cas B : Vous avez 5 maisons, mais elles sont à 50 km de là, dans un tout autre style de quartier. C'est une confiance faible.

Les méthodes classiques traitent souvent ces deux cas de la même manière (en disant "voici le prix").
WBCP, lui, utilise un concept appelé $n_{eff}$ (Taille d'échantillon effective).

Dans le Cas A, le système dit : "J'ai l'équivalent de 200 données solides. Ma prédiction est précise, ma fourchette d'erreur est petite."
Dans le Cas B, le système dit : "J'ai l'équivalent de seulement 5 données (ou même moins, car elles sont mal placées). Ma prédiction est incertaine, ma fourchette d'erreur doit être énorme pour être honnête."

Comment ça marche ? (La recette magique)

Le Poids (La pondération) : Le système regarde chaque donnée et lui donne un "poids". Une donnée proche et pertinente a un gros poids. Une donnée lointaine a un petit poids.
La Transformation Bayésienne : Au lieu de prendre juste la moyenne de ces poids, WBCP imagine un jeu de dés. Il imagine des milliers de scénarios possibles basés sur ces poids.
- Si les données sont bonnes (beaucoup de poids), tous les dés tombent sur le même chiffre : la prédiction est stable.
- Si les données sont mauvaises (peu de poids), les dés tombent partout : la prédiction est très variable.
Le Résultat : Au lieu de vous donner un seul chiffre, WBCP vous donne une carte complète de la confiance. Il vous dit : "Voici la prédiction, et voici à quel point elle pourrait varier si nous avions eu un tout petit peu plus ou moins de données."

🗺️ L'Application Réelle : La Carte de Confiance

Pour tester leur idée, les auteurs l'ont appliquée à la prédiction des prix de l'immobilier à Seattle.

Sans WBCP : Le système donne une fourchette de prix pour tout le monde.
Avec WBCP : Ils ont créé des cartes colorées :
- Zone Verte (Centre-ville) : Beaucoup de données, $n_{eff}$ élevé. La fourchette de prix est serrée. On peut faire confiance.
- Zone Rouge (Périphérie) : Peu de données, $n_{eff}$ faible. La fourchette de prix est très large. Le système vous prévient : "Attention, ici, je ne suis pas sûr de moi, le prix pourrait être très différent !"

C'est comme si, au lieu de vous donner juste la température, le prévisionniste vous disait : "Il fait 20°C, et je suis sûr à 99% que c'est entre 19 et 21°C" (Zone verte), ou "Il fait 20°C, mais je ne suis sûr qu'à 50% que c'est entre 10 et 30°C" (Zone rouge).

🚀 Pourquoi c'est important ?

Dans le monde réel (médecine, finance, conduite autonome), l'ignorance est dangereuse.

Si un médecin utilise une IA pour diagnostiquer un cancer, il doit savoir si l'IA est confiante ou si elle "devine" parce qu'elle n'a jamais vu ce type de patient.
Si une voiture autonome conduit dans un quartier qu'elle ne connaît pas, elle doit élargir sa marge de sécurité.

WBCP est la première méthode capable de dire : "Je m'adapte à votre situation (même si elle est différente de mon entraînement) ET je vous dis honnêtement à quel point je suis confiant."

En résumé

Imaginez un guide touristique :

Les anciens guides vous disaient juste : "Tournez à gauche." (Prédiction).
Les nouveaux guides (WBCP) disent : "Tournez à gauche. Je suis très sûr car j'ai visité ce chemin 100 fois. Mais si vous êtes dans ce quartier inconnu, tournez à gauche, mais gardez une marge de manœuvre, car je n'y suis allé qu'une fois et je ne connais pas les pièges."

C'est ça, WBCP : une prédiction intelligente qui sait quand elle ne sait pas.

1. Problématique et Contexte

Le papier aborde deux niveaux d'incertitude dans les systèmes de prédiction, souvent confondus ou traités séparément :

L'incertitude prédictive (Niveau 1) : La probabilité que la vraie valeur $Y$ tombe en dehors de l'intervalle de prédiction $[\hat{f}(X) \pm \hat{q}]$ . La Prédiction Conformée (CP) standard résout ce problème en fournissant des intervalles avec des garanties de couverture marginales (sans hypothèse de distribution), mais elle produit un seuil $\hat{q}$ déterministe unique.
La méta-incertitude (Niveau 2) : L'incertitude sur le seuil $\hat{q}$ lui-même. Est-il bien déterminé par les données de calibration ? Une largeur d'intervalle identique peut provenir de 200 points de calibration pertinents (seuil fiable) ou de 5 points distants (seuil très incertain). La CP standard ne quantifie pas cette fiabilité.

Limites des approches existantes :

CP Standard : Ne gère pas les décalages de distribution (covariate shift) et ignore la méta-incertitude.
CP Pondérée (Weighted CP) : Gère les décalages de distribution via des poids d'importance, mais reste fréquentiste (seuil déterministe unique), ne fournissant aucune information sur la fiabilité de ce seuil.
BQ-CP (Bayesian Quadrature for CP) : Introduit par Snell & Griffiths (2025), cette méthode modélise l'incertitude du seuil via une distribution a posteriori (Dirichlet) pour fournir des garanties conditionnelles aux données. Cependant, elle repose strictement sur l'hypothèse de données i.i.d. (indépendantes et identiquement distribuées), ce qui la rend inapplicable aux scénarios de décalage de distribution ou de prédiction spatiale.

Le vide à combler : Aucune méthode n'offre simultanément la robustesse aux décalages de distribution (poids non uniformes) ET la quantification de la méta-incertitude (distribution a posteriori du seuil).

2. Méthodologie : WBCP (Weighted Bayesian Conformal Prediction)

Les auteurs proposent WBCP, une généralisation de BQ-CP aux contextes pondérés par l'importance.

Principe Fondamental

L'idée centrale est de remplacer la distribution Dirichlet uniforme de BQ-CP, $Dir(1, \dots, 1)$ , par une Dirichlet pondérée :
$Dir(n_{eff} \cdot \tilde{w}_1, \dots, n_{eff} \cdot \tilde{w}_n)$
où :

$\tilde{w}_i$ sont les poids d'importance normalisés (issus du décalage de distribution, de la géographie, etc.).
$n_{eff}$ est la taille d'échantillon effective de Kish, définie par :
$n_{eff} = \frac{(\sum w_i)^2}{\sum w_i^2}$

Justification Théorique

Bootstrap Bayésien Pondéré : La construction s'appuie sur le bootstrap bayésien pondéré (Newton & Raftery, 1994). Lorsque les poids sont uniformes, $n_{eff} = n$ et la méthode retrouve exactement BQ-CP.
Calibration de la Variance : Le choix de $n_{eff}$ comme paramètre de concentration est unique car il assure que la variance a posteriori bayésienne correspond asymptotiquement à la variance d'échantillonnage fréquentiste de l'estimateur pondéré.
Algorithme :
1. Calculer les scores de non-conformité $\rho_i$ et les poids $w_i$ .
2. Calculer $n_{eff}$ .
3. Échantillonner $M$ vecteurs $u^{(m)}$ depuis $Dir(n_{eff} \cdot \tilde{w})$ .
4. Pour chaque échantillon, déterminer le seuil $\lambda^{(m)}$ correspondant au quantile pondéré.
5. Construire la distribution a posteriori $p(\lambda | D, w)$ et extraire le seuil HPD (Highest Posterior Density) pour un niveau de confiance $\beta$ .

Application Spatiale : GeoBCP

Les auteurs appliquent WBCP à la prédiction spatiale en utilisant des noyaux gaussiens pour définir les poids en fonction de la distance géographique. Cela permet d'obtenir des distributions a posteriori spécifiques à chaque lieu de test.

3. Contributions Théoriques Clés

Le papier établit quatre résultats théoriques majeurs :

Cohérence de Calibration (Théorème 1) : Prouve que $n_{eff}$ est le seul paramètre de concentration qui aligne la variance de la distribution a posteriori bayésienne avec la variance fréquentiste de l'estimateur pondéré.
Concentration du Postérieur (Théorème 2) : Démonstre que l'écart-type du postérieur $\sigma_{post}$ décroît à un taux de $O(1/\sqrt{n_{eff}})$ . Cela signifie que là où la taille d'échantillon effective est faible (zones peu denses), l'incertitude sur le seuil est grande, et inversement.
Dominance Stochastique Pondérée (Théorème 3) : Généralise la garantie de dominance stochastique de BQ-CP aux contextes pondérés. Cela permet d'obtenir des garanties conditionnelles aux données pour chaque profil de poids spécifique.
Borne de Couverture Conditionnelle (Théorème 5) : Montre que le seuil HPD améliore la couverture conditionnelle par rapport au taux marginal $\alpha$ d'un terme de l'ordre de $O(1/\sqrt{n_{eff}})$ . Cette amélioration est automatique et plus forte là où les données sont rares (faible $n_{eff}$ ).

4. Résultats Expérimentaux

Les expériences ont été menées sur des données synthétiques et réelles (prix de l'immobilier à Seattle).

Couverture : WBCP (et sa variante spatiale GeoBCP) maintient une couverture supérieure ou égale à l'objectif (ex: 90%), souvent légèrement supérieure aux méthodes de référence (CP standard, CP pondérée), confirmant la validité des garanties.
Informations d'incertitude :
- Contrairement aux autres méthodes, WBCP fournit $\sigma_{post}$ (l'incertitude sur la largeur de l'intervalle) et $n_{eff}$ (le nombre de points de calibration effectifs).
- Dans les données spatiales, $\sigma_{post}$ est fortement corrélé à la densité des données et au bruit : les zones urbaines denses ont des intervalles étroits et fiables (faible $\sigma_{post}$ ), tandis que les zones périphériques ont des intervalles larges et incertains (fort $\sigma_{post}$ ).
Comparaison :
- CP Standard : Intervalle fixe, aucune information sur la fiabilité.
- GeoCP (Pondéré) : Intervalle adaptatif, mais toujours un seuil unique sans mesure de fiabilité.
- GeoBCP (WBCP) : Intervalle adaptatif + carte de fiabilité ( $\sigma_{post}$ ) + carte de densité effective ( $n_{eff}$ ).

5. Signification et Impact

Combler le fossé théorique : WBCP est la première méthode à unifier la robustesse aux décalages de distribution (via les poids) et la quantification de la méta-incertitude (via le postérieur bayésien).
Diagnostic interprétable : La méthode fournit des outils de diagnostic cruciaux pour les applications à haut risque (médical, financier, spatial). La carte de $n_{eff}$ permet d'identifier où les prédictions manquent de support statistique, guidant ainsi la collecte de données ciblée.
Adaptativité automatique : Le niveau de conservatisme de l'intervalle s'adapte automatiquement à la qualité des données locales via $n_{eff}$ , sans nécessiter de réglage manuel supplémentaire.
Généralité : Bien que démontré sur la prédiction spatiale, le cadre s'applique à tout scénario utilisant la CP pondérée : adaptation de domaine, prédiction équitable, et correction de décalage de covariable.

En résumé, WBCP transforme la prédiction conformée d'un outil produisant des intervalles "aveugles" en un système d'inférence probabiliste complet, capable de dire non seulement où prédire, mais aussi à quel point on peut faire confiance à cette prédiction dans des environnements hétérogènes.