Résumé Technique : Prédiction Conforme en Ligne Sans Paramètre et Conditionnelle par Groupe

1. Cadre du Problème et Motivation

Les modèles d'apprentissage automatique sont de plus en plus déployés dans des environnements à enjeux élevés et non stationnaires (ex. : triage médical, véhicules autonomes) où les distributions de données évoluent au fil du temps, violant ainsi l'hypothèse d'échangeabilité requise par la prédiction conforme (CP) standard. La Prédiction Conforme en Ligne (OCP) répond à cela en générant une séquence d'ensembles de prédiction pour des flux de données adverses. Cependant, les méthodes OCP standard ne garantissent généralement que la couverture marginale (c'est-à-dire que le taux d'erreur global tend vers $1-\alpha$). Cette garantie marginale peut masquer une sous-couverture systématique pour des sous-populations spécifiques, entraînant des problèmes d'équité et de sécurité.

Bien que des travaux antérieurs aient proposé l'OCP Conditionnelle par Groupe (G-OCP) pour garantir des garanties de couverture pour des groupes spécifiques, les méthodes existantes (ex. : GCACI) reposent sur des taux d'apprentissage (pas de calcul) qui doivent être ajustés manuellement. Dans des environnements de données adverses ou changeantes, l'ajustement des taux d'apprentissage est problématique car :

1. Aucun ensemble de validation n'est disponible pour l'ajustement.
2. Des décalages de données arbitraires peuvent rendre inapproprié un taux d'apprentissage auparavant "bon".
3. Les méthodes OCP sans paramètre existantes (ex. : UP-OCP) n'atteignent que la couverture marginale, et non les garanties conditionnelles par groupe.

Le problème central abordé est la conception d'un algorithme OCP sans paramètre qui fournit simultanément des garanties rigoureuses de couverture conditionnelle par groupe sans nécessiter d'ajustement manuel d'hyperparamètres.

2. Méthodologie : POGO

Les auteurs proposent POGO (Portfolios for Online Group Conformal), le premier algorithme sans paramètre pour la G-OCP, basé sur le concept de l'optimisation de Portefeuille Universel (UP), précédemment appliqué à l'OCP marginal (UP-OCP), et l'étendant pour gérer plusieurs groupes superposés.

2.1 Formulation du Problème

Étant donné un flux de données $(X_t, Y_t)$ et un prédicteur $\hat{Y}_t$, l'objectif est d'apprendre une séquence de rayons $\tau_t$ telle que l'intervalle de prédiction $I_t = [\hat{Y}_t - \tau_t, \hat{Y}_t + \tau_t]$ satisfasse :
$$\lim_{T \to \infty} \left| \frac{1}{T_j} \sum_{t=1}^T \mathbb{1}\{Y_t \in I_t\} c_j(X_t) - (1-\alpha) \right| = 0$$
pour tous les groupes $k$, où $c_j(X_t) \in [0, 1]$ est une fonction indicatrice souple de l'appartenance au groupe, et $T_j$ est le décompte cumulé du groupe $j$.

2.2 Paramétrage Linéaire

Contra�à l'OCP standard qui apprend un rayon scalaire, POGO apprend un vecteur de paramètres $k$-dimensionnel $\theta_t \in \mathbb{R}^k$. Le rayon est paramétré comme une fonction linéaire du vecteur d'appartenance au groupe $c(X_t)$ :
$$\tau_t(X_t) = \langle \theta_t, c(X_t) \rangle$$
Cela permet à l'algorithme d'attribuer des rayons différents en fonction des appartenances spécifiques aux groupes d'un échantillon, tout en garantissant la production d'un intervalle de prédiction unique et unifié.

2.3 Mécanisme d'Optimisation de Portefeuille

POGO traite l'apprentissage de $\theta_t$ comme un problème d'optimisation de portefeuille.

1. Sous-gradients comme Erreurs : L'algorithme définit une perte de quantile (perte pinball) pour chaque groupe. Le sous-gradient $g_t$ de cette perte quantifie l'erreur de sous-couverture. Plus précisément, la $j$-ième entrée de la somme cumulée des sous-gradients $\sum g_{t,j}$ correspond à l'erreur de sous-couverture pour le groupe $j$.
2. Processus de Richesse : Pour chaque groupe $j$, POGO construit un "marché" avec deux actions. Les rendements de ces actions dépendent de savoir si la prédiction couvre la vraie étiquette :
   • Si la prédiction manque (sous-couverture), une action génère un rendement élevé.
   • Si la prédiction couvre, l'autre action génère un rendement modeste.
3. Portefeuille Universel (UP) : POGO emploie l'algorithme de Portefeuille Universel pour apprendre une séquence de poids de portefeuille $\lambda_{t,j}$ pour chaque groupe $j$. Le but est de maximiser la croissance logarithmique de la "richesse" $W_{t,j}$ associée à chaque groupe.
4. Mise à jour des Paramètres : Les paramètres $\theta_{t,j}$ sont dérivés directement des processus de richesse $W_{t,j}$ et des poids de portefeuille $\lambda_{t,j}$, garantissant que les sous-gradients cumulés croissent lentement. Cette croissance lente se traduit directement par une sous-couverture conditionnelle par groupe bornée.

Crucialement, ce processus est sans paramètre ; il ne nécessite pas de taux d'apprentissage $\eta$ ou de pas de calcul, s'appuyant plutôt sur les propriétés intrinsèques de l'algorithme de Portefeuille Universel.

3. Principales Contributions

1. Premier Algorithme G-OCP Sans Paramètre : L'introduction de POGO, qui fournit des garanties de couverture conditionnelle par groupe sans ajustement manuel des taux d'apprentissage.
2. Garanties Rigoureuses en Temps de Fin de Parcours : Les auteurs établissent des bornes de couverture théoriques pour POGO. Le taux de sous-couverture pour le groupe $j$ est borné par :
   $$\text{MisCov}_T(c_j) \leq \frac{1}{T_j} \left[ U_T(k) + \sqrt{2T_j \alpha(1-\alpha) U_T(k)} \right]$$
   où $U_T(k)$ croît logarithmiquement avec le nombre de groupes $k$ et le temps $T$. Cela représente les meilleurs résultats connus de couverture par groupe en temps de fin de parcours.
3. Scalabilité Supérieure : L'analyse théorique montre que la borne d'erreur de POGO dépend logarithmiquement du nombre de groupes ($O(\ln k)$), alors que les méthodes dépendantes de paramètres existantes (comme GCACI) croissent en $\sqrt{k}$ et dépendent fortement du choix du taux d'apprentissage.
4. Sortie à Intervalle Unique : Contrairement aux approches naïves qui exécutent des algorithmes OCP séparés pour chaque groupe (produisant $k$ rayons différents), POGO produit un rayon $\tau_t$ unique pour chaque échantillon, évitant les problèmes d'intervalles conflictuels et les fuites potentielles de confidentialité concernant l'appartenance au groupe.

4. Résultats Expérimentaux

Les auteurs évaluent POGO sur des jeux de données synthétiques et réels, en le comparant à GCACI (la norme actuelle pour la G-OCP conditionnelle par groupe) et UP-OCP (l'OCP marginal sans paramètre).

4.1 Expériences Synthétiques

• Scores Bornés et Variant Graduellement : POGO atteint les taux de couverture cibles à 3 % près pour tous les groupes et produit les rayons moyens les plus petits par rapport aux variantes de GCACI. Il maintient une haute adaptivité, la plus longue séquence d'événements de sous-couverture consécutifs étant comparable à la meilleure version ajustée de GCACI.
• Changements Abrupts : Lorsque les distributions de données changent brusquement, POGO reste robuste. En revanche, GCACI avec un taux d'apprentissage fixe (même un bien ajusté comme $\eta=0,01$) souffre d'une faible adaptivité, présentant de longues séquences de sous-couverture jusqu'à ce que le taux d'apprentissage soit effectivement "ré-ajusté" par les données.
• Scores Croissants Non Bornés : Dans les scénarios où les scores de non-conformité croissent de manière quadratique pour un groupe spécifique, la plupart des variantes de GCACI échouent à atteindre la couverture cible. POGO atteint systématiquement une couverture plus proche des niveaux cibles, particparticulièrement pour des exigences de couverture élevées ($1-\alpha \in [0,9, 0,95]$).

4.2 Données Réelles

• MIMIC-IV (Durée de Séjour en Soins Intensifs) : En utilisant des données de patients (race, assurance, sexe comme groupes), POGO atteint une couverture comparable à GCACI mais avec des tailles d'ensembles de prédiction (rayons) plus petites.
• Marché Boursier (Apple, Delta, Boeing) : Pour la prédiction des prix quotidiens, Pogo démontre à nouveau une performance compétitive, atteignant la couverture cible avec des tailles d'ensembles plus petites que GCACI.
• Compromis : Bien que POGO présente parfois des séquences de sous-couverture consécutives légèrement plus longues que la meilleure version ajustée de GCACI dans certains régimes statiques spécifiques, il surpasse significativement GCACI dans les régimes dynamiques ou changeants où l'ajustement est impossible.

5. Signification et Revendications

L'article affirme que POGO pose les bases d'une quantification de l'incertitude juste et robuste dans les environnements changeants. En unifiant la couverture conditionnelle par groupe avec l'apprentissage en ligne sans paramètre, la méthode élimine le besoin d'ajustement manuel des hyperparamètres, ce qui constitue un goulot d'étranglement critique dans les contextes adverses ou non stationnaires.

Les auteurs soulignent que :

• POGO offre les meilleures bornes de couverture par groupe en temps de fin de parcours connues.
• Il atteint ces garanties sans la fragilité de la sélection du taux d'apprentissage.
• Il offre une solution pratique pour les applications à enjeux élevés où l'équité entre les sous-populations est requise, et où les distributions de données ne peuvent être supposées statiques ou échangeables.

L'article conclut modestement, notant que bien que POGO utilise une spécification linéaire pour les rayons, les travaux futurs pourraient explorer des modèles plus riches pour le rayon et étendre ces outils à d'autres formes de quantification de l'incertitude en ligne, telles que le calibrage.