Résumé technique : Inférence prédictive conditionnelle pour données structurées générales avec symétries de groupe

Énoncé du problème

L'article aborde une limitation fondamentale de l'inférence prédictive sans hypothèse de distribution : la dépendance aux garanties de couverture marginale par opposition au besoin pratique de couverture conditionnelle. Alors que la prédiction conforme standard (Vovk et al., 2005) garantit qu'un ensemble de prédiction couvre la cible vraie avec une probabilité $1-\alpha$ en moyenne sur toutes les réalisations des données (couverture marginale), elle échoue souvent à fournir une quantification valide de l'incertitude pour des sous-groupes spécifiques ou des réalisations locales des données, en particulier dans des contextes hétérogènes.

Les méthodes existantes tentant d'atteindre une couverture quasi-conditionnelle (par exemple, Gibbs et al., 2025 ; Hore et Barber, 2024) reposent généralement sur l'hypothèse d'échangeabilité (ou de données i.i.d.). Cependant, de nombreux jeux de données structurés réels — tels que les réseaux, les données en grappes et les modèles hiérarchiques — violent l'échangeabilité globale. Bien que des travaux récents de Dobriban et Yu (2024) aient introduit le cadre SymmPI pour gérer les symétries de groupe générales au-delà de l'échangeabilité, il ne fournit que des garanties de couverture marginale. Cela laisse un vide : il n'existe aucune méthode capable de gérer simultanément des structures complexes à symétrie de groupe (comme les réseaux ou les grappes) et de fournir des garanties de couverture conditionnelle s'adaptant à l'hétérogénéité locale.

Méthodologie : C-SymmPI

Les auteurs proposent C-SymmPI (Inférence Prédictive Symétrique Conditionnelle), un cadre unifié qui étend l'approche SymmPI pour atteindre une couverture quasi-conditionnelle sous des symétries de groupe générales.

Cadre central

1. Configuration théorique des groupes : Les données $Z$ sont supposées invariantes en distribution sous une action de groupe $\rho$ d'un groupe $G$ (c'est-à-dire $Z \stackrel{d}{=} \rho(G)Z$ où $G \sim U$, la mesure de Haar). Cela généralise l'échangeabilité (où $G$ est le groupe symétrique $S_n$) à des structures telles que les réseaux (groupes d'automorphismes) et les données hiérarchiques (groupes de permutations imbriqués).
2. Apprentissage adaptatif du seuil : Contrairement à SymmPI, qui calcule un seul seuil quantile global sur l'orbite du groupe, C-SymmPI apprend une fonction de seuil adaptative $t_z(\cdot)$. Cette fonction mappe les caractéristiques des données observées vers un seuil, permettant à l'ensemble de prédiction de s'adapter à l'hétérogénéité locale.
3. Perspective d'exactitude multiple relâchée : La méthode reformule l'exigence de couverture conditionnelle en utilisant la perspective de l'exactitude multiple (Hébert-Johnson et al., 2018). Au lieu d'exiger une couverture conditionnelle exacte pour chaque réalisation (ce qui est souvent impossible sans hypothèses de distribution), C-SymmPI minimise l'erreur de non-couverture sur une classe de fonctions spécifiée par l'utilisateur $\mathcal{F}$. Plus précisément, elle garantit :
   $$\left| \mathbb{E}_Z \left[ f(Z_{\text{obs}}) \left( \mathbb{1}\{Z \in \hat{C}(Z_{\text{obs}})\} - (1-\alpha) \right) \right] \right| \leq \varepsilon$$
   pour tout $f \in \mathcal{F}$. Cela est obtenu en résolvant un problème de régression quantile régularisée sur l'orbite du groupe.

Variantes algorithmiques pour l'efficacité

Pour relever les défis computationnels dans les espaces de haute dimension et les grands groupes, deux variantes sont introduites :

• C-SymmPI projeté : Projette les données observées de haute dimension $Z_{\text{obs}}$ sur un plongement de plus basse dimension $\eta(Z_{\text{obs}})$ avant d'apprendre le seuil. Cela réduit la complexité du problème d'apprentissage de fonction.
• C-SymmPI échantillonné : Approxime l'espérance de Haar (moyenne sur le groupe) en utilisant un échantillon Monte Carlo fini d'éléments du groupe. Cela est crucial pour les groupes infinis ou très grands (par exemple, les groupes de rotation).

Garanties théoriques

L'article établit des bornes de couverture quasi-conditionnelle dans deux contextes :

1. Invariance distributionnelle : Lorsque les données satisfont strictement l'hypothèse d'invariance de groupe.
2. Décalage de distribution : Lorsque l'invariance est violée, la borne inclut un terme supplémentaire proportionnel à la distance de variation totale (TV) entre la distribution vraie et la distribution permutée.

Des taux de convergence sont dérivés pour des classes de fonctions spécifiques :

• Classes de fonctions linéaires : L'erreur décroît à un taux de $O(d |H| / |G|)$, où $d$ est la dimension, $|G|$ est la taille du groupe et $|H|$ est la taille du sous-groupe stabilisateur.
• Espace de Hilbert à noyau reproduisant (RKHS) : L'erreur décroît à un taux de $O(1/\sqrt{|G|/|H|})$.

Contributions clés

1. Cadre unifié pour l'inférence quasi-conditionnelle : C-SymmPI est le premier cadre à étendre les garanties de couverture quasi-conditionnelle au-delà du contexte i.i.d./échangeable vers des structures de données générales avec symétries de groupe (par exemple, réseaux, grappes hiérarchiques).
2. Généralisation théorique : Il retrouve les résultats existants de l'état de l'art pour les données i.i.d. (Gibbs et al., 2025) comme cas particuliers tout en fournissant de nouvelles garanties pour les structures non échangeables.
3. Évolutivité computationnelle : Le développement des variantes projetée et échantillonnée permet l'application de l'inférence conditionnelle à des observations de haute dimension et à des groupes de symétrie grands ou infinis.
4. Applicabilité large : Le cadre est mis en œuvre pour :
   • Données échangeables : Retrouvant la prédiction conforme conditionnelle.
   • Modèles hiérarchiques à deux couches : Incluant les essais randomisés en grappes (CRT), fournissant des garanties conditionnelles aux niveaux de la grappe et de l'individu.
   • Données structurées en réseau : S'adaptant à la topologie du réseau pour une inférence au niveau des nœuds.

Résultats empiriques

Les auteurs valident C-SymmPI par des simulations numériques et des applications réelles :

• Simulations (Données hiérarchiques) : Dans un modèle hiérarchique à deux couches avec un bruit hétérogène, C-SymmPI produit des intervalles de prédiction qui s'adaptent à la variance locale (plus étroits dans les régions de faible variance, plus larges dans les régions de forte variance). Les méthodes concurrentes (SymmPI standard, CP conditionnelle standard, méthodes à arbre unique) échouent soit à couvrir les régions de forte variance (sous-couverture), soit produisent des intervalles trop larges et conservateurs.
• Essai randomisé en grappes PPACT : Appliqué à un essai réel sur la gestion de la douleur. C-SymmPI surpasse la méthode Split-CCI (Wang et al., 2024) en produisant des intervalles de prédiction plus courts pour les effets de traitement tout en maintenant une couverture valide et en atteignant une fraction plus élevée de traitements bénéfiques identifiés (intervalles négatifs).
• Réseau de citations Cora : Dans une tâche de classification assistée par réseau, C-SymmPI génère des ensembles de prédiction plus courts par rapport à la prédiction conforme par division standard tout en maintenant une couverture valide, démontrant une adaptabilité à l'incertitude de prédiction (intervalles plus courts pour les prédictions de haute confiance).

Importance et affirmations

L'article affirme que C-SymmPI comble un vide critique dans la quantification de l'incertitude pour les données structurées. En passant de la couverture marginale à une couverture quasi-conditionnelle sous des symétries de groupe, la méthode fournit des ensembles de prédiction plus informatifs et stables qui respectent l'hétérogénéité inhérente des structures de données complexes (réseaux, grappes).

Les auteurs soulignent que leur approche ne nécessite pas d'hypothèses distributionnelles fortes, restant sans hypothèse de distribution tout en exploitant les symétries structurelles des données. Les résultats suggèrent que pour les praticiens traitant des données hiérarchiques ou en réseau, C-SymmPI offre une alternative robuste aux méthodes marginales existantes, empêchant le masquage de l'hétérogénéité locale qui se produit souvent lors du moyennage sur l'ensemble du jeu de données. Le cadre est présenté comme un outil général adaptable à d'autres contextes structurés (par exemple, arbres, images) où des symétries de groupe sont présentes.