Résumé Technique : Prédiction Conforme Auto-Organisée (SOCP)

1. Énoncé du Problème

La prédiction conforme (CP) fournit des garanties de couverture marginale sans hypothèse de distribution et pour des échantillons finis, pour tout score de non-conformité fixe sous condition d'échangeabilité. Cependant, la validité marginale fait la moyenne sur l'ensemble de la distribution des caractéristiques, ce qui peut masquer une sous-couverture régionale sévère dans des sous-groupes critiques pour la sécurité (par exemple, des diagnostics rares ou des régimes opérationnels spécifiques). Bien que la couverture conditionnelle exacte pour chaque valeur de caractéristique $x$ soit théoriquement impossible sans produire des ensembles non informatifs, les méthodes pratiques doivent trouver une notion intermédiaire de localité. Les approches existantes reposent souvent sur des distributions pondérées par noyau (introduisant une sensibilité à la largeur de bande et un coût computationnel élevé) ou sur des regroupements supervisés (nécessitant des étiquettes). Le défi consiste à découvrir de manière non supervisée des groupes dans l'espace d'entrée afin de permettre un étalonnage local sans réentraîner le prédicteur ni modifier le score de non-conformité.

2. Méthodologie : Prédiction Conforme Auto-Organisée (SOCP)

La SOCP est un schéma d'étalonnage qui découple la découverte de groupes du processus d'étalonnage. Elle utilise une Carte Auto-Organisatrice (SOM) entraînée de manière non supervisée sur la représentation d'entrée pour partitionner l'espace des caractéristiques en une grille finie de cellules prototypes.

Pipeline Central

1. Découverte de Groupes Non Supervisée : Une SOM est entraînée sur l'espace de représentation des entrées $\mathcal{X}$ (indépendamment des étiquettes d'étalonnage). Cela projette les entrées vers une grille de $K$ cellules prototypes $\{w_k\}_{k=1}^K$.
2. Assignation de l'Unité de Meilleure Correspondance (BMU) : Pour toute entrée $x$, la BMU est déterminée comme le prototype minimisant la distance $\|x - w_k\|^2$. Cela définit une partition stricte de l'espace d'entrée.
3. Récupération du Tampon d'Étalonnage Local : Au moment du test, pour une requête $x_{n+1}$, la SOCP récupère un tampon d'étalonnage local basé sur sa BMU $k^*$. Trois régimes de récupération sont définis :
   • Régime 1 (Cellule BMU uniquement) : Récupère les points d'étalonnage strictement à l'intérieur de la cellule BMU $k^*$.
   • Régime 2 (Voisinage Topologique Fixe) : Récupère les points de la cellule BMU et de ses voisins de grille fixes $N(k^*, r)$ (définis par la distance de Chebyshev sur la grille).
   • Régime 3 (Élargissement du Prototype) : Récupère les points basés sur un élargissement de $L$-plus proches voisins dans l'espace des prototypes.
4. Calcul du Seuil : Le seuil conforme est calculé comme le quantile de split-conforme standard sur le tampon récupéré plutôt que sur l'ensemble complet du jeu d'étalonnage. Le prédicteur et le score de non-conformité restent inchangés.

Garanties Statistiques

L'article établit des garanties en échantillon fini basées sur le régime de récupération :

• Validité Conditionnelle à la Cellule (Régime 1) : La validité exacte est maintenue conditionnellement à la cellule BMU $k^*$, à condition que la cellule soit active (possède suffisamment de points d'étalonnage).
• Validité Conditionnelle au Jeu de Récupération (Régimes 2 & 3) : La validité exacte est maintenue conditionnellement à l'événement que le point de test tombe dans le jeu de récupération spécifique (par exemple, $k^* \in N(k, r)$).
• Validité Approximative de la Cellule Centrale : Lorsque le seuil déployé (basé sur un tampon de voisinage) est évalué à la cellule centrale $k^*$, la garantie de couverture est approximative. L'écart par rapport à la couverture nominale est borné par un terme de biais de Kolmogorov-Smirnov (KS) $\varepsilon_k$, qui mesure la divergence entre la distribution des scores dans la cellule centrale et la distribution de mélange du voisinage récupéré.
• Extension Split-Routed : Une extension est proposée où un "routage split" indépendant sélectionne l'élargissement du tampon avant l'étalonnage, restaurant la validité exacte conditionnelle au routage split.

3. Contributions Clés

1. Cadre Algorithmique : Introduction de la SOCP, une procédure agnostique au modèle et au score qui combine le regroupement non supervisé de l'espace d'entrée (via SOM) avec des tampons d'étalonnage locaux par requête. Elle supporte les caractéristiques tabulaires et les plongements d'images sans modifier le prédicteur sous-jacent.
2. Garanties Théoriques : Preuve de la validité en échantillon fini pour la récupération par cellule seule et pour les tampons de voisinage à jeu de récupération fixe. L'article quantifie explicitement le compromis entre stabilité locale et décalage de distribution via un terme de biais KS pour la couverture de la cellule centrale.
3. Efficacité : Contrairement aux localisateurs par noyau (ex: LCP) qui nécessitent $O(n_{cal})$ opérations par requête, la récupération SOCP est en $O(K)$ (où $K$ est le nombre de cellules SOM), ce qui la rend indépendante de la taille du jeu d'étalonnage au moment du test.
4. Suite de Diagnostic : Un cadre de diagnostic par cellule incluant des cartes de biais KS, des cartes de hits de couverture et des cartes de tampons récupérés pour identifier si les échecs régionaux proviennent de l'erreur du prédicteur, d'une masse d'étalonnage insuffisante ou d'un décalage de la distribution des scores.

4. Résultats Expérimentaux

La méthode a été évaluée sur huit benchmarks (cinq en régression, trois en classification) incluant Bio, Bike Sharing, California Housing, Concrete, Auto MPG, CIFAR-10, Covertype et MNIST.

• Couverture Régionale : La SO-SCP (SOCP avec scores de résidus absolus) a réduit l'écart de couverture pondérée régionale (WCovGap) sur 7 des 8 jeux de données par rapport à la prédiction conforme split standard (SCP). Le changement relatif moyen apparié était de $-7,1\%$.
• Taille de l'Ensemble de Prédiction : La réduction du gap de couverture s'est accompagnée d'une augmentation moyenne de la taille de l'ensemble de prédiction de $6,2\%$. Cependant, en excluant deux jeux de données avec des données d'étalonnage limitées (Concrete et Auto MPG), l'augmentation de taille est tombée à $1,2\%$.
• Comparaison avec CQR : La SO-CQR (SOCP appliquée à la régression quantile conforme) a montré des résultats mitigés. Puisque la CQR absorbe déjà une grande partie de l'hétérogénéité dans le score, les gains marginaux de la récupération locale étaient plus faibles (changement moyen du WCovGap de $-0,3\%$).
• Comparaison avec LCP : La SOCP a surpassé la prédiction conforme localisée (LCP) en termes d'uniformité régionale sans subir la surcharge computationnelle de la pondération par noyau. Sur les tâches de classification, la SOCP a réduit significativement le WCovGap tout en maintenant des tailles d'ensembles comparables à la LCP.
• Modes de Défaillance : L'article identifie un "régime de tampon creux" (observé dans Concrete et Auto MPG) où de petits ensembles d'étalonnage par voisinage mènent à des seuils conservateurs ou infinis, annulant les gains de WCovGap.

5. Signification et Revendications

L'article affirme que la SOCP fournit un mécanisme pratique pour l'étalonnage local aux groupes avec des garanties exactes pour les groupes fixes et des garanties approximatives pour les cellules centrales sans nécessiter de partitions supervisées ou de réentraînement du prédicteur.

• Modestie des Revendications : Les auteurs précisent explicitement que la validité de la cellule centrale est approximative, contrôlée par le biais KS. Ils soulignent que la grille SOM fournit une "structure de localité fixe" qui est moins expressive qu'une pondération par noyau continue, mais offre inspectabilité et efficacité computationnelle.
• Valeur Diagnostique : La signification réside non seulement dans l'amélioration de la couverture, mais aussi dans la capacité à diagnostiquer où et pourquoi les échements régionaux se produisent (par exemple, distinguer les problèmes de variance dans les petits tampons des problèmes de biais provenant des décalages de score).
• Limites : Les auteurs reconnaissent que l'efficacité dépend de la conception du mécanisme de localité (taille de la grille, rayon de voisinage, qualité de la représentation). Ils notent que les cartes KS empiriques sont des outils de diagnostic plutôt que des garanties strictes, et que la méthode peut éprouver des difficultés dans les régimes avec des données d'étalonnage extrêmement creuses par groupe.

Ce travail positionne la SOCP comme un pont entre l'étalonnage entièrement global (qui masque les erreurs régionales) et la couverture conditionnelle par point (qui est théoriquement impossible sans ensembles non informatifs), offrant une approche non supervisée et ajustable pour améliorer la fiabilité dans des régimes opérationnels spécifiques.