Résumé technique : Quand l'élagage aide-t-il la prédiction conforme ?

Énoncé du problème

La prédiction conforme repose sur l'échangeabilité des scores d'étalonnage et de test pour fournir des garanties de couverture à échantillon fini. Cependant, cette échangeabilité échoue en cas de contamination de l'étalonnage, où l'échantillon d'étalonnage est tiré d'une loi de mélange $P^\star = (1-\epsilon)P + \epsilon Q$ (avec $P$ étant la loi cible propre et $Q$ une loi contaminante inconnue), tandis que le point de test reste tiré de $P$.

Une réponse courante des praticiens consiste à élaguer les points d'étalonnage ayant des scores d'anomalie élevés avant de calculer le quantile conforme. Bien que intuitif, l'article soutient que cette procédure ne « purifie » pas simplement les données. Au contraire, elle transforme la loi d'étalonnage en une loi conservée $R$. La validité de l'ensemble de prédiction résultant pour la cible propre $P$ devient alors un problème de transfert de $R$ vers $P$. La question centrale est : Dans quelles conditions l'élagage améliore-t-il réellement la couverture de la cible propre, et quand échoue-t-il ou dégrade-t-il même les performances ?

Méthodologie

Cadre de la loi conservée

Les auteurs recadrent l'élagage à seuil fixe non pas comme une purification des données, mais comme un conditionnement. Étant donné un score d'anomalie $S$ et un seuil $t^\star$, les points d'étalonnage sont conservés si $S(Z) \le t^\star$. L'ensemble d'étalonnage conservé résultant est i.i.d. selon la loi conservée :
$$R = P^\star(\cdot \mid S \le t^\star)$$
Cette loi n'est généralement ni la loi contaminée originale $P^\star$, ni la loi propre $P$.

Diagnostics théoriques

L'article dérive une identité exacte à échantillon fini pour la couverture marginale propre, qui dépend de la distribution du nombre de points conservés et de la relation entre la loi conservée $R$ et la loi propre $P$.

Pour rendre cela traitable, les auteurs introduisent un écart de transfert scalaire $d_{R \to P, +} = \sup_t (F^A_R(t) - F^A_P(t))_+$, où $F^A$ désigne la fonction de répartition (CDF) du score de non-conformité $A$. La garantie de couverture est bornée par :
$$\text{Couverture} \ge [1 - \alpha - d_{R \to P, +}]_+$$

En utilisant la décomposition en mélange de $R$, les auteurs dérivent une borne supérieure composante par composante sur cet écart :
$$d_{R \to P, +} \le (1 - \tilde{\epsilon}^\star) \Delta^A_{\text{trim}, +} + \tilde{\epsilon}^\star D_{Q, +}$$
où :

1. $\Delta^A_{\text{trim}, +}$ (Coût côté propre) : La distorsion de la distribution du score de non-conformité propre causée par le conditionnement sur la conservation. L'article prouve que ceci est exactement une covariance unilatérale entre l'indicateur de conservation et le score de non-conformité sous la loi propre $P$.
2. $\tilde{\epsilon}^\star$ (Coefficient de mélange conservé) : Le niveau de contamination effectif dans l'ensemble conservé, donné par $\tilde{\epsilon}^\star = \frac{\epsilon p_d}{(1-\epsilon)p_c + \epsilon p_d}$, où $p_c$ et $p_d$ sont les probabilités de conservation pour les points propres et contaminés, respectivement.
3. $D_{Q, +}$ (Discrépance sale conservée) : La discrépance entre le composant sale conservé et la cible propre.

Principales insights théoriques

• Identité de covariance : Le coût de l'élagage des données propres est piloté par la dépendance entre le score d'anomalie $S$ et le score de non-conformité $A$ sous $P$. Si $S$ et $A$ sont indépendants sous $P$ (par exemple, scores basés uniquement sur les covariables dans une régression à variance homoscédastique), le coût côté propre est nul.
• Dichotomie de séparation au niveau du coefficient : L'élagage réduit la contamination uniquement si le score d'anomalie sépare les points propres et contaminés ($p_d \ll p_c$). Si $p_d \approx p_c$, alors $\tilde{\epsilon}^\star \approx \epsilon$, et l'élagage ne peut pas réduire le coefficient de mélange. Dans ce régime de « non-séparation », l'élagage peut strictement aggraver la couverture en introduisant une distorsion côté propre sans réduire la contamination.
• Précision à échantillon fini : La borne inférieure scalaire est montrée comme étant minimax optimale au sein de la classe de problèmes définie uniquement par la contrainte d'écart scalaire. Aucune borne inférieure uniforme utilisant uniquement l'écart scalaire ne peut dépasser cette valeur.

Modèles de certificats

Puisque les quantités de population sont inconnues en pratique, l'article fournit des modèles de certificats pour des garanties numériques :

1. Audit composante par composante : Bornage des ingrédients ($p_c, p_d, \Delta^A_{\text{trim}, +}, D_{Q, +}$) en utilisant des informations indépendantes (par exemple, des échantillons d'audit propres ou des connaissances du domaine).
2. Audit direct : Utilisation d'un échantillon d'audit propre indépendant pour certifier l'ensemble sélectionné final via une inversion binomiale exacte ou des bornes de Kolmogorov-Smirnov.
3. Sélection sur le même échantillon : Une borne empirique de CDF sur une grille finie est fournie pour les cas où le seuil est sélectionné à partir du même échantillon d'étalonnage, entraînant une pénalité de $\sqrt{\log K / N}$.

Résultats expérimentaux

Les auteurs évaluent la théorie sur une tâche de régression hétéroscédastique avec une contamination géométrique des covariables.

• Régime de score visible : Lorsque le score d'anomalie (norme du score de Stein) sépare efficacement les distributions de covariables des données propres et contaminées, l'élagage améliore significativement la couverture. L'amélioration est pilotée par une réduction du coefficient de mélange conservé $\tilde{\epsilon}^\star$ (qui chute près de zéro) et un coût côté propre gérable.
• Régime de non-séparation : Lorsque les points propres et contaminés ont des probabilités de conservation similaires, l'élagage échoue à réduire $\tilde{\epsilon}^\star$. La couverture reste faible, confirmant que l'élagage ne peut pas aider sans séparation.
• Contamination uniquement par l'étiquette : Lorsque seule la réponse $Y$ est corrompue (et $X$ est propre), l'élagage basé sur les covariables n'a aucun levier. La méthode identifie correctement que l'élagage ne peut pas améliorer la couverture dans ce contexte.
• Grande taille d'échantillon : L'augmentation de la taille d'étalonnage $m$ réduit le relâchement à échantillon fini mais n'élimine pas le déficit de couverture au niveau de la population causé par l'écart de transfert de la loi conservée. La couverture limite est régie par les diagnostics de population, et non par la taille de l'échantillon.

Importance et revendications

L'article revendique fournir un diagnostic au niveau de la population qui explique quand et pourquoi l'élagage aide, dépassant la croyance heuristique que « supprimer les valeurs aberrantes aide toujours ».

1. Recadrage de l'élagage : Il établit que l'élagage est une transformation de la loi d'étalonnage, et non une restauration de la loi originale. La validité est exacte uniquement pour la loi conservée, nécessitant un transfert vers la cible propre.
2. Principes de conception : Il formalise qu'un bon score d'anomalie pour l'élagage doit être neutre en score sur la population propre (minimisant la covariance avec le score de non-conformité) tout en étant séparatif entre les populations propres et contaminées.
3. Limites : Il démontre que l'élagage ne peut pas réduire la contamination via le coefficient de mélange si le score échoue à séparer les probabilités de conservation. Dans de tels cas, l'élagage peut strictement dégrader les performances.
4. Sécurité opérationnelle : L'article distingue entre les diagnostics de population (explications mécanistes utilisant des lois de simulation connues) et les certificats numériques (garanties nécessitant des données d'audit indépendantes), assurant que les praticiens ne confondent pas les bornes théoriques avec des certificats pilotés par les données sans audit approprié.

L'ouvrage conclut que l'élagage n'est pas une solution universelle à la contamination ; son efficacité est strictement régie par l'interaction entre la capacité du score d'anomalie à séparer la contamination et sa neutralité envers la distribution de la cible propre.