🤖 machine learning

Perturb and Correct: Post-Hoc Ensembles using Affine Redundancy

Ce papier présente Perturb-and-Correct (P&C), une méthode a posteriori qui génère des prédicteurs épistémiquement diversifiés à partir d'un seul réseau préentraîné en appliquant des perturbations aléatoires des couches cachées avec des corrections par moindres carrés, permettant ainsi d'obtenir de forts compromis entre performances in-distribution et out-of-distribution sans nécessiter plusieurs modèles.

Auteurs originaux : Eleanor Quint

Publié 2026-05-05

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Eleanor Quint

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Grand Problème : L'Élève « Parfait » qui Échoue à l'Examen Imprévu

Imaginez que vous avez formé un élève brillant (un réseau de neurones) pour résoudre des problèmes de mathématiques. Vous lui donnez des milliers de problèmes d'entraînement (les données d'apprentissage), et il obtient un score parfait. Il est si bon que si vous lui donnez un autre problème du même manuel, il le résoudra correctement à chaque fois.

Mais voici le hic : De nombreux élèves différents auraient pu obtenir ce même score parfait.

Dans le monde de l'apprentissage profond, cela s'appelle le sous-défini (underspecification). Vos données d'entraînement n'ont pas forcé le modèle à apprendre une façon spécifique de penser ; elles l'ont simplement forcé à obtenir la bonne réponse. Ainsi, le modèle a trouvé un chemin vers la réponse, mais il existe des milliers d'autres chemins qu'il aurait pu emprunter et qui auraient donné exactement le même résultat sur le test d'entraînement.

Le problème survient lorsque l'élève fait face à un changement de distribution — un examen réel où les questions semblent légèrement différentes (par exemple, une voiture autonome voyant une tempête de neige au lieu d'une journée ensoleillée, ou une intelligence artificielle médicale voyant une maladie rare). Parce que le modèle n'a jamais eu à choisir quel chemin emprunter pendant l'entraînement, il pourrait choisir un chemin qui fonctionne pour une journée ensoleillée mais qui conduit à un accident dans la neige. Nous ne savons pas quel chemin il a pris, nous ne savons donc pas s'il est sûr.

La Solution : Perturber et Corriger (P&C)

Les auteurs introduisent une astuce ingénieuse appelée Perturber et Corriger (P&C). Ils n'ont pas besoin de réentraîner l'élève ni de lui apprendre de nouvelles choses. Ils prennent simplement le modèle terminé et le secouent d'une manière très spécifique pour créer une « équipe » de versions légèrement différentes du même élève.

Voici comment le processus fonctionne, étape par étape :

1. La « Perturbation » (Le Secousse)

Imaginez que le cerveau de l'élève possède une couche spécifique de neurones (une couche cachée) où il effectue une réflexion intense. Les chercheurs prennent cette couche et poussent aléatoirement les connexions à l'intérieur.

Analogie : C'est comme demander à l'élève de résoudre le problème de mathématiques tout en portant des lunettes légèrement différentes qui déforment sa vision juste un tout petit peu.
Résultat : Si vous faisiez seulement cela, l'élève commencerait à donner de mauvaises réponses, même sur les problèmes d'entraînement. Le « coup de pouce » a brisé son score parfait.

2. La « Correction » (Le Réajustement)

C'est la partie magique. Les chercheurs regardent la couche suivante du cerveau (la couche affine) et la réajustent en utilisant une correction mathématique simple (correction par moindres carrés) basée sur les anciens problèmes d'entraînement.

Analogie : L'élève met les lunettes déformées, se confond et commence à répondre incorrectement. Mais ensuite, un enseignant (l'étape de correction) ajuste rapidement le stylo de l'élève (la couche suivante) pour compenser les lunettes.
Résultat : Lorsque l'élève regarde les anciens problèmes d'entraînement, les lunettes et l'ajustement du stylo s'annulent parfaitement. L'élève obtient exactement le même score parfait qu'avant.

3. L'« Ensemble » (L'Équipe)

Les chercheurs répètent ce processus de nombreuses fois. À chaque fois, ils utilisent un différent coup de pouce aléatoire (différentes lunettes) et un différent ajustement de stylo.

Le Résultat : Vous avez maintenant 50 ou 100 versions du même élève.
- Sur les anciens problèmes d'entraînement, ils sont tous d'accord parfaitement.
- Sur les nouveaux problèmes étranges (le changement de distribution), les ajustements des « lunettes » et du « stylo » ne s'annulent plus parfaitement. Les élèves commencent à être en désaccord les uns avec les autres.

Pourquoi Cela Compte : Le Signal de « Désaccord »

Dans le passé, si un modèle unique était incertain, nous devions entraîner un tout nouvel ensemble de modèles à partir de zéro pour voir s'ils étaient d'accord ou non. Cela prenait beaucoup de temps et de puissance de calcul.

Avec P&C, le désaccord se produit automatiquement :

Si l'entrée est normale : Les ajustements des « lunettes » et du « stylo » fonctionnent ensemble. Toutes les versions du modèle sont d'accord. Nous sommes confiants.
Si l'entrée est étrange (Hors Distribution) : Les ajustements des « lunettes » et du « stylo » ne correspondent plus à la nouvelle situation. Les modèles commencent à donner des réponses différentes.
Le Signal : Le fait qu'ils soient en désaccord nous dit : « Hé, nous sommes dans un territoire inconnu ! Soyez prudents ! »

L'Analogie du « Levier »

Le papier utilise un concept géométrique appelé « levier » pour expliquer pourquoi cela fonctionne.

Imaginez que les problèmes d'entraînement sont un groupe de personnes assises autour d'un feu de camp.
Si vous posez une question à quelqu'un assis juste à côté du feu (dans la distribution), l'« ajustement du stylo » peut facilement corriger la « distorsion des lunettes » car ils sont proches du centre. Tout le monde est d'accord.
Si vous posez une question à quelqu'un debout loin dans l'obscurité (hors distribution), l'« ajustement du stylo » (qui a été calibré pour le feu) ne peut pas l'atteindre. La « distorsion des lunettes » prend le dessus, et les modèles commencent à voir les choses différemment.

Résumé des Résultats

Les auteurs ont testé cela sur deux choses :

Physique des Robots (MuJoCo) : Prédire comment un robot se déplace. Lorsque le comportement du robot a changé (changement), P&C était beaucoup meilleur pour détecter qu'il se trouvait dans une situation « étrange » par rapport aux autres méthodes, sans avoir besoin de réentraîner le robot.
Reconnaissance d'Images (CIFAR-10) : Détecter des images qui n'appartiennent pas (comme montrer une image de chat à un classificateur de chiens). P&C était très bon pour dire : « Je ne sais pas ce que c'est », par rapport aux autres méthodes basées sur un seul modèle.

La Conclusion

Le papier soutient que nous ne devrions pas essayer d'éliminer la « flexibilité » des réseaux de neurones (le fait que de nombreux chemins mènent à la même réponse). Au lieu de cela, nous devrions l'exploiter.

En prenant un modèle unique déjà entraîné, en le secouant au hasard, puis en le réparant juste assez pour le maintenir honnête sur les données connues, nous pouvons créer gratuitement une équipe d'experts diversifiés. Ils restent synchronisés lorsque les choses sont normales, mais ils se brisent naturellement en un chœur de désaccord lorsque les choses deviennent étranges, nous alertant ainsi d'un danger potentiel.

Résumé technique : Perturbation et Correction (P&C)

Énoncé du problème

Les réseaux de neurones profonds modernes sont massivement surparamétrés, ce qui conduit à un phénomène connu sous le nom de sous-spécification. Bien que de nombreuses configurations de paramètres distinctes puissent produire des performances presque identiques sur des données d'entraînement in-distribution (ID), ces modèles se comportent souvent de manière radicalement différente sous des décalages de distribution ou des attaques adverses. Ce manque de contrainte signifie que les pipelines d'entraînement standards ne parviennent pas à déterminer pleinement le comportement du modèle en dehors du support des données, créant un fossé critique pour un déploiement fiable, notamment en ce qui concerne l'incertitude épistémique et la détection hors-distribution (OOD). Les méthodes existantes pour estimer cette incertitude nécessitent souvent l'entraînement de plusieurs modèles indépendants (Deep Ensembles), la modification du processus d'entraînement (MC Dropout) ou l'approximation d'une distribution a posteriori (SWAG, Laplace), ce qui peut être coûteux en calcul ou structurellement restrictif.

Méthodologie : Perturbation et Correction (P&C)

L'article introduit Perturbation et Correction (P&C), une méthode de construction d'ensemble a posteriori qui génère des prédicteurs épistémiquement diversifiés à partir d'un seul réseau préentraîné sans réentraînement. La méthode exploite la sous-spécification des réseaux profonds en introduisant intentionnellement des variations de paramètres, puis en contraignant leurs effets sur les données ID.

Mécanisme central

Perturbation : P&C sélectionne une couche cachée (ou une séquence de couches) et applique des perturbations aléatoires de paramètres de faible rang. Plus précisément, il échantillonne une base orthonormée aléatoire et la met à l'échelle par une magnitude de perturbation $\sigma$ pour créer une matrice de perturbation $\Delta W$ .
Correction : Pour empêcher ces perturbations de dégrader les performances sur les données ID, P&C ajuste une correction compensatoire dans la couche affine immédiatement suivante. Cela est réalisé par des moindres carrés régularisés par ridge sur un sous-ensemble de calibration des données ID. La correction minimise la différence entre les pré-activations originales de la couche suivante et les pré-activations perturbées.
Construction de l'ensemble : Ce processus est répété $M$ fois avec différentes perturbations aléatoires et, éventuellement, différents sous-ensembles bootstrap des données de calibration. L'ensemble résultant est un mélange pondéré uniformément de ces prédicteurs corrigés.

Fondement théorique

L'article analyse le mécanisme à travers le prisme du résidu post-correction et de la sensibilité corrigée :

Préservation ID : Près de la distribution de calibration, la correction par moindres carrés supprime efficacement l'impact de la perturbation. Le résidu est borné par un terme de levier qui est faible lorsque l'entrée se situe dans la géométrie de calibration.
Divergence OOD : À mesure que les entrées s'écartent du support de calibration (extrapolation), le terme de levier augmente et la correction ne peut plus absorber entièrement la perturbation. Par conséquent, la sensibilité corrigée (le changement de sortie par unité de perturbation de la couche cachée) augmente, permettant aux membres de l'ensemble de diverger significativement sur les données OOD.
Sondage aléatoire : Les auteurs soutiennent que les perturbations aléatoires agissent comme un croquis non biaisé de l'opérateur de sensibilité corrigée. Parce que la correction supprime les effets uniquement là où les données contraignent le comportement, l'échantillonnage aléatoire sonde efficacement les « degrés de liberté épistémiques » laissés non résolus par les données d'entraînement.

Contributions clés

Construction d'ensemble a posteriori : L'article démontre que des ensembles épistémiques utiles peuvent être construits sans estimer une distribution a posteriori complète ni sélectionner des directions de perturbation spécialisées. Des perturbations aléatoires de couches cachées de faible dimension, couplées à une correction affine locale sur des données de calibration, suffisent à générer des prédicteurs diversifiés.
Analyse géométrique des résidus : Les auteurs fournissent une analyse théorique montrant pourquoi l'accord persiste près de la géométrie de calibration tandis que le désaccord émerge sous décalage. Ils formalisent la relation entre le résidu, le levier et la sensibilité corrigée, expliquant pourquoi les perturbations aléatoires sont efficaces pour sonder l'incertitude épistémique.
Validation empirique : La méthode est évaluée sur deux tâches distinctes :
- Prédiction de dynamique MuJoCo : P&C atteint un compromis fort entre l'erreur quadratique moyenne (RMSE) ID et la log-vraisemblance négative (NLL) loin-OOD, surpassant ou égalant les références standards (Deep Ensembles, SWAG, Laplace, Subspace) tout en n'utilisant qu'un seul modèle préentraîné.
- Détection OOD CIFAR-10 : En utilisant le protocole OpenOOD, P&C obtient des résultats de l'état de l'art parmi les méthodes a posteriori, améliorant des références à modèle unique robustes comme SWAG et s'approchant des performances des Deep Ensembles avec un coût de calcul significativement inférieur.

Résultats

MuJoCo : Sur 11 environnements, P&C a obtenu le meilleur rang moyen pour la NLL loin-OOD (1,55), l'AUROC loin-OOD (1,27) et la corrélation de Spearman loin-OOD (1,64). Il a maintenu une RMSE ID compétitive (3,18) tout en surpassant significativement les Deep Ensembles sur les métriques de détection OOD.
CIFAR-10 : P&C a obtenu l'AUROC Near-OOD la plus élevée (91,55) et l'AUROC Far-OOD la plus élevée (95,09) parmi les méthodes rapportées, tout en réduisant substantiellement le taux de faux positifs à 95 % de rappel (FPR95) par rapport à SWAG et aux Deep Ensembles.
Diagnostics du mécanisme : Les expériences ont confirmé que sans la correction par moindres carrés, les perturbations aléatoires dégradent les performances ID. Avec la correction, les performances ID sont préservées et le désaccord s'échelonne avec la distance de Mahalanobis par rapport aux activations de calibration.

Importance et affirmations

L'article affirme que P&C recadre la sous-spécification non pas comme une pathologie à éliminer, mais comme une source d'incertitude épistémique à exploiter. En traitant les degrés de liberté non résolus par les données de calibration comme une ressource, P&C offre une alternative efficace en calcul à l'entraînement de plusieurs modèles indépendants ou à l'inférence bayésienne complexe.

Les auteurs positionnent P&C philosophiquement plus proche des Réseaux de Neurones Épistémiques que des méthodes explicitement bayésiennes, car il représente l'incertitude à travers une famille de prédicteurs qui s'accordent là où les données contraignent le comportement et divergent là où elles ne le font pas, sans nécessiter de modifications de l'architecture du modèle ou du pipeline d'entraînement. Le travail suggère que les corrections affines locales peuvent transformer de simples perturbations aléatoires en ensembles a posteriori efficaces, mettant en lumière le potentiel de la surparamétrisation en apprentissage profond.