Résumé Technique : Ancrage de Source à Portail de Fiabilité pour l'Adaptation Continue en Temps d'Exécution

1. Définition du Problème

L'Adaptation Continue en Temps d'Exécution (CTTA) vise à mettre à jour un modèle pré-entraîné en ligne au fur et à mesure qu'il rencontre un flux de données non étiqueté et non stationnaire. Pour éviter l'oubli catastrophique ou la dérive incontrôlée causés par des pseudo-étiquettes bruyantes, les méthodes CTTA existantes ancrent le modèle en adaptation à un point de contrôle source figé.

L'article identifie un mode de défaillance critique qualifié d'« ancrage aveugle ». Cela se produit lorsque le modèle source figé lui-même subit un décalage de distribution sévère (par exemple, sur le benchmark CCC-Hard, une source ResNet-50 chute à environ 1,3 % de précision top-1). Malgré le fait que la source devienne une référence dénuée de sens ou « catastrophiquement confuse », les méthodes CTTA standard continuent d'appliquer une pénalité $\ell_2$ de force fixe pour attirer le modèle en adaptation vers cette source dégradée. Cette confiance inconditionnelle en une source potentiellement effondrée entraîne une dégradation systématique des performances.

2. Méthodologie : RMEMSAFE

Les auteurs proposent RMEMSAFE, une extension à portail de fiabilité du cadre ROID. L'innovation centrale est un mécanisme d'exécution qui atténue dynamiquement tous les termes explicites couplés à la source dans l'objectif d'optimisation, en fonction de la fiabilité de la source figée.

Le Portail de Fiabilité

La méthode calcule un scalaire de fiabilité de source, $R_{src}$, dérivé de l'entropie prédictive normalisée de la source figée :
$$H_{src} = -\frac{1}{\log C} \sum_{c=1}^{C} p_{src}^{(c)} \log p_{src}^{(c)}$$
$$R_{src} = \max(0, 1 - H_{src})$$

• Lorsque la source est confiante (faible entropie), $R_{src} \approx 1$.
• Lorsque l'a posteriori de la source tend vers l'uniformité (forte entropie, indiquant un effondrement), $R_{src} \to 0$.

Termes d'Optimisation à Portail

$R_{src}$ module multiplicativement trois composants spécifiques de l'objectif ROID :

1. Ancrage Dynamique : La pénalité $\ell_2$ attirant les paramètres de l'expert ($\theta_{exp}$) vers la source figée ($\theta^*_{src}$) est mise à l'échelle par $R_{src}$.
2. Filtre d'Accord Source-Expert : Un poids basé sur le cosinus qui filtre les mises à jour en fonction de l'accord entre les prédictions de la source et de l'expert est contrôlé par $R_{src}$. Si la source est peu fiable, le filtre est désactivé, permettant une adaptation non filtrée.
3. Mise à l'Échelle de la Divergence : Le terme de divergence de Jensen-Shannon au sein de l'ancre, qui met à l'échelle l'attraction en fonction du désaccord, est également contrôlé par $R_{src}$.

Stabilisateurs Auxiliaires

Pour garantir que le système reste stable lorsque le portail se ferme (c'est-à-dire lorsque $R_{src} \to 0$), RMEMSAFE inclut trois stabilisateurs indépendants de la source qui restent actifs quelle que soit la fiabilité de la source :

• Calibration Marginale : Une pénalité de divergence KL entre la marge du lot et une moyenne mobile exponentielle (EMA) des priors de classe historiques pour éviter l'effondrement des classes.
• Taux d'Apprentissage à Échelle de Confiance : Le taux d'apprentissage effectif est réduit lorsque l'incertitude de l'expert est élevée.
• Interpolation de Retournement Découplée : À l'inférence, les prédictions sont interpolées entre la vue originale et une vue retournée horizontalement en fonction de la confiance.

Propriété de Décroissance Gracieuse

L'article établit la Proposition 1 : À mesure que l'entropie de la source sature ($H_{src} \to 1$), $R_{src} \to 0$. Dans cette limite :

• La perte d'ancre ($L_{anch}$) disparaît complètement.
• Le filtre d'accord revient à un passage direct.
• L'objectif total se réduit aux pertes ROID de base plus la calibration marginale, devenant indépendant des paramètres de la source figée. Cela garantit que la méthode n'impose pas un prior corrompu lorsque la source est inutile.

3. Contributions Clés

1. Diagnostic de l'Ancrage Aveugle : Les auteurs caractérisent l'échec systématique des méthodes CTTA actuelles qui appliquent un ancrage de force fixe à des sources avec une précision proche de zéro (par exemple, CCC-Hard).
2. CTTA à Portail de Fiabilité : RMEMSAFE est présenté comme la première méthode CTTA à contrôler tous les usages explicites couplés à la source via un signal d'exécution dérivé de la source figée, admettant une garantie analytique de décroissance gracieuse.
3. Validation Empirique :
   • Benchmarks à Partition Correspondante : Sur 8 des 9 cellules de benchmark (couvrant CCC, CIN-C et IN-C avec ResNet-50 et ViT-B/16), RMEMSAFE obtient l'erreur la plus faible. Il améliore la meilleure base antérieure (ROID+ASR) de 1,05 point de pourcentage (pp) sur ResNet-50 et 0,48 pp sur ViT-B/16.
   • Dégradation Contrôlée de la Source : Dans les expériences où la qualité de la source est dégradée par un bruit gaussien des poids, RMEMSAFE présente une pente de dommage 1,13 fois plus faible que ROID+ASR, confirmant la propriété de décroissance gracieuse.
4. Analyse du Paradigme de Réinitialisation : L'article identifie un mode de défaillance spécifique où toutes les méthodes basées sur la réinitialisation sous-performent les bases sans réinitialisation sur CCC-Hard avec ViT-B/16, un phénomène caractérisé à la granularité de partition correspondante pour la première fois.

4. Résultats et Performances

• Performance sur les Benchmarks : RMEMSAFE+ASR obtient les meilleurs résultats sur 8 des 9 cellules. Sur les benchmarks à horizon long (CIN-C, IN-C), il réduit considérablement l'accumulation d'erreurs par rapport à ROID+ASR.
• Significativité Statistique : Les améliorations sur ResNet-50 sont statistiquement significatives ($p < 10^{-16}$ dans les tests regroupés).
• Études d'Ablation : Le gain de performance est attribué principalement aux stabilisateurs auxiliaires (calibration marginale, taux d'apprentissage à échelle de confiance, retournement découplé) opérant dans l'objectif à portail, tandis que le mécanisme de portail lui-même fournit une sécurité lors de l'effondrement de la source.
• Limites de Portée : La méthode est explicitement limitée à l'effondrement de source à haute entropie. Elle ne détecte pas les sources « sûrement erronées » (faible entropie sur des classes incorrectes). Dans les tests de stress avec des étiquettes permutées (sûrement erronées), RMEMSAFE perd son avantage sur ViT-B/16, confirmant la limite de l'utilisation de l'entropie comme seul signal.

5. Signification et Revendications

L'article revendique que RMEMSAFE fait progresser la sécurité de la CTTA en remplaçant la « prémisse silencieuse, non vérifiée à l'exécution » selon laquelle la source reste fiable, par un contrôle analytique et léger.

• Garantie de Sécurité : La contribution principale est la propriété analytique de décroissance gracieuse. Lorsque la source s'effondre, la méthode se réduit mathématiquement à une solution de repli indépendante de la source, empêchant la propagation d'un prior corrompu dans le modèle adapté.
• Impact Pratique : La méthode adresse un risque réel de déploiement où les modèles s'adaptent à des flux non étiquetés sous des décalages de distribution sévères (par exemple, conduite autonome, imagerie médicale). En atténuant l'ancre lorsque la source est peu fiable, RMEMSAFE prévient l'« ancrage catastrophique » qui conduit à un effondrement des performances.
• Modestie : Les auteurs déclarent explicitement que le portail basé sur l'entropie n'est pas un détecteur de correction général. Ils reconnaissent qu'une source « sûrement mal calibrée » reste un mode de défaillance pour cette conception spécifique, présentant le travail comme une solution au mode de défaillance dominant (effondrement à haute entropie) observé dans les benchmarks standards, tout en identifiant la mauvaise calibration à faible entropie comme une direction pour les travaux futurs.

L'article conclut que, bien que l'objectif intégré entraîne les gains sur les benchmarks, le portail de fiabilité sert de mécanisme de sécurité critique « porteur de charge » assurant la stabilité sous dégradation contrôlée de la source et décalages catastrophiques.