Résumé technique : Séparation de la rétention d'experts et de l'inférence autonome de la source dans le déploiement continu d'ECG sans rejeu de données brutes

1. Énoncé du problème

L'article traite du défi que représente le déploiement de systèmes d'électrocardiogramme (ECG) dans des environnements d'apprentissage continu multi-sources où les données historiques brutes ne peuvent pas être conservées ou rejouées en raison des contraintes de gouvernance et de partage des données. Une distinction critique est faite entre deux problèmes couplés mais distincts :

1. Rétention d'experts : La capacité à maintenir des frontières de décision spécifiques à chaque source pour de nouveaux domaines sans écraser les connaissances précédentes (interférence de paramètres).
2. Inférence autonome de la source : La capacité d'identifier correctement le domaine de la source d'un ECG de test et de sélectionner l'expert approprié lorsque les métadonnées de la source (ex: ID de l'hôpital, type de dispositif) sont indisponibles au moment de l'inférence.

Les auteurs soutiennent que si l'isolation des paramètres (gel des backbones et ajout de têtes isolées) résout la rétention, elle ne résout pas le déploiement si le système ne peut pas acheminer de manière autonome les entrées vers le bon expert. Traiter la performance sensible à la source comme une solution complète occulte le mode de défaillance principal dans les scénarios réels où la source est inconnue.

2. Méthodologie : IRFE-ECG

Le cadre proposé, IRFE-ECG (Incremental Raw-Feature-Expert ECG), fonctionne sous un protocole « sans rejeu d'ECG brut ». Il utilise un modèle de fondation gelé et une banque d'experts incrémentale.

• Backbone gelé : Le système utilise ECGFounder, un modèle de fondation pré-entraîné, comme extracteur de caractéristiques fixe. Il projette les ECG à dérivation unique en vecteurs de caractéristiques de dimension 1024 ($h$). Les paramètres du backbone ($\theta$) ne sont jamais mis à jour.
• Banque d'experts incrémentale : À mesure que chaque nouveau domaine $t$ arrive, un nouvel expert linéaire isolé $g_t$ est entraîné sur les caractéristiques gelées.
  • Architecture : $g_t(h) = W_t h + b_t$.
  • Entraînement : Les experts sont optimisés à l'aide d'un Softmax équilibré (Balanced Softmax) pour gérer le déséquilibre des classes, avec des seuils de décision spécifiques au domaine ($\tau_t$) calibrés sur les données de validation.
  • Isolation : Une fois entraînés, les experts et le backbone sont gelés ; ils ne sont jamais mis à jour pour les domaines suivants.
• Routeur autonome : Puisque les identifiants de source sont indisponibles au moment du test, un routeur léger est entraîné pour inférer le domaine de la source.
  • Mémoire : Le routeur est entraîné sur des vecteurs de caractéristiques gelés conservés et les étiquettes de domaine de tous les domaines précédemment observés. Aucune forme d'onde ECG brute n'est stockée ou rejouée.
  • Architecture : Un perceptron multicouche (MLP) compact avec une entrée de dimension 1024, une LayerNorm, une couche cachée de 128 unités, une activation GELU et un dropout.
  • Entraînement : Le routeur est ré-ajusté après l'observation de chaque nouveau domaine, en utilisant une perte d'entropie croisée sur l'ensemble de caractéristiques stockées.
• Stratégie d'inférence (Fusion de marge Top-2) : Au lieu de s'engager sur un seul expert « Top-1 », le système identifie les deux experts les plus probables ($K(h)$) basés sur les logits du routeur. Il fusionne leurs sorties en utilisant une règle de marge calibrée sur la validation :
  $$m(h) = \sum_{k \in K(h)} \alpha_k(h) (p_k(h) - \tau_k)$$
  où $p_k$ est la probabilité prédite et $\tau_k$ est le seuil spécifique au domaine. La prédiction finale est positive si $m(h) \geq 0$.

3. Contributions clés

1. Formulation du problème : L'article découple explicitement la rétention d'experts de l'inférence autonome de la source dans le contexte de l'apprentissage continu sans données brutes. Il pose que la rétention est soluble via l'isolation des paramètres, mais que l'inférence reste le goulot d'étranglement.
2. Cadre IRFE-ECG : Les auteurs instancient cette formulation en utilisant un backbone ECGFounder gelé, des experts linéaires à Softmax équilibré isolés, et un routeur MLP autonome entraîné sur les caractéristiques conservées.
3. Analyse empirique du goulot d'étranglement : À travers une évaluation approfondie sur quatre jeux de données ECG (CPSC, PTB-XL, Georgia, Chapman-Shaoxing), l'étude démontre que l'écart de performance entre la sélection oracle sensible à la source et le routage autonome est la limitation principale, plutôt que l'oubli des paramètres des experts.

4. Résultats expérimentaux

Les expériences ont été menées sur quatre domaines avec trois graines aléatoires. Les principales conclusions sont :

• Performance Source-Aware vs Autonome :
  • Oracle sensible à la source (Source-Aware) : Atteint un Macro-F1 de 0,7915 ± 0,0036. Cette performance est presque identique à celle d'une référence à tête indépendante hors ligne correspondante (0,7885), confirmant que l'isolation séquentielle empêche efficacement l'interférence de paramètres.
  • Routage autonome (MLP) : Atteint un Macro-F1 de 0,7756 ± 0,0027.
  • Fusion de marge Top-2 : Atteint un Macro-F1 de 0,7782 ± 0,0022.
• Signification des écarts :
  • Le gain de la fusion Top-2 par rapport au routage dur Top-1 est faible (+0,0026) et statistiquement non significatif (l'IC à 95 % inclut zéro).
  • L'écart entre le modèle autonome Top-2 et l'oracle sensible à la source reste de 0,0111–0,0131 à travers différents ordres de domaines.
• Précision du routage : Le routeur MLP atteint une précision de routage de 81,5 %, surpassant nettement les classifieurs par centroïde, kNN et linéaires, mais laissant toujours un taux d'erreur mesurable qui impacte le Macro-F1 final.
• Compromis de mémoire : Le système n'est pas « sans mémoire » car il conserve les vecteurs de caractéristiques gelés. Cependant, la conservation de seulement 10 % des caractéristiques d'entraînement réduit le stockage de ~140 MiB à ~14 MiB avec une baisse de Macro-F1 de seulement 0,0063 par rapport à la mémoire complète.
• Comparaison avec les bases de référence : Les bases de référence à paramètres partagés (ex: EWC, LwF, petit rejeu) souffrent d'un transfert arrière négatif (BWT) et d'un Macro-F1 final plus bas (0,64–0,73) par rapport à la banque d'experts routée (0,7782).

5. Signification et affirmations

L'article affirme que l'inférence autonome de la source est le facteur limitant pour le déploiement de banques d'experts isolés dans des scénarios d'ECG à source inconnue, plutôt que la capacité à retenir les paramètres des experts.

• Revendications modestes sur la fusion : La fusion de marge Top-2 est présentée comme un « raffinement opérationnel modeste » plutôt que comme une percée, car elle ne comble pas statistiquement l'écart avec le routage dur.
• Limites reconnues :
  • Fuite au niveau du patient (Patient-Level Leakage) : L'étude utilise le groupement par hash de forme d'onde pour éviter les doublons exacts de formes d'onde, mais ne peut garantir la séparation au niveau du patient en raison de l'absence d'identifiants de patients fiables dans les divisions traitées. Les résultats sont des benchmarks au niveau de l'enregistrement, non des validations cliniques.
  • Mémoire : La méthode n'est pas exempte de mémoire ; elle nécessite de stocker des vecteurs de caractéristiques gelés pour les mises à jour du routeur.
  • Portée : Les conclusions sont spécifiques à la classification binaire normal/anormal sur des ECG à dérivation unique et pourraient ne pas se généraliser directement à des diagnostics multi-labels ou à différentes divisions de données.
• Conclusion : Le système sépare avec succès la rétention d'experts de l'inférence, prouvant que bien que les experts puissent être parfaitement préservés, la capacité à router de manière autonome les entrées vers eux sans métadonnées reste le « principal goulot d'étranglement restant ». Les travaux futurs doivent se concentrer sur l'amélioration de l'inférence de la source et la validation des divisions au niveau du patient avant de revendiquer un déploiement clinique robuste.