Capturing Cardiac Cyclicity through Phase-Equivariant Self-Supervised Learning

Énoncé du problème

La nature cyclique des processus physiologiques, en particulier le cycle cardiaque, offre un a priori naturel pour l'apprentissage de représentations auto-supervisées. Cependant, les objectifs auto-supervisés standards pour les séries temporelles, tels que les pertes autoregressives ou de reconstruction, échouent souvent à exploiter efficacement cette structure. Ces méthodes sont contraintes de reproduire les observations brutes des capteurs, incluant le bruit (mouvement, contact des électrodes, dérive de la ligne de base), et n'organisent pas intrinsèquement l'espace latent selon la périodicité du signal. Bien que les architectures de type JEPA (Joint-Embedding Predictive Architectures) offrent une alternative en prédisant des cibles latentes plutôt que des échantillons bruts, les objectifs de prédiction latente standards laissent l'organisation de la phase cardiaque non spécifiée. Par conséquent, les modèles peuvent encoder la phase sans garantir que les trajectoires latentes soient cohérentes d'un battement à l'autre, échouant ainsi à capturer la symétrie spécifique de la séquence récurrente de dépolarisation et de repolarisation du cœur.

Méthodologie : WINDER

Les auteurs introduisent WINDER, une extension de l'architecture LeJEPA, invariante par phase, conçue pour encoder explicitement la symétrie de la phase cardiaque.

1. Reparamétrage de la phase
Au lieu de traiter le battement cardiaque comme une fonction du temps linéaire $t \in \mathbb{R}$, WINDER le reparamètre comme une fonction de phase $\phi \in S^1$ (une boucle fermée). Étant donné les pics R détectés $\{R_i\}$, la carte de phase $\Phi: \mathbb{R} \to S^1$ est définie par :
$$\phi(t) := 2\pi \frac{t - R_i}{R_{i+1} - R_i}, \quad t \in [R_i, R_{i+1})$$
Cela projette l'intervalle entre deux pics R consécutifs sur le cercle unité, préservant l'ordre intra-cycle tout en normalisant la durée du battement.

2. Espace latent équivariant par phase
La contribution théorique centrale est l'imposition de l'équivariance de phase. L'espace latent $\mathcal{Z}$ est contraint de respecter la même symétrie que le cycle cardiaque. Si un signal est traduit en phase par $\Delta$ avant l'encodage, la représentation latente doit subir une transformation correspondante $R_\Delta$ après l'encodage :
$$f_\theta(T_\Delta x) = R_\Delta f_\theta(x)$$
L'opérateur de transport $R_\Delta$ est fixe et de forme fermée, dérivé de la géométrie du groupe $U(1)$ (isomorphe à $SO(2)$) plutôt que d'être appris. L'espace latent est décomposé en :

• Capacité invariante ($K_0$) : Coordonnées qui restent fixes sous la rotation de phase.
• Capacité harmonique : Sous-espaces correspondant aux harmoniques entières $n$, où des paires de dimensions tournent de $n\Delta$.
  L'opérateur de transport est bloc-diagonal, chaque bloc harmonique effectuant une rotation $\rho(n\Delta)$. Cette structure n'ajoute aucun paramètre apprenable au mécanisme de transport.

3. Objectif d'apprentissage
WINDER optimise un objectif conjoint combinant trois termes :
$$\mathcal{L}_{Winder} = \mathcal{L}_{pred} + \lambda_{SIG}\mathcal{L}_{SIG} + \lambda_{trans}\mathcal{L}_{trans}$$

• $\mathcal{L}_{pred}$ (Prédiction latente) : Un prédicteur causal prévoit le prochain jeton (token) latent, héritant de LeJEPA.
• $\mathcal{L}_{SIG}$ (Régularisation spectrale) : Utilise le régularisateur SIG (Sketched Isotropic Gaussian Regulariser) pour prévenir l'effondrement de la représentation en imposant une distribution gaussienne isotrope sur les plongements (embeddings) latents.
• $\mathcal{L}_{trans}$ (Transport équivariant par phase) : Un nouveau terme de perte qui pénalise les écarts par rapport à l'équivariance de phase. Il mesure l'erreur directionnelle au carré entre le jeton latent actuel transporté et le jeton suivant réel :
  $$\mathcal{L}_{trans} = \mathbb{E}_{(t,t')} \left[ 1 - \langle R_{\Delta_{tt'}} \hat{z}_t, \hat{z}_{t'} \rangle \right]$$
  Cela encourage la trajectoire latente à suivre systématiquement l'ordre de la phase cardiaque.

4. Architecture
WINDER est implémenté comme une architecture causale compacte pour les ECG à 12 dérivations (jeu de données PTB-XL).

• Encodeur : Traite des patchs de 80 ms de signaux à 12 dérivations (100 Hz) via un MLP de patch et deux blocs convolutionnels causaux résiduels.
• Projecteur : Mappe les sorties de l'encodeur vers des jetons latents de 256 dimensions.
• Prédicteur : Un Transformer causal (écarté lors de l'inférence) utilisé uniquement pendant l'entraînement pour prédire les jetons futurs.
• Empreinte de paramètres : Le modèle déployé (encodeur + projecteur) contient environ 1,2 million de paramètres.

Résultats clés

Évalué sur le jeu de données PTB-XL selon un protocole de sondage linéaire gelé (Linear-probe) sur un pli de test isolé (Fold 10) :

• Précision diagnostique : WINDER atteint une macro-AUROC de superclasse de 0,8702, surpassant significativement le contrôle sans transport (0,7826). Cette performance est comparable aux méthodes auto-supervisées de pointe qui possèdent souvent des ordres de grandeur de paramètres supplémentaires.
• Validité du mécanisme : Le modèle réussit le test de la « porte G1 », confirmant que les représentations apprises utilisent l'horloge cardiaque déclarée. Le gain de transport est de 0,8786 pour WINDER contre -0,0744 pour le contrôle, indiquant que la contrainte de transport de phase façonne activement l'espace latent.
• Géométrie latente :
  • Amplitude de l'harmonique fondamentale : WINDER présente une composante fondamentale synchronisée sur la phase environ 5 fois plus forte (1,89 contre 0,38) que le contrôle.
  • Cohérence de l'espace orbital : WINDER atteint une cohérence de 0,9927, indiquant que les moyennes des bins de phase résident presque entièrement dans le plan de rotation attendu, alors que le contrôle s'effondre à 0,3159.
  • Visualisation : Les visualisations UMAP montrent que les jetons de WINDER forment un anneau ordonné par phase, tandis que les jetons du contrôle forment un amas désordonné.
• Robustesse : WINDER démontre une robustesse supérieure à la perte d'une dérivation unique, avec une dégradation moyenne de -0,0034 contre -0,0107 pour le contrôle.
• Détection d'anomalies : Dans les tests de perturbation synthétique, WINDER montre de fortes capacités de détection pour les battements ectopiques (AUROC 0,8662 contre 0,6198) avec une latence de localisation médiane de 80 ms (un jeton).

Signification et revendications

L'article affirme qu'encoder explicitement la symétrie de la phase cardiaque via un opérateur de transport fixe et de forme fermée produit une géométrie latente qui est :

1. Lisible et efficace en paramètres : Il atteint une haute performance diagnostique avec une faible empreinte de paramètres (~1M) en injectant analytiquement une structure physiologique plutôt qu'en l'apprenant par l'échelle.
2. Fondée sur la physiologie : L'espace latent est directement lié à une quantité physiologique mesurable (la phase cardiaque), garantissant que la représentation respecte la nature cyclique du cœur.
3. Utilité diagnostique : L'organisation équivariante par phase préserve les informations diagnostiques utiles, rendant la représentation plus linéairement accessible pour les tâches en aval.

Les auteurs soulignent que ce travail comble une lacune dans l'apprentissage de représentations ECG en imposant l'équivariance de phase sur un espace latent appris, une capacité jusqu'alors non occupée par les modèles spécifiques à la santé. Ils concluent que cette approche ouvre une classe plus large de modèles de monde équivariants par phase pour les biosignaux cycliques où la structure physiologique est injectée analytiquement. Les résultats sont présentés comme une comparaison contrôlée au sein de l'étude, établissant les bénéfices du mécanisme de transport de phase de manière isolée, sans prétendre à une supériorité immédiate sur tous les modèles existants sur des jeux de données externes ou dans des systèmes cliniques déployés.