Capturing Cardiac Cyclicity through Phase-Equivariant Self-Supervised Learning

Probleemstelling

De cyclische aard van fysiologische processen, in het bijzonder de hartcyclus, biedt een natuurlijke prior voor zelfgesuperviseerd representatie-leren. Echter, standaard zelfgesuperviseerde doelstellingen voor tijdreeksen, zoals autoregressieve of reconstructieverlies, falen vaak in het effectief exploiteren van deze structuur. Deze methoden worden gedwongen om ruwe sensorgemeten te reproduceren, inclusclusief ruis (beweging, elektrodecontact, baseline drift), en organiseren de latente ruimte niet inherent volgens de periodiciteit van het signaal. Hoewel Joint-Embedding Predictive Architectures (JEPAs) een alternatief bieden door latente doelen te voorspellen in plaats van ruwe samples, laten standaard latente voorspellingsdoelstellingen de organisatie van de hartfase ongespecificeerd. Bijgevolg kunnen modellen fase coderen zonder te garanderen dat latente trajecten consistent zijn over verschillende hartslagen, waardoor ze er niet in slagen de specifieke symmetrie van de herhalende depolarisatie- en repolarisesequentie van het hart te vangen.

Methodologie: WINDER

De auteurs introduceren WINDER, een fase-equivariante uitbreiding van de LeJEPA-architectuur, ontworpen om expliciet de hartfasesymmetrie te coderen.

1. Fase-reparametrisatie
In plaats van de hartslag te behandelen als een functie van lineaire tijd $t \in \mathbb{R}$, reparametriseert WINDER deze als een functie van fase $\phi \in S^1$ (een gesloten lus). Gegeven gedetecteerde R-pieken $\{R_i\}$, wordt de fasemap $\Phi: \mathbb{R} \to S^1$ gedefinieerd als:
$$\phi(t) := 2\pi \frac{t - R_i}{R_{i+1} - R_i}, \quad t \in [R_i, R_{i+1})$$
Dit brengt het interval tussen opeenvolgende R-pieken naar de eenheidscirkel, waarbij de ordening binnen de cyclus behouden blijft en de duur van de hartslag wordt genormaliseerd.

2. Fase-equivariante Latente Ruimte
De kern van de theoretische bijdrage is het afdwingen van fase-equivariantie. De latente ruimte $\mathcal{Z}$ wordt beperkt om dezelfde symmetrie te volgen als de hartcyclus. Als een signaal in fase wordt getranslateerd met $\Delta$ vóór codering, moet de latente representatie een overeenkomstige transformatie $R_\Delta$ ondergaan na codering:
$$f_\theta(T_\Delta x) = R_\Delta f_\theta(x)$$
De transportoperator $R_\Delta$ is vast en in gesloten vorm, afgeleid van de geometrie van de $U(1)$-groep (isomorf aan $SO(2)$) in plaats van geleerd te worden. De latente ruimte wordt gedecomposeerd in:

• Invariante Capaciteit ($K_0$): Coördinaten die onveranderd blijven onder fase-rotatie.
• Harmonische Capaciteit: Subruimten die overeenkomen met gehele harmonischen $n$, waarbij paren dimensies roteren met $n\Delta$.
  De transportoperator is blokdiagonaal, waarbij elk harmonisch blok een rotatie $\rho(n\Delta)$ uitvoert. Deze structuur voegt geen leerbare parameters toe aan het transportmechanisme.

3. Leerdoelstelling
WINDER optimaliseert een gezamenlijke doelstelling die drie termen combineert:
$$\mathcal{L}_{Winder} = \mathcal{L}_{pred} + \lambda_{SIG}\mathcal{L}_{SIG} + \lambda_{trans}\mathcal{L}_{trans}$$

• $\mathcal{L}_{pred}$ (Latente Voorspelling): Een causale voorspeller voorspelt de volgende latente token, overerfend van LeJEPA.
• $\mathcal{L}_{SIG}$ (Spectrale Regularisatie): Gebruikt de Sketched Isotropic Gaussian Regulariser (SIGReg) om representatie-instorting te voorkomen door een isotrope Gaussische distributie op de latente embeddings af te dwingen.
• $\mathcal{L}_{trans}$ (Fase-equivariante Transport): Een nieuwe verliesterm die afwijkingen van fase-equivariantie bestraft. Het meet de gekwadrateerde directionele fout tussen de getransporteerde huidige latente en de werkelijke volgende latente:
  $$\mathcal{L}_{trans} = \mathbb{E}_{(t,t')} \left[ 1 - \langle R_{\Delta_{tt'}} \hat{z}_t, \hat{z}_{t'} \rangle \right]$$
  Dit moedigt de latente trajecten aan om de hartfase-volgorde consistent te volgen.

4. Architectuur
WINDER is geïmplementeerd als een compacte causale architectuur voor 12-afgeleide ECG's (PTB-XL dataset).

• Encoder: Verwerkt 80ms patches van 12-afgeleide signalen (100 Hz) via een patch MLP en twee residuele causale convolutionele blokken.
• Projector: Brengt encoder-outputs naar 256-dimensionale latente tokens.
• Predictor: Een causale Transformer (die tijdens de inferentie wordt weggegooid) die alleen tijdens de training wordt gebruikt om toekomstige tokens te voorspellen.
• Parameter Voetafdruk: Het ingezette model (encoder + projector) bevat ongeveer 1,2 miljoen parameters.

Belangrijkste Resultaten

Geëvalueerd op de PTB-XL dataset onder een frozen linear-probe protocol op een afgesloten testfold (Fold 10):

• Diagnostische Nauwkeurigheid: WINDER bereikt een Superclass macro-AUROC van 0,8702, wat de transport-vrije controle (0,7826) aanzienlijk overtreft. Deze prestatie is vergelijkbaar met state-of-the-art zelfgesuperviseerde methoden die vaak orders van grootte meer parameters hebben.
• Mechanisme Validiteit: Het model slaagt voor een "G1 gate" test, wat bevestigt dat de geleerde representaties de verklaarde hartklok gebruiken. De transportwinstfractie is 0,8786 voor WINDER versus -0,0744 voor de controle, wat aangeeft dat de fase-transportrestrictie de latente ruimte actief vormgeeft.
• Latente Geometrie:
  • Fundamentele-harmonische Amplitude: Winder vertoont een ongeveer 5 keer sterkere fase-gelockte fundamentele component (1,89 vs 0,38) vergeleken met de controle.
  • Orbit-subspace Coherentie: Winder bereikt een coherentie van 0,9927, wat aangeeft dat de fase-bin gemiddelden bijna volledig binnen het verwachte rotatievlak liggen, terwijl de controle instort naar 0,3159.
  • Visualisatie: UMAP-visualisaties tonen aan dat de tokens van Winder een fase-geordende annulus vormen, terwijl de tokens van de controle een ongeordende cluster vormen.
• Robuustheid: Winder demonstreert superieure robuustheid tegen single-lead dropout, met een gemiddelde degradatie van -0,0034 vergeleken met -0,0107 voor de controle.
• Anomaliedetectie: In synthetische perturbatietests vertoont Winder sterke detectiecapaciteiten voor ectopische hartslagen (AUROC 0,8662 vs 0,6198) met een mediane lokalisatielatentie van 80ms (één token).

Betekenis en Claims

Het artikel beweert dat het expliciet coderen van hartfasesymmetrie via een vaste, closed-form transportoperator een latente geometrie oplevert die:

1. Leesbaar en Parameter-efficiënt is: Het bereikt een hoge diagnostische prestatie met een kleine parametervoetafdruk (~1M) door fysiologische structuur analytisch te injecteren in plaats van het te leren door schaal.
2. Fysiologisch Gegrond is: De latente ruimte is direct gekoppeld aan een meetbare fysiologische grootheid (hartfase), wat ervoor zorgt dat de representatie de cyclische aard van het hart respecteert.
3. Diagnostische Nut heeft: De fase-equivariante organisatie behoudt diagnostisch nuttige informatie, waardoor de representatie gemakkelijker lineair toegankelijk is voor downstream taken.

De auteurs benadrukken dat dit werk een gat in ECG-representatie-leren vult door fase-equivariantie op te leggen aan een geleerde latente ruimte, een capaciteit die voorheen onbezet was in gezondheidszorg-specifieke modellen. Ze concluderen dat deze aanpak een bredere klasse van fase-equivariante wereldmodellen opent voor cyclische biosignalen waarbij fysiologische structuur analytisch wordt geïnjecteerd. De bevindingen worden gepresenteerd als een gecontroleerde binnenstudie-vergelijking, die de voordelen van het fase-transportmechanisme in isolatie vaststelt, zonder te claimen onmiddellijke superioriteit ten opzichte van alle bestaande modellen op externe datasets of in klinische systemen.