Electrocardiogram Classification with Transformers Using Koopman and Wavelet Features

Dit onderzoek toont aan dat het combineren van met de Koopman-operator afgeleide kenmerken (via EDMD met een gespecialiseerd RBD-woordenboek) en transformatoren superieure prestaties levert voor meerklassige ECG-classificatie vergeleken met wavelet-kenmerken of een eenvoudige hybride aanpak.

De kern

🫀 Het Hart als een Muziekstuk: Een Nieuwe Manier om Hartproblemen te Vinden

Stel je voor dat een hartslag (een ECG) niet zomaar een lijn op papier is, maar een muziekstuk. Soms is het een rustig, regelmatig liedje (gezond), en soms is het een chaotisch, rommelend geluid (ziek).

De vraag die deze onderzoekers zich stelden, was: "Hoe kunnen we een computer zo slim maken dat hij dit muziekstuk hoort en direct zegt: 'Dit is gezond' of 'Dit is een specifiek type hartkwaal'?"

Ze probeerden dit te doen met een heel moderne technologie genaamd Transformers (de slimme hersenen achter AI die ook tekst vertaalt). Maar ze gaven de computer geen ruwe geluidsopname, maar eerst een vertaling in een andere taal. Ze vergeleken twee manieren om dit te doen:

1. De "Wavelet"-Methode: De Microfoon

Stel je voor dat je een microfoon hebt die het geluid in kleine stukjes knipt en analyseert: "Hier is een hoge piek, daar een lage golf."

• Wat het doet: Het kijkt naar de vorm van de golfjes op dat specifieke moment.
• Het resultaat: Dit werkt fantastisch als je alleen wilt weten: "Is dit normaal of niet?" (Ja/Neen). Het is als een alarm dat afgaat als er een geluid is dat niet hoort.

2. De "Koopman"-Methode: De Muziektheoreticus

Dit is de nieuwe, spannende methode uit dit artikel. In plaats van alleen naar de vorm te kijken, probeert deze methode te begrijpen waarom het geluid zo klinkt.

• De Metafoor: Stel je voor dat je een orkest hebt. De "Wavelet" hoort de noten. De "Koopman" (een wiskundig concept) probeert de regels van de compositie te vinden. Hij zegt: "Ah, dit geluid komt voort uit een specifieke trilling die altijd zo beweegt."
• Hoe het werkt: Ze gebruiken een wiskundig trucje (EDMD) om het chaotische hartgeluid om te zetten in een soort "spectrum" van trillingen. Het is alsof je het geluid omzet in een lijst met instrumenten die spelen.
• Het resultaat: Dit werkt beter als je moet kiezen tussen vier verschillende soorten ziektes (bijv. trillend hart vs. geblokkeerde bloedsomloop). Het begrijpt de dynamiek van het hart beter.

🧪 Het Experiment: Wat bleek er?

De onderzoekers deden een proef met duizenden hartopnames van het MIMIC-IV (een enorme bibliotheek van medische data). Ze testten drie scenario's:

1. Alleen de Microfoon (Wavelet + AI):

   • Resultaat: Zeer goed voor "Ja/Neen" vragen.
   • Metafoor: Een goede brandweerman die rook ruikt, maar niet weet welk huis in brand staat.

2. Alleen de Muziektheoreticus (Koopman + AI):

   • Resultaat: Eerst wat minder goed, maar toen ze de "instellingen" van de theorieer fijnstelden, werd hij de beste.
   • Metafoor: Een dirigent die precies weet welk instrument fout speelt en welk type muziek het is.

3. De Mix (Microfoon + Muziektheoreticus + AI):

   • Resultaat: Flop. Het werd juist slechter.
   • De Leer: Het was alsof je iemand twee verschillende vertalers tegelijk laat praten. De ene zegt "Het is een hond", de andere "Het is een kat". De AI raakte in de war. Soms is minder meer; je hoeft niet alles te combineren.

🏆 De Grote Overwinnaar: De "Fijne Instelling"

Het geheim van de winnaar was niet het combineren van methodes, maar het fijnstellen van de Muziektheoreticus (de Koopman-methode).
Ze pasten de "woordenlijst" (de wiskundige basisfuncties) aan zodat deze perfect paste bij de hartslag.

• Conclusie: Als je de juiste wiskundige "bril" opzet, kan de AI het hartgeluid zo goed begrijpen dat hij niet alleen weet dat er iets mis is, maar ook precies wat er mis is.

🔍 Waarom is dit belangrijk? (De "Röntgenfoto")

Een groot probleem met AI is dat het vaak een "zwarte doos" is: het geeft een antwoord, maar je weet niet waarom.
Met de Koopman-methode kunnen ze het hartgeluid terugbouwen (reconstructie).

• Ze kunnen laten zien: "Kijk, deze specifieke trilling (deze 'mode') is het probleem."
• Het is alsof ze de muziek niet alleen horen, maar ook de bladmuziek kunnen tonen van waar het fout gaat. Dit maakt het voor artsen veel makkelijker om te vertrouwen op de computer.

Samenvatting in één zin:

De onderzoekers hebben ontdekt dat een slimme wiskundige methode (Koopman), die de "regels" van het hartgeluid begrijpt, samen met een moderne AI (Transformer), beter is in het diagnosticeren van specifieke hartziektes dan de traditionele manier van naar golfjes kijken, mits je de instellingen van die wiskunde perfect afstelt.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Electrocardiogram Classification with Transformers Using Koopman and Wavelet Features", geschreven in het Nederlands.

Titel: Electrocardiogram-classificatie met Transformers met behulp van Koopman- en Wavelet-kenmerken

Auteurs: Sucheta Ghosh en Zahra Monfared (Heidelberg Universiteit, Duitsland).

---

1. Het Probleem

De analyse van elektrocardiogrammen (ECG) is cruciaal voor het detecteren van hartafwijkingen. Hoewel er grote databases beschikbaar zijn (zoals MIMIC-IV-ECG), blijft robuuste geautomatiseerde classificatie uitdagend vanwege de complexiteit en variabiliteit van fysiologische signalen.

• Bestaande methoden: Traditionele methoden gebruiken handgemaakte tijd- en frequentie-domein kenmerken. Diepe leermodellen zoals CNN's en RNN's presteren goed, maar kampen met beperkte interpretbaarheid en moeite om de onderliggende fysiologische dynamiek volledig vast te leggen.
• De uitdaging: Er is behoefte aan methoden die niet alleen hoge nauwkeurigheid bieden, maar ook inzicht geven in de dynamische systemen die het hartreguleren, en die effectief kunnen omgaan met niet-stationaire signalen.

2. Methodologie

De auteurs onderzoeken een hybride aanpak waarbij kenmerken afgeleid van de Koopman-operator en Wavelet-transformaties worden gecombineerd met Transformer-architecturen.

• Dataset: Gebruik van de MIMIC-IV-ECG database.

  • Taken: (1) Binair classificeren (Normaal vs. Niet-normaal) en (2) Vier-klassen classificatie (Normaal, Atriumfibrillatie, Ventriculaire aritmie, Blokkade).
  • Preprocessing: Resampling, z-score normalisatie en segmentatie met 50% overlap.

• Kenmerkextractie:

  1. Wavelet-kenmerken: Gebruik van de Discrete Wavelet Transformatie (DWT) voor een multiresolutie tijd-frequentie representatie.
  2. Koopman-kenmerken: Toepassing van Extended Dynamic Mode Decomposition (EDMD) om de Koopman-operator te benaderen.
     • Er wordt een Radiale Basisfunctie (RBF)-dictionary gebruikt om de data naar een hogere dimensie te tillen.
     • De eigenspectra (reële en imaginaire componenten, grootte en groeifactoren) worden gebruikt als input-tokens voor de Transformer.
  3. Hybride aanpak: Concatenatie van Wavelet- en Koopman-kenmerken voordat deze de Transformer ingaan.

• Modelarchitectuur:

  • Een Transformer-encoder verwerkt de kenmerk-tokens.
  • Een RNN (op ruwe ECG-data) dient als baseline voor vergelijking.
  • Reconstructie: Het Koopman-framework wordt ook gebruikt om het ECG-signaal te reconstrueren uit de dominante modi, wat dient als validatie van de dynamische vastlegging.

• Verbetering (Ablatie-studie): De auteurs verfijnen de Koopman-extractie door hyperparameters van de EDMD (zoals vertragingseembedding, aantal RBF-centra, kernelbandbreedte en spectrale truncatie) te tunen.

3. Belangrijkste Bijdragen

1. Systeematische evaluatie: Het is een van de eerste studies die Koopman-gebaseerde kenmerken systematisch combineert met Transformers voor ECG-classificatie.
2. Benchmarking: Vergelijking met Wavelet-baselines om de sterke en zwakke punten van beide methoden in kaart te brengen.
3. Verbeterde Kenmerkextractie: Het aantonen dat het zorgvuldig tunen van de EDMD-dictionary (specifiek RBF met geparameteriseerde instellingen) de prestaties aanzienlijk verbetert, zelfs ten opzichte van hybride systemen.
4. Interpreteerbaarheid: Het bieden van inzicht in de geleerde dynamica via reconstructie en analyse van het Koopman-eigenspectrum (bijv. stabiele vs. gedempte dynamica).

4. Resultaten

De prestaties werden gemeten aan de hand van de F1-score op een getest dataset (gemiddeld over 5 runs).

Methode	Binair Classificatie (F1)	Vier-klassen Classificatie (F1)
Wavelet + Transformer	0.750 ± 0.02	0.700 ± 0.03
Koopman + Transformer (Initieel)	0.697 ± 0.01	0.771 ± 0.02
Hybride (Wavelet + Koopman)	0.677 ± 0.01	0.533 ± 0.02
Koopman + Transformer (Geoptimaliseerd)	0.786 ± 0.01	0.764 ± 0.02
RNN Baseline (Ruwe data)	0.782 ± 0.01	0.700 ± 0.02

Kernbevindingen:

• Binair vs. Meer-klasse: Wavelet-kenmerken presteren het beste bij de binare taak (detectie van algemene afwijkingen). Koopman-kenmerken overtreffen dit echter in de meer complexe vier-klassen taak, waar ze fijnere dynamische verschillen tussen aritmieën kunnen onderscheiden.
• Hybride falen: Het simpelweg samenvoegen (concatenatie) van Wavelet- en Koopman-kenmerken leidde tot een verslechtering van de prestaties. Dit suggereert dat de twee kenmerkruimten overlappende informatie bevatten in plaats van complementaire, of dat er ruis wordt geïntroduceerd.
• Optimalisatie is cruciaal: De beste prestatie (F1 = 0.786) werd behaald met de geoptimaliseerde Koopman + Transformer. Dit toont aan dat de keuze van de basisfuncties en hyperparameters bij EDMD kritiek is.
• Reconstructie: De EDMD-reconstructie van het ECG-signaal toonde een hoge overeenkomst met het origineel (inclusief P-QRS-T morfologie), wat bevestigt dat de Koopman-operator de essentiële dynamiek van het hart vastlegt.

5. Betekenis en Conclusie

Dit onderzoek demonstreert dat de integratie van dynamische systeemtheorie (Koopman-operator) met moderne deep learning (Transformers) een veelbelovende richting is voor biomedische signaalanalyse.

• Interpreteerbaarheid: In tegenstelling tot "black-box" modellen, biedt de Koopman-benadering inzicht in de onderliggende oscillaties en stabiliteit van het hart (via het eigenspectrum).
• Efficiëntie: Kenmerk-gebaseerde methoden (Koopman/Wavelet) schalen lineair en zijn efficiënter dan het trainen van RNN's op ruwe data bij grotere datasets.
• Toekomstperspectief: Hoewel de huidige hybride fusie niet werkte, wijzen de resultaten op de noodzaak van geavanceerdere fusiestrategieën (bijv. attention-mechanismen) om dynamische en spectrale informatie effectief te combineren. De methode is potentieel toepasbaar op andere biomedische signalen zoals EEG of PPG.

Samenvattend: De paper stelt dat het zorgvuldig ontwerpen van de Kenmerk-extractie (via EDMD) belangrijker is dan het simpelweg combineren van verschillende kenmerktypen, en dat Koopman-gebaseerde features, wanneer goed getuned, superieure resultaten kunnen behalen voor complexe hartziekte-classificatie.