🤖 machine learning

Extending Pretrained 10-Second ECG Foundation Models to Longer Horizons

Dieser Beitrag schlägt einen parameter-effizienten Rahmen vor, der vortrainierte 10-Sekunden-EKG-Foundation-Modelle erweitert, um längere Aufzeichnungen mit variabler Länge zu verarbeiten, indem ein leichtgewichtiges Plug-in-Modul für strukturelle Kompatibilität und semantische zeitliche Modellierung eingeführt wird, ohne das Backbone-Modell neu zu trainieren.

Ursprüngliche Autoren: Wei Tang, Jinpei Han, Kangning Cui, Mattia Carletti, Fredrik K. Gustafsson, Shreyank N Gowda, Patitapaban Palo, Anshul Thakur, Lei Clifton, Jean-michel Morel, Raymond H. Chan, David A. Clifton, Xiao G

Veröffentlicht 2026-05-19

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Wei Tang, Jinpei Han, Kangning Cui, Mattia Carletti, Fredrik K. Gustafsson, Shreyank N Gowda, Patitapaban Palo, Anshul Thakur, Lei Clifton, Jean-michel Morel, Raymond H. Chan, David A. Clifton, Xiao Gu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Problem: Die „10-Sekunden-Schnappschuss"-Kamera

Stellen Sie sich vor, Sie haben einen sehr klugen, hochqualifizierten Sicherheitsbeamten (das ECG-Foundation-Modell). Dieser Beamte hat jahrelang 10-Sekunden-Videoclips von Herzschlägen von Menschen studiert. Aufgrund dieser Ausbildung ist er ein Experte darin, spezifische Muster in diesen kurzen Clips zu erkennen, wie etwa einen ausgelassenen Schlag oder einen seltsamen Rhythmus. Er ist unglaublich gut in seinem Job, hat aber eine wesentliche Einschränkung: Er weiß nur, wie man 10 Sekunden auf einmal betrachtet.

In der realen Welt müssen Ärzte Patienten jedoch oft viel länger beobachten – vielleicht 3 Minuten, 10 Minuten oder sogar Stunden –, um seltene oder intermittierende Herzprobleme zu erkennen.

Wenn Sie versuchen, diesen 10-Sekunden-Experten auf ein langes Video anzuwenden, stoßen Sie auf zwei große Probleme:

Die strukturelle Fehlanpassung: Die „Augen" des Beamten (Positionseingebettungen) sind genau auf 10 Sekunden kalibriert. Wenn Sie ihm ein 3-Minuten-Video geben, gerät er in Verwirrung, weil die „Karte" der Zeit nicht passt.
Die semantische Lücke: Selbst wenn Sie den Beamten zwingen, das Video zu betrachten, weiß er nicht, wie er die Punkte verbinden soll. Wenn ein Herzproblem ganz am Anfang und ein anderes ganz am Ende auftritt, behandelt der Beamte sie als zwei separate, unzusammenhängende Ereignisse. Er kann die „große Geschichte" der gesamten Aufnahme nicht sehen.

Der alte Weg: Die „Schneiden-und-Einfügen"-Methode

Vor diesem Papier war die gängige Lösung wie ein ungeschickter Redakteur. Man würde das lange Video in winzige 10-Sekunden-Abschnitte zerschneiden, den Beamten bitten, jeden Abschnitt separat zu analysieren, und dann einen einfachen Durchschnitt aller Antworten bilden.

Der Fehler: Dies ist so, als würde man einen Detektiv bitten, ein Rätsel zu lösen, indem er sich ein Foto nach dem anderen ansieht und dann die ganze Geschichte basierend auf dem Durchschnitt dieser Fotos errät. Man verliert den Fluss, den Takt und den Kontext, wie die Ereignisse nacheinander stattfanden.

Die neue Lösung: Das „Smart Assistant"-Plug-in

Die Autoren schlagen einen cleveren, effizienten Weg vor, den Beamten aufzurüsten, ohne ihn zu feuern oder ihn jahrelang zurück in die Schule zu schicken. Statt den gesamten Beamten neu zu trainieren (was teuer und langsam ist), fügen sie ein leichtgewichtiges „Smart Assistant"-Modul an den bestehenden Experten an.

Dieser Assistent tut zwei Hauptdinge, um die Sicht des Beamten zu erweitern:

1. Das „Zeit-Karten"-Upgrade (Strukturelle Erweiterung)

Die ursprüngliche Karte des Beamten reicht nur von 0 bis 10 Sekunden. Der Assistent baut eine neue, zweischichtige Karte:

Die lokale Schicht: Sie behält das ursprüngliche, perfekte Verständnis des Beamten darüber, was innerhalb eines 10-Sekunden-Fensters passiert (wie die Form eines Herzschlags). Sie wiederholt diese Karte einfach immer wieder.
Die globale Schicht: Sie fügt eine neue „Makro"-Karte hinzu, die versteht, wie 10-Sekunden-Fenster über einen längeren Zeitraum zueinander in Beziehung stehen. Sie sagt dem Beamten: „Das sind die ersten 10 Sekunden, und das sind die zweiten 10 Sekunden, und sie sind Teil einer 3-Minuten-Geschichte."

Analogie: Denken Sie an ein Buch. Der Beamte weiß, wie man einen einzelnen Satz perfekt liest. Der Assistent fügt ein Kapitelverzeichnis und Seitenzahlen hinzu, damit der Beamte verstehen kann, wie die Sätze zusammenpassen, um ein ganzes Kapitel zu bilden.

2. Der „Geschichtenerzähler"-Leitfaden (Semantische Erweiterung)

Nur eine Karte zu haben, reicht nicht aus; der Beamte muss lernen, die lange Geschichte zu lesen. Der Assistent verwendet einen „Lehrer-Schüler"-Ansatz:

Der Lehrer: Der ursprüngliche, eingefrorene 10-Sekunden-Experte fungiert als Lehrer. Er betrachtet jeden 10-Sekunden-Abschnitt und sagt: „Dieser Abschnitt sieht nach einem normalen Herzschlag aus" oder „Dieser Abschnitt sieht verdächtig aus".
Der Schüler: Das neue, erweiterte Modell versucht, vom Lehrer zu lernen. Es rät nicht einfach; es versucht, das Verständnis des Lehrers für jeden Abschnitt zu matchen und gleichzeitig zu lernen, wie diese Abschnitte über die Zeit verbunden sind.

Der Assistent verwendet zwei spezielle Tricks, um den Schüler zu unterrichten:

Lokalitätsbewusstsein: Es zwingt den Schüler, dem Lehrer darin zuzustimmen, was jeder einzelne 10-Sekunden-Abschnitt bedeutet. Dies stellt sicher, dass der Schüler nicht „vergisst", wie ein normaler Herzschlag aussieht, nur weil er ein langes Video betrachtet.
Dynamikbewusstsein: Es lehrt den Schüler, auf die Veränderungen und Muster über die gesamte Aufnahme hinweg zu achten. Es hilft dem Modell zu erkennen, dass ein seltenes Ereignis in einem Meer normaler Daten verborgen sein könnte und dass sich die „Geschichte" des Herzens im Laufe der Zeit verändert.

Die Ergebnisse: Besser als der Durchschnitt

Die Forscher testeten diesen „Smart Assistant" bei verschiedenen Herzüberwachungsaufgaben (wie dem Erkennen von unregelmäßigen Herzschlägen oder der Vorhersage von Krankenhausaufenthalten).

Das Ergebnis: Das aufgerüstete Modell schnitt bei den alten „Schneiden-und-Einfügen"-Methoden durchweg besser ab. Es war besser darin, seltene Ereignisse zu erkennen und langfristige Trends zu verstehen.
Effizienz: Das Beste ist, dass sie den massiven, teuren „Beamten" (das Foundation-Modell) nicht neu trainieren mussten. Sie trainierten nur das winzige „Assistenten"-Plug-in. Das ist so, als würde man die GPS-Software eines Autos upgraden, ohne den Motor neu zu bauen.
Vielseitigkeit: Es funktionierte gut, selbst wenn sich die Eingabelänge änderte (z. B. Tests mit 1-Minuten- oder 2-Minuten-Aufnahmen, obwohl es auf 3-Minuten-Aufnahmen trainiert wurde).

Zusammenfassung

Kurz gesagt löst dieses Papier das Problem, kurzfristige Experten für langfristige Aufgaben einzusetzen. Anstatt den Experten zu ersetzen, gaben sie ihm eine smarte, leichte Erweiterung, die ihm hilft, den Fluss der Zeit zu verstehen und kurze Schnappschüsse zu einer kohärenten, langfristigen Geschichte zu verbinden. Dies ermöglicht es bestehenden KI-Systemen zur Herzüberwachung, effektiv mit längeren, realen Aufnahmen zu arbeiten, ohne eine massive, kostspielige Überholung zu benötigen.

Technische Zusammenfassung: Erweiterung von vortrainierten 10-Sekunden-EKG-Foundation-Modellen auf längere Zeithorizonte

Problemstellung

EKG-Foundation-Modelle haben eine starke Übertragbarkeit über klinische Anwendungen hinweg gezeigt, wenn sie auf standardisierten diagnostischen 10-Sekunden-Segmenten vortrainiert wurden. Es besteht jedoch eine kritische Einschränkung: Diese Modelle sind als feste Länge „Snapshot"-Prozessoren trainiert. Reale klinische Szenarien, wie kontinuierliche Überwachung, Holter-Aufzeichnungen und Intensivmedizin, beinhalten oft variable Längen von Aufzeichnungen, die weit über 10 Sekunden hinausgehen.

Die direkte Anwendung von 10-Sekunden-vortrainierten Modellen auf längere Zeithorizonte stellt zwei fundamentale Herausforderungen dar:

Strukturelle Inkompatibilität: Die Positions-Kodierungen, Tokenisierungsschemata und Eingabeannahmen von Snapshot-Modellen sind für kurze Segmente optimiert. Eine naive Interpolation von Positionsembeddings (wie sie bei Vision-Transformern üblich ist) ist für Biosignale ungeeignet, da sie Auflösung mit Abtastrate und physiologischer Information vermischt.
Semantische Einschränkungen: Bestehende Ansätze für lange Aufzeichnungen verlassen sich typischerweise auf Schiebefenster-Inferenz gefolgt von einfacher Aggregation (z. B. Mean Pooling) oder leichten sequenziellen Schichten (z. B. LSTM) über Fensterrepräsentationen. Diese Methoden versagen darin, langreichweitige zeitliche Abhängigkeiten explizit zu modellieren, und übersehen oft seltene oder transiente Ereignisse, die ungleichmäßig über die Zeit verteilt sind.

Methodik

Die Autoren schlagen einen parameter-effizienten Rahmen vor, der eingefrorene 10-Sekunden-EKG-Foundation-Modelle auf längere und variable Eingabelängen erweitert, ohne das Backbone-Modell neu zu trainieren. Der Ansatz nutzt das Wissen des vortrainierten Modells und führt ein leichtgewichtiges Plug-in-Modul ein, das von drei Kernideen geleitet wird: (1) Bewahrung des allgemeinen EKG-Interpretationswissens, (2) lokalisierungsbewusstes Repräsentationslernen und (3) dynamikbewusstes Langzeitlernen.

Der Rahmen besteht aus zwei komplementären Erweiterungen:

1. Strukturelle Erweiterung

Um Kompatibilität mit Aufzeichnungen mit langem Zeithorizont zu ermöglichen, führen die Autoren ein zweistufiges Positions-Kodierungsschema ein, anstatt bestehende Embeddings zu interpolieren:

Lokale Komponente: Wiederverwendung der ursprünglichen vortrainierten Positions-Embeddings ( $E^{[10s]}$ ) für die feingranulare Struktur innerhalb jedes 10-Sekunden-Fensters. Diese Gewichte werden für längere Sequenzen wiederholt, um die zeitliche Skala der lokalen Wellenformmorphologie (z. B. P-QRS-T-Komplexe) zu bewahren.
Globale Komponente: Einführung einer lernbaren Embedding-Matrix ( $E^{global}$ ), um Beziehungen zwischen aufeinanderfolgenden 10-Sekunden-Segmenten zu modellieren. Das finale Positions-Embedding wird durch Summierung der lokalen und globalen Komponenten konstruiert.
Soft Prompt Tuning: Zusätzliche lernbare Tokens werden der Eingabesequenz vorangestellt und in Zwischenschichten eingefügt, um das Erlernen globaler zeitlicher Beziehungen mit minimalen Parameter-Updates zu erleichtern.

2. Semantische Erweiterung

Um eine sinnvolle zeitliche Aggregation sicherzustellen, verwendet der Rahmen ein Teacher-Student-Framework, bei dem das eingefrorene 10-Sekunden-Modell als Lehrer dient, um die Anpassung des erweiterten Modells zu steuern:

Lokalisierungsbewusstes Repräsentationslernen: Ein weicher kontrastiver Verlust erzwingt eine semantische Ausrichtung zwischen dem Student (erweitertes Modell) und dem Lehrer (eingefrorenes Backbone) auf Segmentebene. Dies bewahrt die vom Lehrer induzierte Ähnlichkeitsstruktur lokaler 10-Sekunden-Segmente, ohne explizite Annahmen über zeitliche Paarungen zu treffen.
Dynamikbewusstes Konsistenzlernen: Unter der Erkenntnis, dass physiologische Signale nicht-stationär sind, nutzt die Methode die Affinitätsmatrix des Lehrers, um hochaffine Segmente zu identifizieren (jene, die am konsistentesten mit der globalen Aufzeichnung sind). Ein Konsistenzverlust fördert, dass diese hochaffinen Segmente mit der globalen Repräsentation der gesamten langen Sequenz ausgerichtet bleiben, wodurch sichergestellt wird, dass das Modell globale Dynamiken erfasst, selbst wenn dynamische Segmente ausgeschlossen werden.

Das gesamte Trainingsziel kombiniert den Standard-Aufgabenverlust mit diesen beiden Hilfsverlusten:
$L = L_{task} + \lambda_1 L_{local} + \lambda_2 L_{dyn}$

Hauptbeiträge

Parameter-effiziente Erweiterung: Ein Rahmen, der Snapshot-Foundation-Modelle auf variable Eingabelängen (in Experimenten bis zu 180 s) erweitert, ohne das Backbone neu zu trainieren, und dabei nur ein leichtgewichtiges Plug-in-Modul verwendet.
Neuartige Positions-Kodierung: Eine hierarchische Positions-Kodierungsstrategie, die Interpolationsartefakte vermeidet, indem wiederholte lokale Embeddings mit lernbaren globalen Segment-Embeddings kombiniert werden, speziell angepasst für Biosignale.
Semantischer Leitmechanismus: Ein Teacher-Student-Ansatz, der die robusten lokalen Repräsentationen des vortrainierten Modells nutzt, um das Lernen über lange Zeithorizonte zu steuern und die semantische Lücke bei der zeitlichen Aggregation zu schließen.
Robustheit über Modalitäten hinweg: Nachweis, dass der Rahmen über EKG hinaus auf andere physiologische Signale (z. B. PPG) und gemeinsame Modalitäten generalisiert.

Experimentelle Ergebnisse

Die Methode wurde an vier nachgelagerten Aufgaben (VT-Alarmreduktion, ED-Entscheidung, Triage-Acuity und Nachweis paroxysmaler Vorhofflimmern) über vier Foundation-Modelle-Backbones (CSFM-Tiny/Base, MERL, ECG-JEPA) evaluiert.

Leistung: Die vorgeschlagene Methode übertraf konsistent Snapshot-Aggregations-Baselines (Token/Logit Pooling) und leichte Adaptionsmethoden (Linear Probing, Adapter, VPT, LSTM Tuning). Sie erzielte state-of-the-art oder wettbewerbsfähige Ergebnisse über alle Backbones hinweg, wobei sie insbesondere bei längeren Eingangedauern (180 s) hervorragte.
Generalisierung: Modelle, die auf 3-Minuten-Aufzeichnungen trainiert wurden, generalisierten effektiv auf kürzere Inferenzdauern (10 s bis 2 Minuten) ohne Nachtraining.
Ablationsstudien:
- Die vorgeschlagene globale Positions-Kodierungsstrategie übertraf sowohl wiederholte als auch interpolierte Positions-Kodierungen signifikant.
- Die Kombination von lokalisierungs- und dynamikbewussten Zielen erzielte die beste Leistung und bestätigte die Notwendigkeit sowohl der Bewahrung lokaler Semantik als auch der Modellierung globaler Dynamiken.
- Analyse der Leitquelle: Wenn das MERL-Backbone (das eine schwächere Selbstführung zeigte) mit externer Führung von stärkeren Backbones (z. B. CSFM-Base) gepaart wurde, verbesserte sich die Leistung signifikant, was darauf hindeutet, dass die Qualität der Lehrerrepräsentation für die semantische Erweiterung entscheidend ist.
- Affinitätsgeführtes Dropping: Die Verwendung affinitätsbasierter Segmentauswahl für das Konsistenzlernen übertraf zufälliges Dropping und validierte die Bedeutung einer ähnlichkeitsbasierten Struktur im dynamikbewussten Ziel.

Bedeutung und Behauptungen

Die Arbeit behauptet, einen praktischen und skalierbaren Weg zur Erweiterung von 10-Sekunden-EKG-Foundation-Modellen auf die längeren Zeithorizonte zu bieten, die für kontinuierliche Überwachung und klinische Entscheidungsfindung erforderlich sind. Indem die rechenintensive vollständige Neukalibrierung vermieden wird, ermöglicht die Methode eine robuste Anpassung an lange Zeithorizonte, während das reiche Domänenwissen bewahrt bleibt, das in vortrainierten Snapshot-Modellen eingebettet ist.

Die Autoren verweisen bescheiden darauf, dass ihre Methode zwar variable Längen bis zu 180 Sekunden effektiv handhabt, die Erweiterung von Snapshot-Modellen auf beliebige oder wesentlich längere Zeithorizonte unter strengen Speicher- und Rechenbeschränkungen jedoch eine offene Herausforderung für zukünftige Arbeiten bleibt. Der vorgeschlagene Rahmen stellt einen bedeutenden Schritt dar, um die Lücke zwischen festgelegter Vortrainierung und dem realen Einsatz variabler Längen in der klinischen Praxis zu schließen.