🤖 machine learning

ADAPTOOD: Uncertainty-Aware Fine-Tuning for Out-of-Distribution ECG Time Series Models

Das Papier schlägt ADAPTOOD vor, ein Framework für unsicherheitsbewusstes Fine-Tuning, das die Schwere des Out-of-Distribution-Shifts in EKG-Zeitreihendaten quantifiziert, um eine adaptive Hyperparameteroptimierung und Low-Rank-Modellaktualisierungen zu steuern, wodurch die Robustheit und Leistung im Vergleich zu bestehenden Methoden signifikant verbessert wird.

Ursprüngliche Autoren: Sotirios Vavaroutas, Yu Yvonne Wu, Ali Etemad, Cecilia Mascolo

Veröffentlicht 2026-06-04

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Sotirios Vavaroutas, Yu Yvonne Wu, Ali Etemad, Cecilia Mascolo

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Die „Einheitsgröße für alle“-Falle

Stellen Sie sich vor, Sie stellen einen Meisterkoch ein, der 10 Jahre damit verbracht hat, ein Rezept für italienische Pasta mit hochwertigen Zutaten in einer professionellen Küche zu perfektionieren (dies ist das vorab trainierte Modell).

Nun wollen Sie diesen Koch nutzen, um für eine neue Gruppe von Menschen in einer anderen Umgebung zu kochen. Vielleicht sind sie in einer rustikalen Hütte mit einem Lagerfeuer, oder vielleicht haben sie nur Dosenbohnen und einen winzigen Herd.

Das Problem: Wenn Sie dem Koch einfach nur sagen: „Koch Pasta“, versucht er vielleicht, seine teuren Küchenwerkzeuge an einem Lagerfeuer zu benutzen (das wird nicht funktionieren) oder versucht, ein schickes Gericht mit Dosenbohnen zuzubereiten (das wird schlecht schmecken).
Die aktuelle Lösung: Normalerweise versuchen wir, den Koch zu „feintunen“, indem wir ihn an den neuen Zutaten üben lassen. Aber bestehende Methoden behandeln jede neue Situation gleich. Egal, ob die neue Küche leicht anders oder völlig fremdartig ist, sie wenden die gleiche Menge an Training an. Das ist ineffizient und führt oft zu schlechten Ergebnissen.

Die Lösung: ADAPTOOD (Der „intelligente sensorische“ Koch)

Die Autoren haben ein neues System namens ADAPTOOD entwickelt. Anstatt den Koch blind neu zu trainieren, fungiert ADAPTOOD wie ein intelligenter Sensor, der zuerst prüft, wie unterschiedlich die neue Situation von der alten ist.

So funktioniert es, Schritt für Schritt:

1. Das „Unsicherheits-Meter“ (Den Unterschied messen)

Bevor der Koch mit dem Kochen beginnt, misst ADAPTOOD die „Distanz“ zwischen der alten Küche und der neuen Küche.

Die Analogie: Stellen Sie sich vor, der Koch hat ein „Vertrautheits-Meter“.
- Wenn die neue Küche nur eine andere Farbe hat, aber denselben Herd besitzt, sagt das Meter: „Geringe Unsicherheit. Das ist einfach; wir müssen nur ein paar Dinge anpassen.“
- Wenn die neue Küche ein Lagerfeuer ohne Herd ist, sagt das Meter: „Hohe Unsicherheit! Das ist völlig anders. Wir müssen unseren gesamten Ansatz ändern.“
Wie es funktioniert: Das System nutzt Mathematik (genannt Mahalanobis- und Hellinger-Distanzen), um genau zu berechnen, wie „fehl am Platz“ sich die neuen Daten im Vergleich zu dem fühlen, was das Modell ursprünglich gelernt hat.

2. Selektives Unfreezing (Entscheiden, was geändert werden soll)

Sobald das System weiß, wie unterschiedlich die neue Situation ist, entscheidet es, wie viel des Gehirns des Kochs „neu trainiert“ werden soll.

Die Analogie:
- Geringe Unsicherheit (leichte Verschiebung): Das System sagt: „Der Herd ist nur etwas kleiner.“ Es entsperrt nur die Hände des Kochs, um die Hitze anzupassen. Es hält den Rest des Wissens des Kochs eingefroren, damit er nicht vergisst, wie man Pasta macht.
- Hohe Unsicherheit (starke Verschiebung): Das System sagt: „Das ist ein Lagerfeuer!“ Es entsperrt das gesamte Gehirn des Kochs und ermöglicht ihm, völlig neue Techniken zu lernen, tut dies aber vorsichtig, um die Grundlagen nicht zu vergessen.
Die Behauptung der Arbeit: Dies verhindert, dass das Modell bei einfachen Änderungen zu viel nachdenkt oder bei komplexen Änderungen zu wenig nachdenkt.

3. Die „Low-Rank“-Abkürzung (Effizienz)

Das System nutzt eine Technik namens LoRA (Low-Rank Adaptation).

Die Analogie: Anstatt das gesamte 500-seitige Kochbuch des Kochs neu zu schreiben, schreibt das System einen kleinen, auf Klebezettel geschriebenen Nachtrag (ein paar Seiten), der dem Koch sagt, wie er sich an die neuen Zutaten anpassen kann.
Der Vorteil: Dies macht den Prozess viel schneller und benötigt weniger Computerarbeitsspeicher, was ideal für den Betrieb auf kleinen Geräten wie Smartwatches ist.

4. Der „Auto-Tuner“ (Die perfekten Einstellungen finden)

Schließlich passt das System die „Knöpfe“ (Hyperparameter) für das Training automatisch an.

Die Analogie: Es ist wie ein Auto mit einem Automatikgetriebe, das die Gänge perfekt auf das Gelände abstimmt, anstatt ein Fahrer, der manuell raten muss, welchen Gang er benutzen soll. Es probiert verschiedene Einstellungen aus, um das zu finden, was für diese spezifische neue Datensatz am besten funktioniert.

Was haben sie herausgefunden? (Die Ergebnisse)

Die Forscher testeten dies an EKG-Daten (Herzschlag-Monitore). Sie simulierten viele verschiedene „neue Küchen“:

Verschiedene Menschen: Junge Erwachsene vs. ältere Patienten.
Verschiedene Geräte: Hochwertige Krankenhausgeräte vs. billige Wearable-Sensoren.
Verschiedene Signale: Herzschläge (EKG) vs. Blutfluss (PPG).
Verschiedene Datengrößen: Riesige Datensätze vs. winzige Datensätze.

Das Ergebnis:
ADAPTOOD war den anderen Methoden konsistent überlegen.

Es war bis zu 7 % genauer und 12,9 % präziser als die besten bestehenden Methoden.
Entscheidend ist: Je unterschiedlicher die „neue Küche“ wurde (stärkere Verschiebungen), desto besser konnte ADAPTOOD dies handhaben, während andere Methoden Schwierigkeiten bekamen.
Es verbrauchte auch deutlich weniger Computerarbeitsspeicher (bis zu 3-mal weniger) aufgrund des „Klebezettel“-Ansatzes (LoRA).

Zusammenfassung

ADAPTOOD ist eine intelligente Art und Weise, ein KI-Modell neue Aufgaben lehren zu lassen, ohne bei Null anzufangen. Anstatt das Modell jedes Mal zu zwingen, alles auf die gleiche Weise zu lernen, misst es zuerst, wie unterschiedlich die neuen Daten sind, dann ändert es nur die Teile des Modells, die geändert werden müssen, und findet automatisch die besten Einstellungen dafür. Dies macht KI-Modelle für die Herzüberwachung (und andere Zeitreihen-Daten) viel robuster und effizienter, wenn sie auf reale Überraschungen stoßen.

Technisches Resümee: ADAPTOOD – Unsicherheitsbewusste Feinabstimmung für Out-of-Distribution-Modelle von EKG-Zeitreihen

Problemstellung

Die Bereitstellung von Modellen des maschinellen Lernens, die auf großskaligen Sensordaten trainiert wurden, in realen klinischen Umgebungen steht vor erheblichen Hürden aufgrund von Verteilungsverschiebungen (Distribution Shifts). Während das Pre-training eine Grundlage bietet, haben Modelle oft Schwierigkeiten, wenn sie auf kleinen, annotierten Datensätzen feinabgestimmt werden, die von der Pre-training-Verteilung abweichen. Diese Diskrepanzen entstehen aus vielfältigen Quellen, darunter Populationsheterogenität, variierende Sensortypen, unterschiedliche Erhebungsprotokolle und zeitliche Drifts.

Bestehende Adaptationsmethoden, wie Transfer Learning und Domain Adaptation, setzen typischerweise feste Verteilungsverschiebungen voraus oder behandeln Out-of-Distribution-Fälle (OOD) als binären Zustand (in-domain vs. out-of-domain). Sie versäumen es, die Schwere oder Granularität dieser Verschiebungen zu berücksichtigen. Infolgedessen wenden sie oft einheitliche Adaptationsstrategien an, unabhängig davon, ob die Verschiebung geringfügig (z. B. eine leicht andere Population) oder schwerwiegend (z. B. ein neuer Sensormodus) ist, was zu suboptimaler Generalisierung, Overfitting auf kleinen Datensätzen oder katastrophalem Vergessen (Catastrophic Forgetting) führt.

Methodik: ADAPTOOD-Framework

Die Autoren schlagen ADAPTOOD vor, ein Framework, das darauf ausgelegt ist, die Schwere der Verteilungsverschiebung zu quantifizieren und die Feinabstimmung dynamisch zu steuern. Das System operiert durch vier miteinander verbundene Module:

1. Unsicherheitsgestützte Schwerequantifizierung

Die Kerninnovation besteht darin, die Datenunsicherheit zu nutzen, um zu messen, wie stark ein Zieldatensatz ( $D_t$ ) von der Pre-training-Quellverteilung ( $D_s$ ) abweicht.

Dimensionalitätsreduktion: Hochdimensionale EKG-Signale werden mittels Hauptkomponentenanalyse (PCA) auf eine dominante Komponente reduziert, um die Dichteschätzung zu verbessern.
Distanzmetriken: Das Framework berechnet die Divergenz auf Datensatzebene unter Verwendung zweier komplementärer Metriken:
- Mahalanobis-Distanz ( $d_m$ ): Misst die Distanz neuer Batches vom Zentrum der bekannten Verteilung unter Berücksichtigung von Merkmalskorrelationen und Skalierung.
- Hellinger-Distanz ( $d_h$ ): Quantifiziert die Ähnlichkeit zwischen den allgemeinen Wahrscheinlichkeitsverteilungen der Quelle und des Ziels.
Kombinierte Metrik: Diese Distanzen werden normiert und in einen gewichteten Unsicherheitsscore, $\sigma(D_t | P(D_s))$ , zusammengeführt, wobei ein höherer Score auf eine schwerwiegendere OOD-Verschiebung hindeutet.

2. Selektives Entfrieren von Layern (Selective Layer Unfreezing)

Anstatt das gesamte Modell oder eine feste Teilmenge feinabzustimmen, bestimmt ADAPTOOD dynamisch, wie viele Layer freigeschaltet werden sollen, basierend auf dem berechneten Unsicherheitsscore.

Strategie: Es verwendet eine Kombination aus linearen und exponentiellen Zerfallsfunktionen (Decay-Funktionen).
- Linear: Die Anzahl der entfrozenen Layer ist proportional zum Kehrwert der Unsicherheit.
- Exponentiell: Verwendet einen Zerfallsfaktor, um die Sensitivität gegenüber Unsicherheitsstufen zu erhöhen.
Ausführung: Die endgültige Anzahl der trainierbaren Layer ergibt sich aus dem Mittelwert dieser beiden Berechnungen. Die Layer werden beginnend von oben (nah am Output) nach unten entfroren. Dies stellt sicher, dass geringfügige Verschiebungen minimale architektonische Änderungen erfordern, während schwerwiegende Verschiebungen eine umfassendere Adaptation auslösen, wodurch das Risiko von Overfitting und Underfitting ausgeglichen wird.

3. Low-Rank Adaptation (LoRA)

Um die Recheneffizienz zu wahren und Overfitting auf begrenzten Ziel-Daten zu verhindern, integriert das Framework LoRA in alle Conv1D-Layer.

Mechanismus: Die vortrainierten Gewichte werden eingefroren, und es werden leichte, trainierbare Low-Rank-Matrizen eingeführt.
Vorteil: Dies reduziert die Parameteranzahl und den Speicherbedarf signifikant und konzentriert die Kapazität des Modells auf das Lernen lokaler temporaler Muster, wo es am dringendsten benötigt wird.

4. Adaptive Hyperparameter-Optimierung

Da die für das Pre-training optimalen Hyperparameter nicht zwangsläufig für OOD-Aufgaben geeignet sind, nutzt das Framework Bayessche Optimierung.

Prozess: Es sucht iterativ nach optimalen Konfigurationen für den Optimierer (z. B. Adam, RMSprop) und die Lernrate über einen definierten Suchraum.
Ziel: Identifizierung von Konfigurationen, die die spezifische Verteilungsverschiebung am besten bewältigen können, ohne manuelles Tuning.

Zentrale Beiträge

Neuartige Schwerequantifizierung: Einführung eines Mechanismus, der die Datenunsicherheit (via Mahalanobis- und Hellinger-Distanz) nutzt, um die Schwere von OOD-Verschiebungen im Verhältnis zu den Pre-training-Daten zu bewerten, und damit über binäre In/Out-of-Domain-Annahmen hinausgeht.
Schweregrad-flexible Adaptation: Entwicklung eines Ansatzes, der Unsicherheitsscores nutzt, um das selektive Entfrieren von Layern und das Hyperparameter-Tuning zu steuern, wodurch sichergestellt wird, dass die Adaptationsstrategie der Komplexität der Verschiebung entspricht.
Effizienz und Robustheit: Integration von LoRA und Bayesscher Optimierung, um eine parametereffiziente Feinabstimmung zu erreichen, die auch bei steigender Schwere der Verteilungsverschiebung eine starke Leistung über verschiedene Metriken hinweg beibehält.

Experimentelle Ergebnisse

Die Autoren evaluierten ADAPTOOD auf EKG-Zeitreihen-Datensätzen unter Einbeziehung verschiedener Verschiebungen (Population, Sensor, Temporal, Label, Modus, Dimensionalität) im Vergleich zu Baselines wie Standard-Transfer-Learning, Supervised Learning, Feature-based Domain Adaptation und Instance-based Domain Adaptation.

Leistungssteigerungen: ADAPTOOD übertraf konsistent alle Baselines.
- Im MIT-BIH-Datensatz (Sensor-/Populationsverschiebung) erreichte es eine Genauigkeit von 0,953 und eine Präzision von 0,930, womit es die beste Baseline (Feature-based DA) um 1,3 % in der Genauigkeit und um 0,9 % in der Präzision übertraf.
- Im PTB-DB-Datensatz zeigte es eine Verbesserung der Genauigkeit um 11,9 % gegenüber Transfer Learning (0,922 vs. 0,803) und eine Verbesserung der Präzision um 12,9 %.
- Im MIMIC-Perform PPG-Datensatz (eine schwerwiegende Modusverschiebung von EKG zu PPG) erreichte ADAPTOOD eine Genauigkeit von 0,975 und übertraf damit die beste Baseline um etwa 3 % (0,945).
- Im CODEtest-Datensatz (Dimensionalitätsverschiebung mit 12-Kanal-EKG) erzielte es eine Genauigkeit von 0,922 und übertraf damit die nächstbeste Methode (Feature-based DA bei 0,894).
Ablationsstudien: Das Entfernen einzelner Komponenten (Unsicherheitsmetriken, Hyperparameter-Tuning oder LoRA) verschlechterte die Leistung konsistent und bestätigte die Notwendigkeit des vollständigen Frameworks. Insbesondere die Kombination beider Distanzmetriken lieferte konsistentere Ergebnisse als die Verwendung einer einzelnen Metrik.
Effizienz: Durch die Nutzung von LoRA und selektivem Entfrieren reduzierte ADAPTOOD die Gesamtzahl der Parameter und den Speicherbedarf erheblich. Beispielsweise wurde die Modellgröße im MIT-BIH-Datensatz von ca. 29,17 MB (ohne LoRA) auf 8,61 MB reduziert.

Bedeutung und Ansprüche

Das Paper behauptet, dass ADAPTOOD eine kritische Lücke in der Interpretation von Biosignalen schließt: das Fehlen von Methoden, die in der Lage sind, auf unterschiedliche Schweregrade von Verteilungsverschiebungen zu adaptieren. Durch die Behandlung der OOD-Adaption als einen Schweregrad-abhängigen Prozess statt eines fixen Protokolls erreicht das Framework:

Robuste Generalisierung: Aufrechterhaltung hoher Genauigkeit und Präzision, selbst wenn die Testdaten aufgrund mehrerer überlappender Verschiebungstypen signifikant von den Trainingsdaten abweichen.
Ressourceneffizienz: Erzielung dieser Gewinne mit weniger Parametern und geringeren Rechenkosten, was die Eignung für ressourcenbeschränkte Umgebungen erhöht.
Kalibrierung: Bereitstellung einer ausgewogeneren Leistung über verschiedene Metriken (Accuracy, Precision, Recall, F1) im Vergleich zu Baselines, die oft unter Problemen der Klassenimbalance leiden (z. B. niedrige Sensitivität).

Die Autoren positionieren ADAPTOOD als einen zuverlässigen, datengesteuerten Ansatz zur Feinabstimmung vortrainierter Modelle in realen Out-of-Distribution-Szenarien, insbesondere dort, wo gelabelte Daten knapp sind und die Charakteristika der Verschiebung unbekannt oder variabel sind.