SleepJEPA: Learning the latent world of sleep with at-home sleep data to estimate disease risk

Het SleepJEPA-model is een fundamentele representatiemodel voor slaap, getraind op at-home slaapdata, dat nauwkeurige risicoschattingen voor diverse ziekten en slaapstadiën mogelijk maakt door gebruik te maken van een gezamenlijke embedding-predictieve architectuur.

De kern

SlaapJEPA: De "Zwarte Doos" van je Slaap ontcijferd

Stel je voor dat je lichaam 's nachts een heel complex orkest is. Terwijl je slaapt, spelen je hersenen, hart, longen en spieren allemaal een eigen stukje muziek. Normaal gesproken is dit een harmonieus concert, maar als er iets mis is met je slaap (zoals ademen die stopt of je te weinig rust krijgt), wordt de muziek rommelig. Die rommel is vaak een teken dat er in de toekomst iets mis kan gaan met je gezondheid, zoals hartproblemen of diabetes.

Vroeger moesten mensen naar een ziekenhuis om deze "muziek" op te nemen met een zware, dure machine (de polsgraf). Maar nu kunnen we dit thuis doen met kleinere apparaten. Het probleem? Er is zo'n enorme berg aan data (miljoenen uren aan geluid en signalen) dat niemand precies weet hoe je die rommelige muziek vertaalt naar een voorspelling voor de toekomst.

Wat is SleepJEPA?

De onderzoekers hebben SleepJEPA bedacht. Je kunt dit zien als een super-slimme "muziekleraar".

1. De Leerling: In plaats van dat de computer alleen naar de noten kijkt (de data), leert SleepJEPA de essentie van de muziek. Het kijkt naar de hele nacht (6 tot 12 uur) en probeert te begrijpen wat er gebeurt als een stukje muziek ontbreekt. Het is alsof je een liedje hoort en de melodie kunt raden, zelfs als een paar noten weg zijn. Dit heet "latent space learning" (het leren van de verborgen wereld).
2. De Oefening: De computer heeft getraind met een enorme hoeveelheid data: 422.000 uur aan slaapopnames van meer dan 55.000 mensen. Dat is als het beluisteren van 45 jaar aan ononderbroken muziek!
3. De Resultaten: Na deze training kan SleepJEPA twee dingen doen:
   • De "Slaapkaart" maken: Het kan precies vertellen in welke fase je slaapt (diep, dromen, wakker), net zo goed als een menselijke expert.
   • De "Weerkaart" voor je gezondheid: Dit is het echte wonder. SleepJEPA kan kijken naar je slaap van vandaag en zeggen: "Hé, op basis van hoe je hebt geslapen, is er een kans dat je over 5, 10 of zelfs 15 jaar hartproblemen, diabetes of een beroerte krijgt."

Hoe goed werkt het?

Het is alsof je een waarzegger hebt die niet op kristallen bollen kijkt, maar op je eigen slaapdata.

• Voor hartfalen en dood door hart- en vaatziekten is de voorspelling heel nauwkeurig (net als het voorspellen van een storm met een moderne radar).
• Het werkt zelfs goed voor diabetes, hoogte bloeddruk en kognitieve achteruitgang (zoals dementie).
• Het kan zelfs slaapapneu (waarbij je stopt met ademen) en slaapverlamming (narcolepsie) herkennen.

Waarom is dit zo belangrijk?

Stel je voor dat je dokter je niet alleen vraagt: "Heb je pijn?", maar ook: "Hoe klinkt je nachtelijke orkest?"

• Thuis meten: Je hoeft niet meer naar het ziekenhuis. Je slaapt gewoon in je eigen bed.
• Vroegtijdig ingrijpen: Als SleepJEPA ziet dat je "muziek" de verkeerde kant op gaat, kan de dokter je nu al waarschuwen. Je kunt dan je levensstijl aanpassen voordat je echt ziek wordt.
• Betrouwbaar: Het werkt zelfs als je naar een andere dokter gaat of in een ander land woont. Het model is zo sterk getraind dat het de "taal" van de slaap overal begrijpt.

De "Magische" Kracht

De onderzoekers hebben ook gekeken waarom het werkt. Het bleek dat bepaalde signalen heel belangrijk zijn:

• Als je te weinig zuurstof krijgt (zoals bij adempauzes), is dat een groot gevaar voor je hart en hersenen.
• Als je te veel in de lichte slaap zit en niet diep genoeg slaapt, is dat een teken van stress voor je lichaam.
• Het model ziet patronen die voor mensen onzichtbaar zijn, maar die voor de computer heel duidelijk zijn.

Kortom:
SleepJEPA is als een slimme, onzichtbare assistent die naar je slaapt en zegt: "Ik zie een patroon dat wijst op risico's in de toekomst. Laten we nu iets doen om dat te voorkomen." Het maakt gebruik van kunstmatige intelligentie om van je nachtrust een waardevol voorspellingstool voor je hele leven te maken.

Dit is een enorme stap voorwaarts: van "wachten tot je ziek wordt" naar "voorspellen en voorkomen" op basis van hoe je 's nachts slaapt.

Technische samenvatting

Probleemstelling

Slaapstoornissen zijn een wereldwijde epidemie die sterk geassocieerd is met een verhoogd risico op cardiovasculaire (CV), metabole en neurologische ziekten. Hoewel polysomnografie (PSG) in het laboratorium de gouden standaard is, is deze methode duur, ongemakkelijk voor patiënten en moeilijk schaalbaar. At-home slaapstudies (hPSG) bieden een veelbelovend alternatief met vergelijkbare nauwkeurigheid, maar de link tussen hPSG-metingen en toekomstig ziekterisico is slecht begrepen. Bestaande AI-modellen voor slaap zijn vaak beperkt tot:

• Enkele modaliëten of geaggregeerde kenmerken in plaats van ruwe multi-kanaalsignalen.
• Supervised learning op specifieke cohorten, wat de generaliseerbaarheid beperkt.
• Voorspelling van korte-termijn uitkomsten of enkel slaapstadiëring, zonder langdurige ziekterisico-evaluatie.

Er is behoefte aan een fundamenteel model dat in staat is om complexe, multi-kanaals hPSG-data te leren in een latente ruimte om zowel slaapfysiologie als langetermijnziektedynamiek te modelleren.

Methodologie: SleepJEPA

De auteurs introduceren SleepJEPA, het eerste foundation model voor slaapsignalen dat gebruikmaakt van een Joint Embedding Predictive Architecture (JEPA).

• Architectuur: Het model bestaat uit drie netwerken: een context-encoder, een target-encoder en een predictor.
  • Tijdens het zelftoezicht (self-supervised learning) worden willekeurige tokens (3-seconden patches) van de inputdata geselecteerd als "targets".
  • De resterende tokens dienen als "context". De context-encoder genereert embedding's, waarna een predictor probeert de embedding's van de gemaskeerde targets te voorspellen in de latente ruimte.
  • De target-encoder (een kopie van de context-encoder met gewichten die via een Exponential Moving Average worden bijgewerkt) genereert de echte embedding's van de targets.
  • Het doel is het minimaliseren van de regressieverliesfunctie tussen de voorspelling en de echte target-embedding. Deze aanpak reduceert ruis en voorkomt representatie-inzakking (representational collapse) beter dan traditionele masked autoencoding of contrastive learning.
• Data: Het model is getraind op 422.035 uur slaapdata van 55.518 studies (pre-training en fine-tuning).
  • Signalen: 7 kanalen, waaronder EEG (C4-M1 of C3-M2), EOG, EMG (kin), ECG, SpO2, en respiratoire inductantieplethysmografie (RIP) voor thorax en abdomen.
  • Duur: Het model kan variabele lengtes verwerken (6 tot 12 uur), wat essentieel is voor at-home studies.
• Fine-tuning en Evaluatie:
  • Slaapstadiëring: Een bidirectionele GRU wordt gebruikt om de geleerde representaties te fine-tunen voor het classificeren van slaapfasen (Wake, N1, N2, N3, REM).
  • Ziekterisico: Voor 10 verschillende uitkomsten (o.a. CV-dood, diabetes, beroerte) worden aparte "attentive classifiers" getraind met een discrete hazard loss function. Dit stelt het model in staat om cumulatief risico te schatten op discrete tijdstippen (1 tot 15 jaar) en om niet-proportionele hazard-ratios te hanteren, wat een verbetering is ten opzichte van traditionele Cox-proportionele hazard-modellen.
  • Vergelijking: Er werden drie modellen vergeleken: SleepJEPA (alleen slaaprepresentaties), SleepJEPA+ (slaap + leeftijd en geslacht), en een baseline (alleen leeftijd en geslacht).

Belangrijkste Resultaten

1. Slaapstadiëring (Sleep Staging)

• SleepJEPA bereikte op een vastgehouden testset een Macro F1-score van 0,77 en een Cohen's Kappa van 0,80.
• Op onafhankelijke testsets (zoals MrOS Visit 2 en MESA) presteerde het model consistent goed, met een Macro F1 van 0,69 op MrOS Visit 2, wat vergelijkbaar is met of beter is dan state-of-the-art modellen zoals PFTSleep en SleepFM, ondanks het gebruik van gefrozen representaties.

2. Langetermijn Ziekterisico (1-15 jaar)
SleepJEPA+ (met demografische variabelen) leverde de beste prestaties, maar de slaaprepresentaties alleen (SleepJEPA) voegden aanzienlijke waarde toe:

• Cardiovasculaire Ziekte: Voor CV-dood werd een iAUC15 van 0,81 bereikt; voor coronaire hartziekte-dood iAUC15 van 0,86.
• Andere Aandoeningen:
  • Congestief hartfalen: iAUC15 = 0,83.
  • Diabetes: iAUC10 = 0,82.
  • Obstructieve Slaapapneu (OSA): iAUC5 = 0,86.
  • Cognitieve achteruitgang: iAUC10 = 0,79.
  • Beroerte: iAUC15 = 0,78.
• Vergelijking: SleepJEPA+ presteerde over het algemeen beter dan of gelijk aan bestaande foundation modellen zoals SleepFM en He et al., vooral op onafhankelijke testsets (zoals MESA en WSC), wat de generaliseerbaarheid aantoont.

3. Slaapvermoeidheid en Narcolepsie

• Objectieve Slaapvermoeidheid: Het model kon een MSLT-score van ≤ 8 minuten voorspellen met een AUC van 0,64.
• Type 1 Narcolepsie: Bij fine-tuning voor narcolepsie werd een AUC van 0,88 bereikt, wat aangeeft dat de representaties sterke signalen bevatten voor deze aandoening.

4. Interpretatie en Kenmerken

• Correlaties: Leeftijd was de sterkst correlerende demografische factor. Slaapefficiëntie en totale slaaptijd correleerden negatief met CV-risico.
• Attributie: Via Integrated Gradients bleek dat respiratoire kanalen (RIP) en SpO2 cruciaal waren voor OSA en CV-risico's. EMG en ECG waren belangrijk voor hartfalen en myocardinfarct. Dit bevestigt dat het model fysiologische mechanismen (zoals ademhaling en hartactiviteit) correct koppelt aan ziekterisico's.

Bijdragen en Significantie

1. Eerste JEPA voor Slaap: SleepJEPA is het eerste foundation model dat JEPA toepast op multi-kanaals hPSG-data, wat leidt tot robuustere representaties in de latente ruimte met minder ruis dan traditionele methoden.
2. Schaalbaarheid en Variabiliteit: Het model kan variabele lengtes (6-12 uur) en at-home data verwerken, wat het toepasbaar maakt voor grootschalige populatiestudies en klinische toepassingen buiten het lab.
3. Langetermijn Risicoprofilering: In tegenstelling tot eerdere werken die zich beperkten tot korte-termijn voorspellingen of enkel slaapstadiëring, biedt SleepJEPA een schaalbaar kader voor het schatten van cumulatief ziekterisico tot 15 jaar voor een breed scala aan aandoeningen.
4. Klinische Validatie: De prestaties op meerdere, onafhankelijke cohorten (SHHS, MrOS, MESA, WSC) tonen aan dat het model generaliseerbaar is en niet overfit op specifieke datasets.
5. Toekomstperspectief: Het werk onderstreept dat at-home slaapdata een waardevolle, niet-invasieve venster biedt op de langetermijngezondheid. Het suggereert dat dergelijke modellen kunnen worden geïntegreerd in klinische workflows voor vroegtijdige detectie van risico's, zelfs met beperkte signaalsets (zoals draagbare apparaten).

Kortom, SleepJEPA markeert een doorbraak in het gebruik van zelftoezichtende deep learning voor slaapdata, waarbij het niet alleen slaapfasen nauwkeurig classificeert, maar ook complexe, langdurige ziektedynamieken voorspelt die direct relevant zijn voor preventieve geneeskunde.