Event Fields: Learning Latent Event Structure for Waveform Foundation Models

Riepilogo Tecnico: Campi di Eventi per Modelli Fondamentali di Onde

Enunciato del Problema
I modelli fondamentali sanitari attuali per le onde fisiologiche (ad esempio, ECG, PPG, EMG) aderiscono prevalentemente a un paradigma basato su sequenze. Questi modelli trattano i segnali come collezioni di token o patch locali, affidandosi a obiettivi di ricostruzione mascherata o contrastivi ispirati al pre-addestramento linguistico e visivo. Gli autori sostengono che questo approccio sia fondamentalmente disallineato con la natura del ragionamento fisiologico. L'interpretazione clinica raramente opera a livello di ampiezze grezze o finestre temporali brevi; invece, si basa su astrazioni di livello superiore come battiti, cicli, scariche e transizioni tra regimi dinamici. I modelli di sequenza standard assumono implicitamente che la struttura predittiva sia codificata in segmenti locali, spesso confondendo la variabilità significativa con fluttuazioni di segnale di disturbo. Di conseguenza, questi modelli faticano a catturare la natura temporalmente estesa, interattiva e relazionale degli eventi fisiologici, che derivano da processi latenti piuttosto che da occorrenze isolate.

Metodologia
Il documento propone una nuova classe di modelli fondamentali per le onde fondata su una formulazione di campo di eventi spettro-temporale. Invece di modellare direttamente l'onda $x(t)$, gli autori ipotizzano che i segnali fisiologici siano generati da una sovrapposizione continua di campi di eventi latenti che evolvono nel tempo e nella frequenza.

• Modello Generativo Latente: Il segnale è rappresentato come $x(t) = \int_{\Omega} \int_{0}^{T} \phi(z, \tau) g_{\theta}(t - \tau, z) d\tau dz$, dove $z$ indicizza uno spazio di eventi latenti (classe di ritmo, tipo di attivazione), $\phi(z, \tau)$ è un campo di intensità di evento non osservato e $g_{\theta}$ è un kernel di emissione appreso. Questa formulazione consente agli eventi di sovrapporsi, interagire ed evolvere in modo continuo.
• Segmentazioni Stocastiche e Proiezioni: Poiché il campo latente $\phi$ non è osservato, il modello lo induce attraverso segmentazioni stocastiche (campionamento di multiple decomposizioni plausibili dell'asse temporale) e proiezioni tempo-frequenza (operatori randomizzati come filtraggio a sub-banda, warping temporale o perturbazioni di fase). Queste proiezioni distorcono i dettagli a livello di segnale preservando l'identità fisiologica sottostante.
• Architettura dell'Encoder di Eventi: L'encoder $h_{\theta}$ elabora le onde proiettate attraverso tre stadi:
  1. Estrazione di Caratteristiche Locali: Embedding a livello di patch o frame tramite steli convoluzionali o transformer.
  2. Aggregazione Consapevole della Segmentazione: Pooling delle caratteristiche locali in embedding di segmento basati sulla segmentazione stocastica.
  3. Modulo di Interazione Globale: Un operatore di interazione latente (modellato come una trasformata integrale neurale con un operatore kernelizzato) cattura le dipendenze tra eventi inferiti, come l'accoppiamento periodico e le interazioni cross-frequenza.
• Obiettivo Auto-Supervisionato: Il segnale di apprendimento fondamentale è la coerenza attraverso segmentazioni stocastiche e proiezioni. Il modello è addestrato a produrre rappresentazioni invarianti per diverse visualizzazioni dello stesso campo di eventi sottostante utilizzando una perdita contrastiva in stile InfoNCE ($L_{cons}$).
• Regolarizzazione e Multimodalità: Una perdita ausiliaria di stabilità della segmentazione ($L_{seg}$) impone sparsità, regolarità e accordo cross-view nei confini previsti. Per impostazioni multimodali, il framework allinea modalità diverse (ad esempio, ECG e PPG) assumendo che siano emissioni distinte di un campo di eventi latente condiviso, allineandole attraverso uno spazio di rappresentazione condiviso senza moduli di fusione espliciti.

Contributi Chiave

1. Formulazione di Campo di Eventi Spettro-Temporale: Un passaggio dalla modellazione di segnali grezzi alla modellazione di processi latenti continui, trattando le onde come realizzazioni di campi di eventi interagenti piuttosto che come sequenze tokenizzate.
2. Obiettivo di Coerenza Stocastica: Un framework di apprendimento auto-supervisionato che impone l'invarianza a livello di struttura di eventi latenti allineando le rappresentazioni attraverso proiezioni tempo-frequenza randomizzate e segmentazioni stocastiche.
3. Architettura Basata su Operatori Neurali: Un design innovativo dell'encoder che incorpora un operatore di interazione di eventi continuo per modellare esplicitamente le dipendenze temporali e l'allineamento multimodale all'interno del campo latente.

Risultati
Il metodo proposto è stato valutato su benchmark fisiologici inclusi la classificazione delle aritmie, la previsione emodinamica e il recupero di onde.

• Prestazioni: Il Modello di Campo di Eventi ha superato basi solide (Ricostruzione Mascherata, Sequenza Contrastiva e Modelli Ibridi Tempo-Frequenza) in tutti i compiti. Sono state osservate migliorie notevoli nella previsione multimodale (AUROC 0,872 contro 0,823) e nel recupero (MAP 0,714 contro 0,645).
• Robustezza: Il modello ha dimostrato una robustezza superiore alle perturbazioni del segnale, inclusi l'iniezione di rumore, il warping temporale e il mascheramento in frequenza, degradando in modo più graduale rispetto alle basi basate su sequenze.
• Efficienza delle Etichette: In regimi a basse etichette (1% al 10% delle etichette), l'approccio centrato sugli eventi ha ottenuto punteggi AUROC significativamente più alti (0,781 all'1% contro 0,701 per le basi), indicando che la struttura di eventi appresa fornisce un forte prior induttivo.
• Ablazione: La rimozione di qualsiasi componente (coerenza della segmentazione, proiezioni o operatore di interazione) ha degradato le prestazioni, con la coerenza della segmentazione identificata come il fattore più critico.

Significato e Affermazioni
Il documento afferma che il passaggio da rappresentazioni centrate sul segnale a rappresentazioni centrate sugli eventi fornisce un bias induttivo più appropriato per la modellazione delle dinamiche fisiologiche. Prioritizzando l'organizzazione e l'interazione di eventi latenti rispetto alla fedeltà del segnale grezzo, il framework offre un percorso complementare per scalare i modelli fondamentali in ambito sanitario che non si basa esclusivamente sull'aumento delle dimensioni del modello o del volume dei dati. Gli autori suggeriscono che questo approccio produce rappresentazioni che sono:

• Più Robuste: Meno sensibili alla variabilità di disturbo (rumore, artefatti dei sensori) e agli spostamenti distribuzionali.
• Più Efficienti: Consentendo prestazioni migliori con meno esempi etichettati.
• Più Interpretabili: Producendo rappresentazioni di eventi localizzate temporalmente che si allineano con strutture clinicamente significative (ad esempio, complessi QRS) senza supervisione esplicita.

Il lavoro ipotizza che l'identificazione dello spazio di rappresentazione corretto (campi di eventi latenti) possa essere critica quanto la scalabilità della capacità del modello, offrendo un'alternativa principiale alle strategie di tokenizzazione prevalenti nei modelli fondamentali per serie temporali.