Rethinking Time Series Domain Generalization via Structure-Stratified Calibration

Il paper propone un framework di calibrazione stratificata per la generalizzazione di serie temporali che, identificando e allineando solo campioni strutturalmente compatibili, risolve il problema del trasferimento negativo causato dall'eterogeneità dei sistemi dinamici latenti, ottenendo prestazioni superiori rispetto agli stati dell'arte su 19 dataset pubblici.

L'essenziale

Immagina di voler insegnare a un medico a riconoscere i sogni (o le aritmie cardiache, o i movimenti del corpo) guardando solo le registrazioni di un gruppo di pazienti. Poi, vuoi che questo medico funzioni perfettamente anche su un nuovo gruppo di pazienti, mai visto prima, che però ha caratteristiche leggermente diverse (magari usa un altro tipo di sensore o ha un'età diversa).

Il problema è che i modelli di intelligenza artificiale attuali spesso falliscono in questo compito. Perché? Perché cercano di "allineare" tutti i dati come se fossero tutti uguali, ignorando le differenze fondamentali.

Ecco come funziona la soluzione proposta in questo paper, spiegata con parole semplici e qualche metafora.

1. Il Problema: Il "Caffè" e il "Tè"

Immagina che i dati delle serie temporali (come i segnali del sonno) siano come bevande.

• Il Gruppo A beve solo caffè.
• Il Gruppo B beve solo tè.

I vecchi metodi di intelligenza artificiale dicono: "Ok, prendiamo tutte le tazze, le mescoliamo in un unico secchio e cerchiamo di farle sembrare tutte uguali."
Il risultato? Ottieni una schifosa miscela di caffè e tè. Il medico (il modello) si confonde: non sa più distinguere il sapore vero del caffè da quello del tè, perché li ha forzati a essere uguali. Questo si chiama trasferimento negativo: impari a fare peggio perché hai mescolato cose incompatibili.

2. La Soluzione: La "Calibrazione a Strati" (SSCF)

Gli autori propongono un metodo chiamato SSCF (Structure-Stratified Calibration Framework). Invece di mescolare tutto, dicono: "Fermiamoci un attimo e guardiamo cosa c'è dentro ogni tazza."

Ecco i tre passaggi magici:

Passo 1: L'Analisi dello "Scheletro" (Stratificazione)

Prima di insegnare al modello, guardiamo la forma delle onde del segnale (la loro "struttura").
Immagina che ogni segnale abbia una "firma" unica, come la forma di un'onda sonora.

• Alcuni segnali hanno picchi bassi e lenti (come un'onda lenta).
• Altri hanno picchi alti e veloci (come un'onda veloce).

Il metodo divide automaticamente i dati in gruppi omogenei (strati) basandosi su questa "firma".

• Mettiamo tutti i "caffè" in una scatola.
• Mettiamo tutti i "tè" in un'altra scatola.
• Mettiamo i "succhi di frutta" in una terza.

Non mescoliamo mai un caffè con un tè.

Passo 2: Creare un "Modello di Riferimento" (Ancore)

Per ogni scatola (ogni gruppo omogeneo), creiamo un campione perfetto.

• Prendiamo tutti i caffè della scatola A, ne calcoliamo la media e creiamo un "Caffè Ideale".
• Facciamo lo stesso per il tè.

Questi "Caffè Ideali" e "Tè Ideali" diventano le nostre ancore. Sono i punti di riferimento per quel gruppo specifico.

Passo 3: La Calibrazione (L'Adattamento)

Ora, quando arriva un nuovo paziente (dati mai visti prima), il sistema fa così:

1. Guarda la sua tazza: "Che cosa hai? Sembra un caffè o un tè?"
2. Trova la scatola giusta: Se è un caffè, lo manda nella scatola del caffè.
3. Calibra solo lì: Prende il segnale del nuovo paziente e lo "aggiusta" per farlo assomigliare al Caffè Ideale della sua scatola.

Il trucco geniale: Se il nuovo paziente ha un segnale che sembra un tè, il sistema non prova a trasformarlo in caffè. Lo lascia nella scatola del tè e lo aggiusta rispetto al "Tè Ideale".

Perché è meglio?

Immagina di dover allineare due persone che camminano:

• Metodo vecchio: Cerchi di far camminare un uomo alto e un bambino con lo stesso passo. Risultato? L'uomo inciampa, il bambino si storce la caviglia. Nessuno cammina bene.
• Metodo SSCF: Chiedi all'uomo di camminare come un uomo (con il suo passo naturale) e al bambino come un bambino. Poi, all'interno del gruppo "uomini", fai in modo che tutti camminino allo stesso ritmo. Stessa cosa per i "bambini".

In sintesi

Il paper ci insegna che per far funzionare bene l'intelligenza artificiale su dati nuovi (come nuovi pazienti o nuovi sensori), non dobbiamo forzare tutti i dati a essere uguali. Dobbiamo prima riconoscere le differenze strutturali (chi è un "caffè" e chi è un "tè") e poi adattare i dati solo all'interno dei loro gruppi naturali.

Questo approccio, chiamato Calibrazione a Strati, evita confusione, riduce gli errori e rende il modello molto più robusto quando si trova di fronte al mondo reale, pieno di variabili impreviste. È come dire: "Non trattare tutti gli studenti allo stesso modo; insegna a chi sa già leggere e a chi sta imparando l'alfabeto con metodi diversi, ma assicurati che alla fine tutti imparino a leggere."

Sommario tecnico

1. Il Problema: Eterogeneità Strutturale e Fallimenti di Allineamento Globale

Il lavoro affronta una sfida fondamentale nella generalizzazione di dominio (Domain Generalization - DG) per le serie temporali generate da sistemi dinamici latenti.

• Assunzione Limitante Esistente: I metodi attuali (come DeepCORAL, MMD, DANN) presuppongono che i campioni provenienti da domini diversi siano comparabili in uno spazio di rappresentazione condiviso. Di conseguenza, applicano un allineamento globale o a livello di classe, cercando di ridurre le discrepanze distributive tra tutti i campioni senza distinguere le loro caratteristiche intrinseche.
• La Realtà: In scenari reali, dataset diversi spesso provengono da famiglie di sistemi dinamici strutturalmente eterogenei. Questo significa che, anche se condividono la stessa etichetta semantica (es. "fase di sonno NREM"), possono presentare forme spettrali o distribuzioni di energia incompatibili a causa di differenze nei meccanismi di generazione sottostanti (non solo rumore o condizioni di acquisizione).
• Conseguenza: Forzare un allineamento globale su campioni strutturalmente incompatibili porta a corrispondenze spurie (spurious correspondences) e a un trasferimento negativo (negative transfer), degradando le prestazioni invece di migliorarle. Il problema non è la forza dell'allineamento, ma la definizione stessa della corrispondenza cross-dominio.

2. Metodologia: Il Framework di Calibrazione Stratificata per Struttura (SSCF)

Gli autori propongono il Structure-Stratified Calibration Framework (SSCF), che adotta un paradigma "prima la comparabilità, poi la calibrazione". L'obiettivo è evitare l'allineamento globale indiscriminato.

Il processo si articola in quattro fasi principali:

1. Modellazione Spettrale e Rappresentazione Strutturale:

   • Si assume che le serie temporali possano essere approssimate come segnali strutturati da un pattern spettrale latente stabile ($Z(f)$) moltiplicato per risposte specifiche del dominio ($g_d(f)$).
   • Si estraggono le rappresentazioni strutturali calcolando lo spettro di potenza (PSD) delle mappe di caratteristiche superficiali (shallow features) ottenute da un encoder.

2. Stratificazione Strutturale (Structure Stratification):

   • Utilizzando solo i dati del dominio sorgente, i campioni vengono raggruppati in cluster strutturalmente compatibili tramite un algoritmo di clustering (es. K-Means) basato sulle loro rappresentazioni spettrali.
   • Questo crea sottoinsiemi (strati) in cui i campioni condividono pattern spettrali simili (es. posizioni dei picchi, bande di energia dominanti).

3. Costruzione dell'Anchor di Riferimento:

   • Per ogni strato strutturale, viene costruito un template di riferimento (Anchor).
   • L'anchor è definito come lo spettro di potenza medio-quadrato (MAS - Mean-Amplitude-Squared) calcolato sui campioni dello strato sorgente. Questo template rappresenta il profilo energetico tipico di quella specifica struttura.

4. Calibrazione dell'Ampiezza Intra-Struttura:

   • Per ogni nuovo campione (sorgente o target), viene identificato lo strato strutturale più compatibile (matching) confrontando il suo spettro di potenza con gli anchor pre-calcolati.
   • La calibrazione avviene esclusivamente all'interno dello strato matched: si preserva la fase del segnale e si scala l'ampiezza per adattarla all'anchor di riferimento dello strato.
   • Questo evita di mescolare campioni strutturalmente incompatibili, riducendo le distorsioni.

Protocollo di Addestramento:
Il metodo segue una strategia a due stadi:

• Fase 1: Addestramento di un encoder ausiliario per estrarre le rappresentazioni spettrali e costruire gli anchor fissi (poi scartati).
• Fase 2: Addestramento end-to-end del modello finale con gli anchor fissi. La calibrazione è un'operazione differenziabile ma non parametrica che agisce sulle uscite dell'encoder prima della classificazione.

3. Contributi Chiave

1. Ridefinizione dei Limiti di Applicabilità: Gli autori identificano un confine di applicabilità per l'allineamento globale, dimostrando che in presenza di eterogeneità strutturale non valutata, l'allineamento uniforme introduce corrispondenze spurie.
2. Nuovo Paradigma (SSCF): Introduzione di un framework che opera una selezione esplicita della comparabilità strutturale prima della calibrazione, risolvendo il problema dell'ill-posedness dell'allineamento in spazi eterogenei.
3. Validazione Empirica Robusta: Dimostrazione dell'efficacia attraverso valutazioni "zero-shot" su 19 dataset pubblici (100.3k campioni totali) che coprono tre task principali: stadiamento del sonno, rilevamento di aritmie e riconoscimento dell'attività umana (HAR).

4. Risultati Sperimentali

Il framework SSCF è stato valutato rispetto a forti baseline (IRM, MMD, CORAL, DANN, ecc.) in un protocollo Leave-One-Domain-Out (LODO) e su domini target esterni non visti.

• Stadiamento del Sonno: SSCF ha ottenuto un miglioramento significativo rispetto alle baseline, raggiungendo un Macro-F1 medio del 69.37% (LODO) e 75.12% sui domini esterni, superando di gran lunga il baseline (59.76% / 70.26%) e metodi DG avanzati come SleepDG.
• Rilevamento Aritmie: Ha mostrato vantaggi sia nella performance media che in quella sul "worst-case domain", raggiungendo un Macro-F1 medio dell'81.26% contro il 73.16% del baseline.
• Riconoscimento Attività Umana (HAR): Ha ottenuto il miglior risultato assoluto con un Macro-F1 medio del 94.43% (vs 82.82% del baseline).
• Analisi di Ablazione: Gli esperimenti hanno confermato che la calibrazione globale (senza stratificazione) peggiora le prestazioni su alcuni domini target, mentre la stratificazione strutturale è il componente critico per la stabilità.
• Sensibilità: L'analisi ha mostrato che una stratificazione "coarse-grained" (K $\ge$ 3) è sufficiente per catturare le differenze dominanti, rendendo il metodo robusto e non dipendente da una partizione strutturale ultra-fine.

5. Significato e Impatto

Questo lavoro rappresenta un cambio di paradigma nella generalizzazione delle serie temporali:

• Dall'Allineamento alla Compatibilità: Sposta il focus dal tentativo di forzare tutti i dati in uno spazio comune all'identificazione preventiva di quali dati possono essere confrontati in modo significativo.
• Efficienza Computazionale: La strategia di calibrazione è concisa, non parametrica e computazionalmente efficiente, richiedendo solo operazioni di spettro e scaling.
• Affidabilità: Dimostra che garantire la coerenza strutturale prima dell'allineamento è una via più affidabile per migliorare la generalizzazione cross-dominio, specialmente in contesti medici e fisiologici dove i meccanismi generativi sottostanti variano significativamente tra dispositivi e popolazioni.

In sintesi, il paper dimostra che ignorare l'eterogeneità strutturale porta a fallimenti nella generalizzazione, e che un approccio "stratifica prima, calibra dopo" offre una soluzione robusta e scalabile per modelli di serie temporali applicati in scenari reali.