Sintesi Tecnica: Autoencoder LSTM con Augmentazione di Memoria per il Riconoscimento dell'Attività Non Supervisionato

1. Definizione del Problema

Il riconoscimento dell'attività umana (Human Activity Recognition - HAR) tramite sensori IMU (Inertial Measurement Unit) è fondamentale per l'assistenza sanitaria, la riabilitazione e la diagnosi dei disturbi motori. Tuttavia, il campo affronta ostacoli significativi:

• Scarsità di Dati e Etichettatura: I modelli di deep learning richiedono tipicamente grandi volumi di dati etichettati, che sono difficili e costosi da ottenere.
• Complessità della Fusione dei Sensori: Fondere efficacemente i dati provenienti da più sensori (accelerometri e giroscopi) per catturare sia le dipendenze spaziali che quelle temporali rimane una sfida.
• Dipendenze Temporali e Spaziali: I metodi non supervisionati esistenti spesso non riescono a catturare le complesse dinamiche temporali di diversi modelli di movimento, specialmente in finestre temporali brevi.
• Vincoli del Mondo Reale: Gli scenari reali comportano dati rumorosi, attività sovrapposte e confini di transizione ambigui. La maggior parte degli studi esistenti utilizza una segmentazione "intra-classe" (dove una finestra contiene un'unica attività), il che non riflette la natura continua e transitoria del movimento reale.

2. Metodologia

Gli autori propongono un framework di fusione di caratteristiche spazio-temporali completamente non supervisionato chiamato Unsupervised Temporal Feature Fusion (UTFF). L'architettura opera in due fasi primarie: estrazione di caratteristiche statiche e potenziamento temporale dinamico.

A. Estrazione di Caratteristiche Statiche (Hierarchical Unsupervised Fusion - HUF)

Prima della modellazione temporale, il sistema estrae caratteristiche statiche da brevi finestre di dati multi-sensore utilizzando un processo gerarchico in tre fasi:

1. Rappresentazione dei Dati (DR-SAE): Un Autoencoder Stacked con Reti Neurali Convoluzionali (CNN) elabora i singoli assi dei sensori (accelerometro e giroscopio) per mappare i segnali grezzi in uno spazio di caratteristiche ad alta dimensionalità (256 canali).
2. Fusione delle Caratteristiche Locali (LFF-AE): Le caratteristiche dei sei assi di un singolo sensore vengono fuse utilizzando un Local Feature Fusion Autoencoder. Questa fase include il max-pooling per stabilizzare il sistema contro le perturbazioni del movimento e la normalizzazione del batch (batch normalization).
3. Fusione delle Caratteristiche Globali (GFF-AE): Le caratteristiche di tutti i sensori indossabili vengono fuse in un unico vettore unificato utilizzando un Global Feature Fusion Autoencoder. Questo produce una rappresentazione di caratteristica statica per una singola finestra temporale.

B. Potenziamento Temporale Dinamico (Memory-Augmented LSTM-AE)

Per affrontare i limiti delle caratteristiche statiche, il framework impiega un Autoencoder Sequence-to-Sequence (STS) con Augmentazione di Memoria basato su reti Long Short-Term Memory (LSTM):

• Costruzione della Sequenza: I vettori delle caratteristiche statiche di finestre consecutive vengono concatenati per formare una sequenza temporale. Per gestire l'inizio di una sequenza, i vettori iniziali vengono integrati con padding di zeri.
• Architettura Encoder-Decoder:
  • L'Encoder elabora una sequenza di $q$ finestre. Utilizza celle LSTM per aggregare le informazioni dai passi temporali precedenti.
  • Il Decoder tenta di ricostruire la sequenza di input originale dalla rappresentazione compressa (il "codice").
  • Meccanismo di Memoria: Lo stato nascosto finale dell'encoder ($h_q$) funge da vettore di caratteristiche dinamiche potenziate. Questo stato integra l'input corrente con il contesto storico delle finestre precedenti senza richiedere etichette di attività.
• Obiettivo di Addestramento: Il modello viene addestrato in modo non supervisionato per minimizzare l'Errore Quadratico Medio (MSE) tra la sequenza di input originale e la sequenza ricostruita.

C. Classificazione

Per la valutazione, le caratteristiche estratte (statiche, potenziate da LSTM o potenziate da LSTM-AE) vengono fornite a un classificatore a rete Dense Layer Network (DLN). Lo studio confronta tre configurazioni:

1. Caratteristiche statiche (solo HUF).
2. Caratteristiche potenziate da una semplice LSTM (LSTM-CF).
3. Caratteristiche potenziate dal Memory-Augmented LSTM-AE (Proposto).

3. Contributi Chiave

Il documento delinea cinque contributi primari:

1. Framework UTFF: Un nuovo framework non supervisionato che esegue sia l'estrazione di caratteristiche statiche che dinamiche. Utilizza una struttura gerarchica per fondere le caratteristiche dai singoli canali dei sensori fino al livello dell'intero corpo, aggiornando le caratteristiche statiche con i dati storici senza supervisione.
2. Autoencoder con Augmentazione di Memoria: Un'architettura che aggiorna le caratteristiche della finestra corrente incorporando informazioni rilevanti dalle finestre precedenti. Questo mira specificamente alla sfida di addestrare modelli con molte classi di attività in modo non supervisionato utilizzando Reti Neurali Ricorrenti (RNN).
3. Gestione dell'Incertezza della Transizione: A differenza dei lavori precedenti, il modello è progettato per la segmentazione inter-classe, dove le finestre possono contenere transizioni tra attività. Ciò allinea il modello con le condizioni reali in cui i confini delle attività sono imprecisi.
4. Analisi degli Iperparametri: Una valutazione sistematica di come la lunghezza della sequenza ($q$), la dimensione del codice e la connettività encoder-decoder ($m$) influenzino la separabilità delle caratteristiche.
5. Strategia di Segmentazione Realistica: L'adozione di una segmentazione inter-classe continua attraverso l'intera linea temporale del segnale, permettendo a più attività di apparire all'interno di una singola finestra, fornendo così una valutazione più rigorosa delle capacità di estrazione delle caratteristiche.

4. Risultati Sperimentali

Il metodo è stato valutato su due dataset benchmark: DaLiAc (19 partecipanti, 14 attività, 4 sensori) e PAMAP2 (9 partecipanti, 11 attività, 3 sensori).

• Prestazioni su DaLiAc:

  • Utilizzando una finestra breve di 1 secondo ($N=200$ campioni), il metodo proposto LSTM-AE ha raggiunto un'accuratezza di classificazione del 96,6%.
  • Ha superato significativamente la baseline statica HUF (63%) e la semplice LSTM-CF (73%).
  • Anche con una finestra più lunga di 2,56 secondi, l'LSTM-AE (91,6%) ha superato la baseline statica (86%).
  • Il metodo ha distinto con successo classi difficili (es. stare in piedi vs aspirapolvere) che le caratteristiche statiche non riuscivano a separare.

• Prestazioni su PAMAP2:

  • Il modello ha raggiunto un'accuratezza del 98,4% utilizzando una finestra di 1 secondo con segmentazione inter-classe.
  • Questo risultato ha superato diverse baseline supervisionate e approcci non supervisionati esistenti, nonostante l'uso di finestre temporali significativamente più brevi rispetto a molti studi comparativi (che utilizzano spesso finestre da 5 o 10 secondi).

• Impatto della Segmentazione Inter-Classe:

  • Gli autori hanno notato che il passaggio dalla segmentazione intra-classe a quella inter-classe ha ridotto l'accuratezza della classificazione di circa il 7% per i modelli statici. Tuttavia, il modello proposto LSTM-AE ha recuperato ed ecceduto queste perdite, dimostrando robustezza negli scenari di transizione reali.

• Approfondimenti sugli Iperparametri:

  • Le prestazioni ottimali sono state riscontrate con una lunghezza della sequenza ($q$) di 6 e una dimensione del codice di 1000.
  • L'aumento del numero di celle di connessione encoder-decoder ($m$) oltre 1 ha degradato le prestazioni, suggerendo che un collo di bottiglia più stretto produce caratteristiche più discriminanti.
  • L'aumento della profondità dell'encoder (da 1 a 2 strati) non ha migliorato costantemente l'accuratezza complessiva, sebbene abbia aiutato alcune attività specifiche complesse.

5. Significato e Rivendicazioni

Il documento sostiene che il framework UTFF proposto rappresenta un passo avanti significativo nel riconoscimento dell'attività umana (HAR) non supervisionato, affrontando le doppie sfide della fusione dei sensori e della dipendenza temporale senza fare affidamento su dati etichettati.

• Applicabilità nel Mondo Reale: Utilizzando la segmentazione inter-classe e finestre temporali brevi (1 secondo), il modello è meglio adatto per applicazioni online e in tempo reale dove le transizioni di attività sono frequenti e l'etichettatura non è disponibile.
• Efficienza: Il metodo raggiunge prestazioni allo stato dell'arte o superiori rispetto alle baseline supervisionate pur operando sotto condizioni di dati più restrittive e realistiche (finestre più brevi, assenza di etichette, dati ricchi di transizioni).
• Separabilità delle Caratteristiche: Lo studio dimosta che l'apprendimento non supervisionato con augmentazione di memoria può migliorare la separabilità delle caratteristiche fino al 9% rispetto ai metodi statici, catturando efficacemente i modelli di movimento dinamico che le caratteristiche spaziali statiche trascurano.
• Compromessi: Gli autori riconoscono che l'architettura STS richiede tempi di addestramento più lunghi e hardware più potenti rispetto ai modelli più semplici, ma sostengono che questo sia un compromesso necessario per ottenere un'elevata accuratezza in contesti non supervisionati e reali.

In conclusione, il documento pone che le architetture non supervisionate con augmentazione di memoria possono colmare efficacemente il divario tra i dataset controllati di laboratorio e la natura rumorosa e continua del monitoraggio dell'attività umana nel mondo reale.