GEGLU-Transformer for IMU-to-EMG Estimation with Few-Shot Adaptation

1. Enunciato del Problema

La sfida principale affrontata è la stima affidabile dell'attivazione neuromuscolare (EMG) a partire da Unità di Misurazione Inerziale (IMU) indossabili per l'uso nella robotica indossabile adattiva (ad esempio, esoscheletri, protesi).

• Limitazioni dell'EMG diretto: Sebbene l'EMG fornisca dati diretti sull'attivazione muscolare, è difficile da implementare al di fuori dei laboratori a causa della non stazionarietà del segnale, della sensibilità al posizionamento degli elettrodi, degli artefatti da movimento e della forte variabilità inter-soggetto.
• Limitazioni dei modelli attuali IMU-to-EMG: Gli approcci basati sull'apprendimento esistenti si basano tipicamente su modelli statici addestrati offline su dataset multi-soggetto. Questi modelli spesso falliscono nel generalizzare a utenti non visti perché non tengono conto delle strategie neuromuscolari individuali. Inoltre, mancano di meccanismi efficienti per una personalizzazione rapida e specifica del soggetto (adattamento few-shot) in scenari reali che coinvolgono compiti locomotori diversificati (scale, pendenze, ecc.).

2. Metodologia

Gli autori propongono un framework di apprendimento adattivo costituito da tre componenti principali:

A. Elaborazione del Segnale

• Fonte Dati: Dati IMU (200 Hz) e EMG (1000 Hz) sincronizzati provenienti da 22 adulti sani che eseguono vari compiti (camminata su piano, scale, rampe, tapis roulant).
• Pre-elaborazione:
  • EMG: Filtrato passa-banda (20–450 Hz), rettificato a onda completa e filtrato passa-basso (8 Hz) per estrarre gli inviluppi di attivazione lisci.
  • Allineamento: I segnali IMU e EMG vengono ricampionati a 200 Hz e allineati.
  • Segmentazione: I dati sono segmentati in cicli del passo (0–100%) e normalizzati temporalmente a 101 campioni.
  • Normalizzazione: I segnali sono scalati a [0, 1] e filtrati con mediana per rimuovere gli artefatti.

B. Architettura GEGLU-Transformer

Il modello sostituisce le architetture ricorrenti standard (come LSTM) con un encoder basato su Transformer progettato per la generalizzazione cross-soggetto.

• Front-End Convoluzionale: Un layer di Convoluzione 1D (dimensione del kernel 5) proietta 24 caratteristiche inerziali in uno spazio latente a 256 dimensioni per catturare i pattern locali di movimento.
• Encoder Self-Attention: Quattro layer di encoder Transformer impilati con self-attention multi-testa (8 teste) catturano le dipendenze temporali a lungo raggio.
• Feed-Forward GEGLU: Invece delle reti feed-forward standard, il modello utilizza Unità Lineari a Cancellazione con Errore Gaussiano (GEGLU).
  • Meccanismo: $FF_{GEGLU}(x) = W_o(GELU(W_1x) \odot (W_2x))$.
  • Vantaggio: Il meccanismo di gating modula le attivazioni canale per canale, migliorando la selezione delle caratteristiche e il flusso dei gradienti rispetto al gating basato su sigmoide, il che è cruciale per i compiti di regressione.
• Output: Una proiezione lineare mappa la rappresentazione latente sugli inviluppi EMG target per più muscoli.

C. Adattamento Few-Shot

Per gestire soggetti non visti, il framework impiega una strategia di adattamento leggera:

• Protocollo: Un piccolo sottoinsieme dei dati del soggetto di test (ad esempio, dallo 0,5% al 10% dei cicli del passo) viene utilizzato per la calibrazione.
• Processo: I parametri del modello pre-addestrato vengono affinati utilizzando la discesa del gradiente (AdamW) su questo piccolo set di adattamento.
• Vincoli: Tutti i parametri vengono aggiornati (nessun layer congelato) per consentire una personalizzazione completa, ma il processo è vincolato da un basso tasso di apprendimento e dal clipping della norma del gradiente per prevenire l'oblio catastrofico e garantire stabilità.

3. Contributi Chiave

1. Architettura Innovativa: Introduzione del GEGLU-Transformer per la stima IMU-to-EMG, che supera le baseline ricorrenti dello stato dell'arte (LSTM e CNN-LSTM) nella generalizzazione cross-soggetto.
2. Robustezza alla Variabilità Ambientale: Valutazione sistematica su diverse modalità locomotorie (piano, scale, rampe, tapis roulant), dimostrando che la superiorità del modello non è limitata a semplici condizioni di camminata.
3. Adattamento Efficiente Few-Shot: Dimostrazione che l'architettura proposta raggiunge una personalizzazione rapida con dati minimi (fino allo 0,5% dei cicli del passo di un soggetto), raggiungendo rapidamente la saturazione delle prestazioni rispetto alle baseline.

4. Risultati Sperimentali

Il modello è stato valutato utilizzando un protocollo di validazione incrociata Leave-One-Subject-Out (LOSO) su un dataset di 22 soggetti.

• Confronto Baseline (Nessun Adattamento):

  • Correlazione ($r$): GEGLU-Transformer ha raggiunto 0,706 (vs 0,664 per CNN-LSTM e 0,647 per LSTM).
  • Coefficiente di Determinazione ($R^2$): GEGLU-Transformer ha raggiunto 0,474 (vs 0,420 e 0,397).
  • Metriche di Errore: Ha mostrato un Errore Quadratico Medio Normalizzato (nRMSE) inferiore e errori ridotti nel tempismo e nell'ampiezza dei picchi.
  • Nota: La variante GEGLU ha specificamente migliorato $R^2$ di circa l'1,5% e la correlazione di circa lo 0,33% rispetto a un Transformer non gate, confermando il beneficio del meccanismo di gating.

• Adattamento Few-Shot (0,5% Dati):

  • Con soli dati di adattamento pari allo 0,5%, la correlazione del GEGLU-Transformer è aumentata a 0,761 e $R^2$ a 0,559.
  • Questo rappresenta un salto significativo nelle prestazioni con dati trascurabili, mentre le baseline hanno mostrato guadagni molto più piccoli.
  • I guadagni di prestazioni si sono saturati rapidamente; aumentare i dati oltre il 5% ha prodotto miglioramenti marginali, indicando un'alta efficienza del campione.

• Prestazioni Specifiche per Muscolo:

  • Il modello ha ottenuto le prestazioni migliori su muscoli ad alta ampiezza e regolari (ad esempio, Soleo, Gastrocnemio, Vasto).
  • I muscoli con prestazioni inferiori (ad esempio, Gracile, Bicipite Femorale) hanno mostrato una variabilità più elevata, suggerendo sfide legate alla qualità del segnale e alla complessità biomeccanica piuttosto che solo alla capacità del modello.

5. Significato e Impatto

• Scalabilità per la Robotica Indossabile: Riducendo la dipendenza dai sensori EMG diretti (che sono fragili e difficili da calibrare) e consentendo una personalizzazione rapida con dati minimi, questo approccio rende il controllo guidato da EMG fattibile per l'uso reale a lungo termine.
• Controllo Adattivo: Il framework supporta il paradigma del "controllo adattivo" nella robotica, permettendo ai sistemi di adattarsi rapidamente a nuovi utenti senza sessioni di calibrazione estese.
• Generalizzabilità: La natura task-agnostica dell'architettura suggerisce che può essere estesa ai movimenti degli arti superiori o ad altre applicazioni robotiche assistive oltre alla deambulazione degli arti inferiori.
• Efficienza: I risultati dimostrano che le architetture basate sull'attenzione, quando combinate con unità gate e adattamento leggero, offrono un'alternativa superiore ai modelli ricorrenti tradizionali per la regressione neuromuscolare continua.

In conclusione, questo lavoro fornisce una soluzione pratica e scalabile per la stima dell'attivazione muscolare da sensori inerziali, colmando il divario tra accuratezza di livello laboratorio e implementabilità nel mondo reale nella robotica indossabile.