GaitKD: A Universal Decoupled Distillation Framework for Efficient Gait Recognition

1. Enunciato del Problema

Il riconoscimento dell'andatura è una modalità biometrica promettente per l'identificazione a lunga distanza e senza contatto. Tuttavia, nell'implementazione pratica esiste un significativo compromesso:

• Modelli ad Alte Prestazioni: I modelli all'avanguardia spesso si basano su architetture profonde (ad es. CNN 3D, Transformer) e su una modellazione temporale complessa per gestire le variazioni di punto di vista, abbigliamento e condizioni di trasporto. Questi modelli sono computazionalmente costosi e difficili da implementare su dispositivi edge.
• Modelli Leggeri: I modelli efficienti adatti al deployment soffrono spesso di una ridotta accuratezza, specialmente in ambienti non vincolati.
• La Sfida della Distillazione: La Distillazione della Conoscenza (KD) standard è spesso inefficace per il riconoscimento dell'andatura perché i modelli moderni sono strutturati per parti. Producono due tipi distinti di output:
  1. Logit di classificazione per parti (per la previsione dell'identità).
  2. Embedding di recupero per parti (per l'apprendimento metrico/il recupero).
     I metodi KD standard o fanno regressione diretta delle caratteristiche (il che fallisce quando le architetture del docente e dello studente sono eterogenee) o distillano solo i logit (il che non riesce a catturare la struttura discriminativa dello spazio di embedding).

2. Metodologia: GaitKD

Gli autori propongono GaitKD, un framework di distillazione universale progettato specificamente per modelli di andatura strutturati per parti ed eterogenei. L'innovazione centrale è la disaccoppiamento del trasferimento della conoscenza in due componenti complementari: Distillazione a Livello Decisionale e Distillazione a Livello di Confine.

A. Spazio di Distillazione Condiviso per Parti

Per gestire modelli eterogenei (ad es. un docente Transformer contro uno studente CNN) che possono avere un numero diverso di parti del corpo ($P$), GaitKD allinea gli output a una dimensione comune di parti $P = \min(P_{docente}, P_{studente})$. Questo consente la distillazione senza modificare le architetture di base o introdurre sovraccarichi di inferenza.

B. Distillazione a Livello Decisionale (Trasferimento dei Logit)

Questa componente trasferisce le relazioni decisionali inter-classe del docente allo studente.

• Meccanismo: Allinea le distribuzioni di classe per parti ammorbidite utilizzando una divergenza KL scalata per temperatura.
• Calibrazione delle Parti: La perdita è normalizzata per il numero di parti per garantire che ogni parte del corpo contribuisca equamente al gradiente, prevenendo che le parti con più caratteristiche dominino.
• Obiettivo: Lo studente impara la relativa confidenza del docente e i confini decisionali tra diverse identità, non solo le etichette rigide.

C. Distillazione a Livello di Confine (Trasferimento degli Embedding)

Questa componente trasferisce la struttura discriminativa dello spazio di embedding senza costringere lo studente a riprodurre valori di caratteristiche esatti (il che è difficile con architetture eterogenee).

• Meccanismo: Invece della regressione con Errore Quadratico Medio (MSE), GaitKD utilizza un Ottimizzazione di Attivazione-Confine.
• Concetto: Identifica il "segno" (positivo o negativo) delle coordinate di embedding del docente rispetto allo zero. Lo studente viene penalizzato se le sue coordinate di embedding violano i confini indotti dal docente (cioè, se la caratteristica del docente è positiva, quella dello studente deve essere maggiore di un margine $m$; se negativa, minore di $-m$).
• Obiettivo: Questo preserva la partizione dello spazio di embedding (come le identità sono separate) piuttosto che i valori esatti delle coordinate, rendendolo robusto alle discrepanze architetturali.

D. Obiettivo Unificato

La funzione di perdita totale combina la perdita del compito di base dello studente (Cross-Entropy + Triplet Loss) con i due termini di distillazione:
$$\mathcal{L} = \mathcal{L}_{task} + \lambda_{logit}\mathcal{L}_{KL} + \lambda_{bound}\mathcal{L}_{AB}$$
Il framework supporta la Distillazione Multi-Docente, dove i segnali da più docenti eterogenei (ad es. diversi backbones o modalità) sono aggregati tramite ensemble ponderati per confidenza.

3. Contributi Chiave

1. Insight Strutturale: Identificato che la KD standard fallisce per i modelli di andatura strutturati per parti perché la conoscenza è distribuita sia sulle relazioni dei logit che sulle partizioni dello spazio di embedding, richiedendo un approccio disaccoppiato.
2. Nuovo Framework (GaitKD): Proposto un framework che disaccoppia il trasferimento in:
   • Livello Decisionale: Distillazione dei logit calibrata per parti.
   • Livello di Confine: Distillazione di attivazione-confine (preservando i confini di separazione piuttosto che fare regressione delle caratteristiche).
3. Universalità ed Efficienza: Il metodo funziona con coppie docente-studente eterogenee, non richiede modifiche al backbone e introduce zero costo aggiuntivo di inferenza (il docente viene scartato dopo l'addestramento).
4. Complementarità: Dimostrato che i trasferimenti a livello decisionale e a livello di confine sono complementari; l'uso di entrambi produce risultati migliori rispetto all'uso di uno solo.

4. Risultati Sperimentali

Gli autori hanno valutato GaitKD su tre benchmark principali: Gait3D (in-the-wild), CCPG (cambio di abbigliamento) e SUSTech1K (LiDAR 3D).

• Distillazione a Singolo Docente:
  • Utilizzo di GaitBase (leggero) come studente e modelli ad alta capacità (DeepGaitV2, SkeletonGait++, SwinGait) come docenti.
  • Gait3D: Miglioramento del Rank-1 dal 61,5% (baseline) al 63,3% (con docente DeepGaitV2) e fino al 65,8% con impostazioni multi-docente.
  • CCPG: Miglioramento dell'accuratezza media dall'88,2% al 91,9% (con docente DeepGaitV2).
  • SUSTech1K: Miglioramenti coerenti nel Rank-1 e Rank-5 attraverso diverse architetture di docenti.
• Distillazione Multi-Docente:
  • La combinazione di docenti eterogenei (ad es. DeepGaitV2 + SwinGait) ha fornito una supervisione complementare, superando le baseline di semplice media (Mean-Teacher).
  • Su Gait3D, il GaitKD multi-docente ha raggiunto il 65,8% Rank-1, recuperando il 33,3% del divario di prestazioni tra lo studente leggero e il docente più forte.
• Studi di Ablazione:
  • Confermato che la Distillazione a Livello di Confine è più stabile ed efficace della regressione diretta delle caratteristiche (MSE) per coppie eterogenee.
  • Mostrato che combinare entrambi i trasferimenti di logit e confine produce le migliori prestazioni, validando la loro natura complementare.
• Visualizzazione delle Caratteristiche: I grafici t-SNE hanno mostrato che GaitKD porta a un clustering intra-classe più stretto e a una separazione inter-classe più chiara rispetto alla baseline, specialmente nelle regioni ambigue.

5. Significato

• Deployment Pratico: GaitKD fornisce una soluzione pratica per il deployment del riconoscimento dell'andatura ad alte prestazioni su dispositivi con risorse limitate, riducendo il divario di accuratezza tra modelli pesanti in fase di addestramento e modelli leggeri in fase di inferenza, senza sovraccarichi di runtime.
• Avanzamento Metodologico: Mette in discussione il paradigma standard della "regressione delle caratteristiche" nella KD per compiti di recupero, proponendo che preservare la topologia/confine dello spazio di embedding sia più critico del corrispondere valori di caratteristiche esatti, specialmente quando le architetture differiscono.
• Generalizzabilità: Il framework non è limitato all'andatura; i suoi principi di progettazione (disaccoppiare le relazioni decisionali dai confini di embedding) offrono una nuova direzione per la distillazione di modelli strutturati per parti in altri compiti di visione artificiale biometrica o basati sul recupero.