FeDepth: Federated Learning for Depth Estimation under Robot Heterogeneity

Sintesi Tecnica di FeDepth: Federated Learning per la Stima della Profondità sotto Eterogeneità Robotica

Problema
La percezione robotica, in particolare la stima della profondità monoculare, si basa fortemente su dati di addestramento provenienti da ambienti diversificati per garantire la generalizzazione. Tuttavia, gli approcci esistenti utilizzano prevalentemente l'Apprendimento Centralizzato (CL), che richiede la trasmissione di dati sensoriali grezzi ad alta larghezza di banda a un server centrale. Ciò crea un overhead di comunicazione significativo, colli di bottiglia nella scalabilità e problemi di privacy. Il Federated Learning (FL) offre un'alternativa distribuita in cui i robot si addestrano localmente e condividono solo i pesi del modello. Tuttavia, il FL standard (ad es. FedAvg) e persino i metodi esistenti di Clustered FL (CFL) faticano nelle implementazioni robotiche a causa della severa eterogeneità. Questa eterogeneità deriva da diverse piattaforme robotiche (ad es. UGV, UAV, robot quadripedi), ambienti variabili (ad es. urbano, forestale, interno) e quantità di dati sbilanciate.

Un gap critico identificato in questo lavoro è che le distribuzioni di dati robotici reali sono spesso parzialmente sovrapposte piuttosto che chiaramente separabili. Un singolo robot può operare in più ambienti, o diversi robot possono condividere ambienti simili ma differire per dinamiche di piattaforma. I metodi convenzionali di CFL assumono che i client possano essere partizionati in cluster distinti e non sovrapposti (hard clustering). Questa assunzione fallisce nelle impostazioni robotiche dove i cambiamenti di dominio sono continui e ambigui, portando a una degradazione delle prestazioni quando i client sono costretti in un singolo cluster, potenzialmente errato.

Metodologia: Framework FeDepth
Gli autori propongono FeDepth, un framework di Clustered FL basato su descrittori progettato per gestire le relazioni complesse e sovrapposte tra i client attraverso il soft clustering. Il framework opera in tre fasi principali:

1. Soft Clustering (Generazione del Descrittore del Client):

   • Invece di fare affidamento solo su immagini grezze o parametri del modello, FeDepth utilizza un encoder pre-addestrato (proveniente da modelli di profondità di base come AdaBins, NeWCRFs o DCDepth) per estrarre descrittori visivi da un sottoinsieme dei dati locali di ciascun client.
   • Queste mappe di caratteristiche vengono compresse tramite il pooling Generalized Mean (GeM). La media e la varianza di queste caratteristiche aggregate vengono utilizzate per formare un descrittore del client $(\mu_c, \sigma_c^2)$, che rappresenta la distribuzione delle caratteristiche del client.
   • Il server calcola le somiglianze pairwise tra i client utilizzando la divergenza di Jeffreys (una forma simmetrica della divergenza KL) tra le loro approssimazioni gaussiane.
   • A differenza dell'hard clustering, FeDepth impiega una strategia di soft clustering. I client vengono assegnati a più cluster in base a una soglia di somiglianza $\tau$. Ciò consente a un singolo client di partecipare a più cluster rilevanti, catturando le transizioni continue e ambigue comuni negli ambienti robotici. Un passaggio di fusione risolve le partizioni ridondanti per finalizzare la mappa dei cluster.

2. Aggiornamento del Modello del Cluster:

   • Durante i round di addestramento, i client eseguono aggiornamenti locali.
   • Il server aggrega i modelli per cluster. Per ogni cluster, esso media i modelli dei client assegnati a quel cluster (pesati in base alla dimensione dei dati).
   • I client scaricano quindi i modelli di tutti i cluster a cui appartengono e li mediano per inizializzare il loro round successivo di addestramento locale. Questo meccanismo consente ai client di beneficiare della conoscenza in più domini correlati.

3. Inferenza:

   • Per una nuova sequenza di test, il sistema estrae un descrittore e calcola la somiglianza con i centroidi dei cluster esistenti.
   • La sequenza viene assegnata a un insieme di cluster candidati (quelli al di sotto della soglia $\tau$) e la previsione finale è una media dei modelli dai quali sono stati selezionati i cluster.

Contributi Chiave

1. Indagine Sistematica sull'Eterogeneità Guidata dai Robot: Il documento evidenzia che l'FL per la percezione robotica affronta sfide uniche dovute ai cambiamenti di piattaforma, ambiente e distribuzione della profondità, che sono spesso meno esplorati rispetto all'FL per la classificazione di immagini standard.
2. Nuovi Scenari Non-IID (HPE e BMR): Gli autori introducono due testbed realistici derivati da dataset esistenti (M3ED, NYUv2, KITTI):
   • Heterogeneous Platform-Environment (HPE): Simula variazioni combinatorie dove i client condividono attributi (ad es. stesso ambiente, robot diverso) o hanno traiettorie sovrapposte, creando confini di dominio ambigui.
   • Bi-Modal Range (BMR): Simula uno spostamento severo tra le distribuzioni di profondità interne (campo vicino) ed esterne (campo lungo), testando la capacità di gestire scale di profondità fondamentalmente diverse.
3. Framework FeDepth: Un framework di CFL agnostico rispetto al modello che utilizza il soft clustering per consentire ai client di appartenere a più gruppi. Ciò affronta il limite dell'hard clustering nel gestire distribuzioni di dati sovrapposte.
4. Valutazione Completa: Il metodo è validato attraverso molteplici architetture di stima della profondità (AdaBins, NeWCRFs, DCDepth) e supera costantemente l'FL standard, l'FL personalizzato e i baseline di hard-clustering.

Risultati Sperimentali

• Scenario HPE: FeDepth supera costantemente tutti i baseline (FedAvg, FedProx, FedDyn, SCAFFOLD, FedClust, PACFL) in tutte le architetture testate. Ad esempio, con l'architettura NeWCRFs, FeDepth ha ottenuto un Abs Rel di 0.249, significativamente inferiore a FedAvg (0.366) e al PACFL di hard-clustering (0.318). I risultati dimostrano che il soft clustering cattura meglio la natura continua delle distribuzioni di dati robotici.
• Scenario BMR: Nello scenario chiaramente separato tra interno ed esterno, FeDepth performa in modo comparabile ai metodi di hard-clustering (PACFL) per architetture come NeWCRFs e DCDepth, dove i cluster sono naturalmente distinti. Tuttavia, per AdaBins, dove le rappresentazioni delle caratteristiche sono meno separabili, FeDepth supera comunque l'apprendimento centralizzato (CL) e l'FL standard, mostrando robustezza anche quando l'hard clustering sarebbe teoricamente ottimale.
• Studi di Ablazione:
  • Soft vs. Hard: Il soft clustering supera costantemente l'hard clustering a parità di soglia, confermando che le distribuzioni di dati robotici sono troppo continue per una partizione rigida.
  • Sensibilità alla Sovrapposizione: Un rapporto di sovrapposizione del 20% (client assegnati a più cluster) ha prodotto le prestazioni ottimali. Una sovrapposizione troppo scarsa limita la condivisione della conoscenza; una troppo elevata (100%) fa collassare il sistema in un normale FedAvg.
  • Basato su Etichette vs. Basato su Distribuzione: Il clustering basato sulle etichette di ground-truth (piattaforma/ambiente) ha prodotto prestazioni instabili rispetto al clustering di FeDepth consapevole della distribuzione, suggerendo che le etichette semantiche non sempre si allineano con la somiglianza della distribuzione delle caratteristiche.

Significatività e Rivendicazioni
Il documento sostiene che FeDepth fornisca una soluzione pratica ed efficace per la percezione robotica federata affrontando la specifica sfida dei domini dei client sovrapposti. Allontanandosi dall'assunzione di cluster chiaramente separabili, FeDepth consente un addestramento robusto in sistemi multi-robot eterogenei dove i robot condividono molteplici attributi. Gli autori posizionano FeDepth non solo come un miglioramento dell'accuratezza, ma come un passo necessario verso una percezione scalabile e preservante la privacy per diverse implementazioni robotiche nel mondo reale. Il lavoro stabilisce nuovi benchmark (HPE e BMR) per valutare l'FL sotto l'eterogeneità robotica realistica, andando oltre i controllati ambienti di laboratorio.