Detecting Atypical Clients in Federated Learning via Representation-Level Divergence

Riepilogo Tecnico: Rilevamento di Clienti Atipici nell'Apprendimento Federato tramite Divergenza a Livello di Rappresentazione

Enunciato del Problema

L'Apprendimento Federato (FL) consente l'addestramento collaborativo di modelli su client distribuiti senza condividere dati grezzi, affrontando vincoli di privacy e sicurezza. Tuttavia, l'FL affronta sfide significative dovute all'eterogeneità dei dati (distribuzioni non-i.i.d.), che spesso porta a una convergenza instabile e a prestazioni globali degradate. Oltre all'eterogeneità statistica benigna, le implementazioni pratiche affrontano rischi in cui gli aggiornamenti dei client si discostano a causa di spostamenti distribuzionali, deriva dei sensori o input anomali.

Gli approcci attuali per rilevare tali deviazioni si basano spesso sul confronto di parametri del modello o gradienti. Gli autori sostengono che questi metodi offrono una visione limitata di come diversi client influenzino il comportamento funzionale interno e i confini decisionali della Rete Neurale (NN). È necessario un meccanismo per distinguere tra la variabilità attesa causata da dati non-i.i.d. e deviazioni potenzialmente dannose che compromettono la stabilità o l'affidabilità del processo di aggregazione.

Metodologia

Il documento propone una metrica geometrica leggera per quantificare la divergenza funzionale tra il modello locale di un client e il modello globale. Invece di analizzare i parametri, l'approccio si concentra sulla partizione dello spazio degli input indotta dalle attivazioni.

1. Pattern di Attivazione e Partizionamento dello Spazio degli Input:

   • Per una Rete Neurale Feedforward (FF) basata su ReLU, gli autori definiscono pattern di attivazione binari $a_l(x; \theta)$ per ogni strato $l$.
   • Questi pattern partizionano lo spazio degli input in regioni affini a tratti. I campioni che condividono lo stesso pattern di attivazione appartengono alla stessa regione.
   • Gli autori utilizzano un insieme di sonda $P$ fisso e condiviso (un sottoinsieme i.i.d. di dati) per valutare questi pattern.

2. Metrica di Affinità di Attivazione:

   • Per un dato strato $l$, l'affinità di attivazione $K^\theta_l(i, j)$ tra due campioni di sonda $x_i$ e $x_j$ è calcolata sulla base della distanza di Hamming tra i loro pattern di attivazione.
   • Questa metrica quantifica la "distanza" tra i campioni in termini di numero di iperpiani attraversati. Un'alta affinità indica che i campioni giacciono nella stessa regione o in regioni vicine; una bassa affinità indica una separazione da più iperpiani.
   • Ciò risulta in una matrice di affinità $K^\theta_l$ che cattura come un modello raggruppa gli input.

3. Divergenza Geometrica Gerarchica:

   • Per confrontare un modello client ($\theta_c$) con il modello globale ($\theta_g$), gli autori calcolano la norma di Frobenius della differenza tra le loro matrici di affinità: $d_l(\theta, \theta') = \|K^\theta_l - K^{\theta'}_l\|_F$.
   • Viene definita una divergenza gerarchica ($D_{hier}$) per tenere conto della struttura delle NN. Poiché gli strati iniziali definiscono separazioni grossolane e gli strati più profondi le affinano, le discrepanze negli strati iniziali sono pesate più pesantemente.
   • La formula è:
     $$D_{hier}(\theta, \theta') = d_1(\theta, \theta') + \sum_{l=2}^{L} \left( \prod_{r=1}^{l-1} \lambda_r \right) d_l(\theta, \theta')$$
     dove $\lambda_l = \exp(-\beta d_l)$ agisce come fattore di soppesamento verso il basso per gli strati più profondi se gli strati precedenti mostrano già differenze significative.

4. Rilevamento delle Anomalie:

   • In un contesto FL, la divergenza $D_c^{(t)}$ è calcolata per ogni client $c$ al round $t$.
   • Per identificare i client atipici, viene calcolato un punteggio di outlier robusto (z-score) utilizzando la mediana e la Deviazione Assoluta Mediana (MAD) della distribuzione della divergenza su tutti i client.

Contributi Chiave

• Prospettiva Geometrica: Introduce una prospettiva innovativa per analizzare il comportamento dei client FL basata sulla struttura geometrica indotta dai pattern di attivazione delle NN, piuttosto che sui valori dei parametri.
• Metrica Leggera: Propone una metrica che quantifica la divergenza funzionale misurando come l'addestramento locale altera l'organizzazione dello spazio degli input, catturando differenze oltre i confronti a livello di parametri.
• Segnale Interpretabile: Dimostra che questa metrica fornisce un segnale interpretabile per monitorare l'eterogeneità dei dati e identificare contributi di client atipici.

Risultati Sperimentali

Gli autori hanno valutato la metrica su due scenari: un MLP su Fashion-MNIST e una ResNet-18 su CIFAR-10, utilizzando la Discesa del Gradiente Stocastica (SGD) con partizionamento Dirichlet per simulare dati non-i.i.d.

1. Validazione della Metrica (Analisi dell'Eterogeneità):

   • Gli esperimenti hanno variato il parametro Dirichlet $\alpha$ (da $\alpha=10$ vicino all'i.i.d. a $\alpha=0.1$ altamente eterogeneo).
   • Risultati: In configurazioni quasi i.i.d. ($\alpha=10$), le divergenze dei client si sono stabilizzate rapidamente. In configurazioni altamente eterogenee ($\alpha=0.1$), la metrica ha catturato un aumento sistematico della divergenza e ha identificato client che si discostavano persistentemente dal modello globale, allineandosi all'intuizione che distribuzioni di dati distinte inducano organizzazioni geometriche distinte.

2. Identificazione del Client Anomalo:

   • È stato simulato un client "spostato" applicando perturbazioni (rumore gaussiano, rotazioni, sfocatura) al dataset di un client mentre gli altri rimanevano standard.
   • Risultati: Il client spostato ha mostrato costantemente una divergenza geometrica significativamente più alta e z-score robusti rispetto ai client regolari in tutti i round. Mentre i client regolari convergevano verso valori di divergenza stabili, il client spostato ha mantenuto una deviazione persistente, indicando un'organizzazione geometrica fondamentalmente diversa dello spazio degli input. Ciò è risultato vero per entrambe le architetture e i dataset.

Significato e Affermazioni

Il documento afferma che monitorare la struttura geometrica indotta dalle NN fornisce un segnale significativo e interpretabile per valutare i contributi dei client nell'FL. La metrica proposta distingue efficacemente tra client stabili ed eterogenei e quelli i cui aggiornamenti inducono cambiamenti funzionali atipici.

Gli autori posizionano questo lavoro come uno strumento per strategie di aggregazione consapevoli del rischio. Identificando i client che si discostano funzionalmente (piuttosto che solo parametricamente), il sistema può pesare o filtrare gli aggiornamenti in base al loro comportamento funzionale. Il documento conclude che questo approccio apre la strada a un'aggregazione più informata, sebbene noti che è necessario un lavoro futuro per integrare direttamente questo segnale nel ciclo di addestramento e applicarlo a contesti su larga scala o avversari. Il lavoro è presentato come complementare ai metodi esistenti di privacy crittografica e robustezza bizantina, offrendo un segnale di monitoraggio geometrico piuttosto che garanzie crittografiche formali.