Riepilogo Tecnico: Fiducia Appresa tra Vicini per il Deploy Collaborativo nell'Apprendimento Decentralizzato Agnostico al Modello

Enunciato del Problema

L'apprendimento decentralizzato è tradizionalmente inquadrato come un problema di coordinamento durante la fase di addestramento, in cui i nodi scambiano parametri o gradienti per migliorare modelli condivisi o personalizzati. Tuttavia, in scenari di deploy realistici come IoT, edge computing e fog computing, questo paradigma incontra limitazioni significative:

1. Eterogeneità: I dispositivi possiedono spesso capacità computazionali diverse e devono deployare architetture di modello differenti (ad esempio, MobileNet vs EfficientNet), rendendo inapplicabili i metodi di condivisione dei parametri.
2. Scarsità e Distorsione dei Dati: I dataset locali sono spesso piccoli, non-IID e distorti, limitando le prestazioni dei modelli isolati.
3. Obiettivo Incompleto: I metodi esistenti ottimizzano spesso la collaborazione durante l'addestramento ma deployano ogni nodo in isolamento. Ciò ignora il potenziale dei nodi di sfruttare la capacità superiore dei loro vicini durante l'inferenza, anche quando tali vicini non facevano parte del coordinamento di addestramento.
4. Vincoli di Comunicazione: Lo scambio di parametri ad alta dimensionalità è intensivo in termini di larghezza di banda.

La domanda fondamentale affrontata è: Come dovrebbero addestrarsi i nodi affinché le loro previsioni si combinino bene al momento del deploy, e come dovrebbe ciascun nodo imparare a combinare le previsioni che riceve, senza condividere parametri, gradienti o etichette grezze?

Metodologia: Fiducia Appresa tra Vicini (LNTrust)

Gli autori propongono LNTrust, un protocollo privo di server e agnostico al modello, in cui i nodi scambiano solo query (input non etichettati) e previsioni soft (logits/probabilità). L'approccio consta di due fasi distinte:

1. Protocollo di Addestramento in Due Fasi

• Fase 1 (Addestramento Supervisionato Locale): Ogni nodo addestra il proprio modello locale $h_{\theta_i}$ utilizzando i propri dati etichettati $D^L_i$ senza comunicazione. Viene costruito un set di validazione tenuto in riserva $D^V_i$ dalla distribuzione dei dati locali per stimare la qualità dei vicini.
• Fase 2 (Distillazione con Gate di Fiducia):
  • Sondaggio: Il nodo $i$ interroga tutti i vicini $j \in \bar{N}(i)$ (vicinato chiuso) su immagini provenienti da $D^V_i$.
  • Estrazione di Caratteristiche: Il nodo $i$ calcola caratteristiche relazionali $\phi_{ij}$ per ciascun vicino basandosi su:
    • Prestazioni di Sondaggio: Accuratezza per classe su $D^V_i$.
    • Allineamento Distributivo: Divergenza KL tra la distribuzione delle classi locale del nodo e la distribuzione prevista dal vicino su dati non etichettati.
    • Specializzazione: Entropia delle previsioni del vicino.
    • Topologia: Grado normalizzato del vicino.
  • Apprendimento della Fiducia: Il nodo $i$ addestra un modello locale compatto di fiducia $g_{\psi_i}$ (un piccolo MLP) per mappare queste caratteristiche in pesi di fiducia $\alpha_{ij}$. Il modello è addestrato per minimizzare la cross-entropia dell'insieme pesato dalla fiducia su $D^V_i$.
  • Distillazione con Gate: Durante l'addestramento, il nodo $i$ utilizza dati non etichettati per eseguire la distillazione della conoscenza dai vicini. Tuttavia, questo processo è gated (controllato da un gate):
    • Un Gate di Trasferimento Negativo confronta le prestazioni di validazione dell'insieme con quelle del modello del nodo stesso. Se l'insieme è più debole, il peso della distillazione viene ridotto o azzerato.
    • Un Filtro di Confidenza scarta le pseudo-etichette a bassa confidenza.
    • La perdita è una somma ponderata della perdita supervisionata e della perdita di distillazione, dove il peso della distillazione è regolato dinamicamente dal gate.

2. Strategia di Deploy

Al momento dell'inferenza, il nodo $i$ non deploya il proprio modello locale da solo. Invece, forma un insieme di vicinato chiuso:
$$p^{deploy}_i(x) = \sum_{j \in \bar{N}(i)} \alpha^{deploy}_{ij} p_j(x)$$
I pesi $\alpha^{deploy}_{ij}$ sono gli stessi pesi di fiducia appresi durante la Fase 2. Ciò garantisce che la collaborazione appresa durante l'addestramento si trasferisca direttamente al deploy.

Contributi Chiave

1. Algoritmo (LNTrust)

• Agnostico al Modello e Privo di Server: Opera senza un coordinatore centrale e supporta architetture eterogenee (ad esempio, mescolando MobileNetV2 ed EfficientNet-B0) scambiando solo previsioni soft.
• Funzione di Fiducia Appresa: I nodi apprendono una funzione di fiducia compatta basata su evidenze di validazione locali per decidere quali vicini fidare sia per la distillazione durante l'addestramento sia per l'ensemble durante l'inferenza.
• Meccanismi di Sicurezza: Include un gate di trasferimento negativo per impedire che la collaborazione degradi le prestazioni locali se i vicini non sono adatti.

2. Garanzie Teoriche

• Limite di Deploy: Gli autori dimostrano un limite a campione finito che mostra come i pesi di fiducia adattati alla validazione comportino solo un eccesso di log-loss di $O(\epsilon^{-1}_{dep} \sqrt{\log |\bar{N}(i)|/m_i})$ rispetto alla migliore distribuzione di pesi possibile, assumendo che le caratteristiche relazionali siano distinte.
• Perturbazione Controllata: Dimostrano che la traiettoria di addestramento di LNTrust rimane vicina a una traiettoria di addestramento supervisionato "solo sé stessi". Il gate di fiducia garantisce che, se i vicini forniscono segnali scadenti, la perturbazione collaborativa collassi, proteggendo il nodo da una divergenza catastrofica.

3. Artificio

• Gli autori rilasciano un'infrastruttura unificata di benchmarking per l'apprendimento decentralizzato che implementa LNTrust insieme a baseline (DML, DESA, FedPAE, Mean Teacher, D-PSGD, ecc.) sotto un protocollo comune che tiene conto della comunicazione.

Risultati Sperimentali

Il metodo è stato valutato su CIFAR-10, CIFAR-100 ed EuroSAT attraverso tre configurazioni topologiche:

1. Eterogeneo Sparso: Grafo Barabási-Albert con architetture miste (90% MobileNetV2, 10% EfficientNet-B0 agli hub).
   • Risultato: LNTrust ha raggiunto un'accuratezza del 86,5% su CIFAR-10 e del 61,5% su CIFAR-100, superando significativamente la migliore baseline basata solo sull'output (DML con 79,5% e 56,9% rispettivamente). I metodi di condivisione dei parametri erano inapplicabili in questo scenario.
2. Geografico (EuroSAT): Dati spaziali reali con connettività decadente in funzione della distanza.
   • Risultato: LNTrust ha raggiunto un'accuratezza del 96,7%, superando tutte le baseline (raggruppate intorno al 94,2–94,8%).
3. Omogeneo Denso: Grafo casuale uniforme con architetture identiche (tutti MobileNetV2).
   • Risultato: LNTrust ha raggiunto un'accuratezza dell'84,4%, superando tutte le baseline basate solo sull'output e pareggiando i metodi di condivisione dei parametri come Gossip-FedAvg (84,2%), sebbene sia rimasto indietro rispetto al metodo di condivisione dei parametri migliore, D-PSGD (87,0%).

Efficienza di Comunicazione:
LNTrust scambia solo logits unidirezionali a $C$ dimensioni. In termini di accuratezza per GB comunicato, supera significativamente i metodi che scambiano vettori di caratteristiche (DESA) o pesi completi (metodi di condivisione dei parametri), specialmente in scenari eterogenei.

Studi di Ablazione:

• Meccanismo di Fiducia: Sostituire l'MLP appreso con euristiche scalari (LinUCB, Maggioranza Ponderata) ha portato a prestazioni inferiori, confermando il valore delle caratteristiche relazionali strutturate.
• Costo di Validazione: Trattenere il 20% dei dati etichettati per la validazione ha offerto il miglior compromesso tra qualità della stima della fiducia e disponibilità di dati di addestramento.
• Budget di Distillazione: Le prestazioni sono migliorate con budget moderati di pseudo-etichette ma sono peggiorate con budget molto elevati, indicando un punto di saturazione in cui i segnali dei pari sovrascrivono le informazioni locali.

Significato e Affermazioni

Il documento afferma che LNTrust affronta una lacuna critica nell'apprendimento decentralizzato: la disconnessione tra il coordinamento durante l'addestramento e la realtà durante il deploy. Imparando chi fidarsi basandosi su evidenze locali, i nodi possono:

• Sfruttare l'Eterogeneità: Utilizzare vicini più forti (ad esempio, hub con modelli più grandi) senza richiedere omogeneità architetturale.
• Ottimizzare la Larghezza di Banda: Raggiungere alta accuratezza con comunicazione significativamente inferiore rispetto ai metodi precedenti, rendendolo adatto a ambienti vincolati in termini di banda come l'IoT.
• Garantire Sicurezza: Il meccanismo gated di fiducia garantisce che la collaborazione sia "sicura", impedendo ai nodi di degradare le proprie prestazioni locali quando i vicini sono inaffidabili.

Gli autori sottolineano che, sebbene LNTrust migliori le baseline basate solo sull'output e pari i metodi di condivisione dei parametri in scenari omogenei, il suo significato principale risiede nel rendere possibile una collaborazione efficace in ambienti eterogenei e privi di server, dove lo scambio tradizionale di parametri è impossibile. Il metodo non afferma di risolvere la robustezza avversariale o di fornire garanzie formali di privacy contro fughe di informazioni basate su query, notando questi aspetti come importanti direzioni future.