Incentivizing Multi-Tenant Split Federated Learning for Foundation Models at the Network Edge

Sintesi Tecnica: Incentivare lo Split Federated Learning Multi-Tenant per i Foundation Model all'Edge della Rete

Definizione del Problema
I Foundation Models (FM) come GPT-4, BERT e LLaMA richiedono un fine-tuning esteso su dati specifici del dominio per raggiungere prestazioni elevate nei task downstream. Tuttavia, i dispositivi locali (ad es., smartphone, smartwatch) spesso mancano delle risorse computazionali per gestire il fine-tuning completo dei parametri del FM, mentre le preoccupazioni sulla privacy impediscono ai dati di lasciare il dispositivo. Lo Split Federated Learning (SFL) affronta questo problema delegando parte dei calcoli a server edge, consentendo un fine-tuning sinergico tra dispositivo ed edge.

Mentre la ricerca esistente sullo SFL si concentra su scenari single-tenant, le reti edge pratiche ospitano sempre più spesso molteplici tenant SFL in competizione per lo stesso pool di dispositivi locali per supportare diversi task downstream (ad es., classificazione di immagini, analisi del sentiment, speech-to-text). Questo ambiente multi-tenant introduce tre sfide critiche:

1. Partecipazione Indipendente dei Dispositivi: I dispositivi locali, guidati dal proprio interesse, selezionano i task in base agli incentivi, causando potenzialmente un bias dei dati in cui specifici task sono dominati da un sottoinsieme di dispositivi.
2. Valutazione del Contributo dei Dispositivi: È difficile prevedere come il livello di partecipazione di un dispositivo influenzi la prestazione finale del FM prima che il processo di training sia completato, ostacolando la progettazione di strategie di incentivo efficaci.
3. Competizione Inter-Tenant: Molteplici tenant competono per dispositivi di alta qualità, richiedendo un meccanismo per bilanciare la partecipazione e garantire prestazioni eque tra tutti i tenant.

Gli attuali meccanismi di incentivo sono ampiamente progettati per il Federated Learning (FL) single-tenant o per lo SFL standard e mancano delle strategie su misura necessarie per coordinare i dispositivi auto-interessati attraverso compiti di fine-tuning di FM multi-tenant in competizione.

Metodologia
Gli autori propongono PRINCE (Price-Incentive Mechanism), un nuovo framework progettato per guidare molteplici tenant SFL nell'offrire incentivi di prezzo strategici per sollecitare una partecipazione di alta qualità da parte dei dispositivi. La metodologia si basa su tre componenti fondamentali:

1. Aggregazione SFL Globale Resiliente al Bias:
   Per affrontare la partecipazione indipendente dei dispositivi, l'articolo introduce uno schema di aggregazione del modello globale non influenzato da bias. A differenza del FedAvg standard che assume una partecipazione completa, questo schema ri-pesa gli aggiornamenti del modello dei dispositivi partecipanti tramite l'inverso delle loro probabilità di partecipazione ($1/q_{i,j}$). Ciò assicura che il modello FM globale rimanga non influenzato rispetto allo scenario di partecipazione completa dei dispositivi, anche quando i dispositivi si uniscono ai task in modo probabilistico.

2. Limite di Convergenza SFL per la Valutazione del Contributo:
   Per risolvere la sfida della valutazione dei contributi dei dispositivi senza completare il training, gli autori derivano un rigoroso limite di convergenza SFL. Questo limite mette in relazione analiticamente la perdita (loss) globale attesa del FM con i livelli di partecipazione dei dispositivi ($q_{i,j}$), l'eterogeneità dei dati locali e l'entità dei gradienti. Questo limite teorico funge da surrogato per la perdita globale attesa, permettendo ai tenant SFL di stimare l'impatto di diverse strategie di prezzo sulle prestazioni del FM prima dell'esecuzione.

3. Modellazione di Stackelberg e Congestion Game:
   L'interazione tra i tenant SFL e i dispositivi locali è modellata come un Multi-Leader Multi-Follower Stackelberg Game:

   • Leader (Tenant SFL): Determinano le strategie di prezzo ottimali ($P_i$) per minimizzare la loro perdita globale attesa del FM entro un budget di pagamento.
   • Follower (Dispositivi Locali): Rispondono selezionando i livelli di partecipazione ($q_{i,j}$) per vari task per massimizzare la propria utilità (pagamento meno costo computazionale).
   • Competizione Inter-Tenant: La competizione tra i tenant per i dispositivi condivisi è modellata come un Congestion Game. I tenant aggiustano iterativamente le loro strategie di prezzo per migliorare la propria perdita globale, convergendo verso un Equilibrio di Nash (NE) all'interno del congestion game, che corrisponde all'Equilibrio di Stackelberg (SE) dell'intero sistema.

Viene proposto un algoritmo decentralizzato per implementare questo gioco, dove i tenant e i dispositivi aggiornano iterativamente le strategie fino al raggiungimento del SE.

Contributi Chiave

• Prima Esplorazione dello SFL Multi-Tenant per i FM: L'articolo è il primo a esplorare meccanismi di incentivo efficaci per lo SFL multi-tenant specificamente progettati per il fine-tuning di Foundation Model attraverso diverse modalità di dati (testo, immagini, audio).
• Design Resiliente al Bias: Introduce uno schema di aggregazione globale che elimina i bias del modello causati dalla partecipazione indipendente e probabilistica dei dispositivi.
• Limite di Convergenza Teorico: La derivazione di un rigoroso limite di convergenza SFL fornisce uno strumento analitico per i tenant per valutare i contributi dei dispositivi e progettare strategie di prezzo senza una conoscenza preventiva delle prestazioni finali del modello.
• Meccanismo PRINCE: Lo sviluppo di un algoritmo di incentivo di prezzo decentralizzato basato sulla teoria dei giochi di Stackelberg e dei congestion game che raggiunge la convergenza in tempo finito verso un equilibrio ottimale, bilanciando la competizione inter-tenant e gli incentivi dei dispositivi.

Risultati Sperimentali
Gli autori hanno valutato PRINCE utilizzando simulazioni con quattro rappresentativi tenant SFL (ViT per la classificazione di immagini, BERT per l'analisi del sentiment, Whisper per lo speech-to-text e LLaMA per il question answering) su 100 dispositivi locali.

• Accelerazione delle Prestazioni: PRINCE ha accelerato il fine-tuning del FM fino a 3,07x rispetto agli approcci allo stato dell'arte (FedPEFT, FAIR e MSDA).
• Accuratezza Target: PRINCE ha costantemente raggiunto gli obiettivi di prestazione per tutti i task downstream. Al contrario, benchmark come FAIR e MSDA non sono riusciti a raggiungere le accuratezze target per specifici task (ad es., Question Answering e Speech-to-Text) entro scadenze ragionevoli.
• Confronto con FL: Rispetto al FL classico (FedPEFT), PRINCE ha raggiunto l'accuratezza target mediamente il 31,36% più velocemente, evidenziando l'efficienza della sinergia dispositivo-edge nello SFL per carichi di lavoro FM con risorse limitate.
• Robustezza: Il meccanismo ha mantenuto un'ottimizzazione bilanciata tra i tenant e ha dimostrato una convergenza in tempo finito (media di 42 iterazioni) indipendentemente dalla scala del sistema.

Significato
L'articolo afferma che PRINCE fornisce una solida base per l'adozione diffusa dello SFL nelle reti edge per il fine-tuning dei Foundation Model. Affrontando le complessità specifiche degli ambienti multi-tenant — specificamente il comportamento indipendente dei dispositivi, la valutazione del contributo e la competizione inter-tenant — il meccanismo proposto garantisce che i diversi task downstream possano essere eseguiti in modo efficiente ed equo preservando al contempo la privacy dei dati. Il lavoro colma il divario tra la progettazione teorica degli incentivi e i requisiti pratici di distribuzione di IA su larga scala e preservante la privacy all'edge della rete.