FedLNS: Leverage LayerNorm Signature Modeling to Mitigate Adversarial Manipulation in Federated LLMs
FedLNS è un framework lato server che mitiga la manipolazione avversaria nell'addestramento federato di LLM attraverso lo screening degli aggiornamenti malevoli dei client tramite un'analisi leggera delle variazioni dei parametri dei livelli di normalizzazione, ottenendo una robustezza superiore attraverso diverse architetture di modelli senza richiedere scambi di dati aggiuntivi o esempi di attacco etichettati.
Articolo originale dedicato al pubblico dominio sotto CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
I grandi modelli linguistici sono i motori dietro gli assistenti intelligenti, gli strumenti di ricerca e gli ausili alla scrittura che usiamo ogni giorno. Questi sistemi imparano leggendo enormi quantità di testo, ma gran parte delle informazioni più preziose è custodita in luoghi privati: messaggi personali, cartelle cliniche o documenti proprietari delle aziende. Per istruire un modello utilizzando questi dati privati senza mai vedere i dati stessi, i ricercatori utilizzano un metodo chiamato apprendimento federato (federated learning). In questa configurazione, il modello viaggia verso i dati invece del contrario. Il computer centrale invia una copia dell'attuale modello a molti dispositivi diversi, ogni dispositivo si addestra sui propri dati privati e poi rimanda indietro solo le variazioni apprese. Il computer centrale combina poi queste variazioni per creare un modello più intelligente e aggiornato. Questo processo protegge la privacy, ma crea una nuova vulnerabilità: il computer centrale non può vedere cosa è accaduto sui dispositivi locali. Un dispositivo disonesto potrebbe fingere di imparare da dati privati mentre in realtà riceve istruzioni false, ingannando il computer centrale e spingendolo ad adottare lezioni dannose che degradano la capacità del modello di parlare o scrivere correttamente.
Un team di ricercatori ha sviluppato un nuovo modo per individuare questi aggiornamenti disonesti prima che possano danneggiare il modello globale. Chiamano il loro sistema FEDLNS, un metodo che agisce come un posto di blocco per le informazioni che fluiscono verso il server centrale. Invece di cercare di ispezionare ogni singolo elemento dei massicci aggiornamenti del modello — che possono contenere miliardi di numeri e sono troppo complessi per essere controllati a fondo — i ricercatori si concentrano su un insieme minuscolo e specifico di numeri all'interno del modello. Questi numeri controllano come il modello scala e sposta la sua comprensione interna del linguaggio, agendo come una sorta di firma di come il modello è stato regolato. Osservando come cambiano questi numeri specifici, il server può costruire un profilo di ciò che rappresenta un apprendimento normale e onesto. Quando un dispositivo invia un aggiornamento, il server confronta la sua firma con una cronologia di firme provenienti da altri dispositivi. Se i cambiamenti di un dispositivo appaiono troppo diversi rispetto al resto del gruppo, il sistema lo segnala come sospetto e lo mette da parte, impedendo che il cattivo aggiornamento venga mescolato nel modello finale.
I ricercatori hanno testato questo approccio su tre diversi tipi di modelli linguistici, che spaziano da quelli che prevedono la parola successiva in una frase a quelli che riempiono parole mancanti, fino a modelli di grandi dimensioni simili a quelli che alimentano i moderni chatbot. Hanno simulato uno scenario in cui fino al quaranta per cento dei dispositivi partecipanti erano malevoli, cercando deliberatamente di corrompere il modello insegnandogli associazioni errate tra le parole. In queste condizioni difficili, il nuovo sistema ha filtrato con successo gli aggiornamenti dannosi. I modelli addestrati con questa protezione hanno performato significativamente meglio di quelli addestrati con i metodi di sicurezza esistenti. Nello specifico, i modelli protetti commettevano meno errori nella previsione della parola successiva, mostrando una riduzione della confusione fino al diciotto per cento rispetto al secondo miglior metodo. Hanno anche mostrato meno incertezza nelle loro scelte, il che significa che erano meno propensi a produrre frasi confuse o prive di senso.
Ciò che rende questa scoperta particolarmente utile è che non richiede al server centrale di avere una lista di attori malintenzionati noti, né necessita di un rilevatore separato e pre-addestrato per catturare i bugiardi. Il sistema impara cosa è normale semplicemente osservando il gruppo di dispositivi nel tempo. Aspetta di aver visto abbastanza dispositivi diversi per costruire un'immagine affidabile del comportamento onesto, e poi inizia lo screening. I ricercatori hanno scoperto che più dispositivi il sistema osservava prima di iniziare lo screening, migliore era la sua prestazione, sebbene potesse comunque funzionare efficacemente con una visione parziale del gruppo. Fondamentalmente, questa protezione avviene interamente sul lato server; i dispositivi che inviano gli aggiornamenti non devono modificare il proprio software né inviare alcuna informazione extra, rendendo il metodo facile da aggiungere ai sistemi esistenti senza rallentarli.
Lo studio conferma che è possibile mettere in sicurezza l'apprendimento federato senza sacrificare la privacy o richiedere dati affidabili. Concentrandosi su una firma compatta e consapevole dell'architettura piuttosto che sull'intero modello, i ricercatori hanno creato uno scudo leggero che ferma la manipolazione maliziosa prima che si diffonda. Nelle loro simulazioni, questo approccio ha superato costantemente sei altre tecniche di sicurezza comuni attraverso diversi tipi di modelli e distribuzioni di dati. I risultati suggeriscono che monitorando i sottili spostamenti interni di un modello, possiamo mantenere l'integrità dell'apprendimento collaborativo anche quando una grande parte dei partecipanti sta cercando di ingannare il sistema. Ciò offre una via pratica per costruire un'intelligenza artificiale più affidabile che possa imparare da dati privati senza essere facilmente raggirata da attori malintenzionati.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.