DP-FlogTinyLLM: Differentially private federated log anomaly detection using Tiny LLMs

1. Il Problema

I sistemi informatici distribuiti moderni generano volumi enormi di dati di log, essenziali per il rilevamento di anomalie e minacce informatiche. Tuttavia, in scenari reali, questi log sono spesso distribuiti tra diverse organizzazioni o data center geografici e non possono essere centralizzati a causa di vincoli di privacy e sicurezza (es. GDPR, leggi sulla protezione dei dati personali).
Le attuali soluzioni per il rilevamento di anomalie nei log, inclusi i recenti approcci basati su Large Language Models (LLM), si basano quasi esclusivamente sull'addestramento centralizzato. Questo presenta due sfide principali:

1. Privacy: La condivisione dei log grezzi viola le normative sulla privacy.
2. Eterogeneità dei Dati: I dati nei diversi nodi non sono indipendentemente e identicamente distribuiti (non-IID), il che può causare la divergenza dei modelli nei framework federati standard.
3. Costo Computazionale: L'adattamento degli LLM esistenti (spesso con miliardi di parametri) a un ambiente federato con risorse limitate (edge computing) è proibitivo in termini di memoria e potenza di calcolo.

2. Metodologia: DP-FLogTinyLLM

Gli autori propongono DP-FLogTinyLLM, un framework federato che integra l'apprendimento federato, la privacy differenziale e modelli linguistici di piccole dimensioni (Tiny LLM) ottimizzati.

Architettura e Componenti Chiave:

• Tiny LLMs con LoRA: Invece di addestrare LLM massicci, il framework utilizza quattro modelli linguistici compatti (Microsoft Phi-1.5, DeepSeek-R1-Qwen, Facebook OPT-1.3, TinyLlama-1.1B). Per rendere l'addestramento efficiente sui client, viene utilizzata la Low-Rank Adaptation (LoRA). Questo tecnica congela i pesi pre-addestrati del modello e addestra solo piccole matrici di adattamento a basso rango, riducendo drasticamente il numero di parametri addestrabili e il consumo di memoria GPU.
• Federated Learning con FedProx: Per gestire l'eterogeneità dei dati (non-IID) tra i vari client, il framework sostituisce l'algoritmo standard di media federata (FedAvg) con FedProx. FedProx aggiunge un termine di regolarizzazione prossimale alla funzione di perdita locale, impedendo ai modelli locali di discostarsi eccessivamente dal modello globale, garantendo una convergenza stabile.
• Privacy Differenziale (DP): Per proteggere i dati durante la comunicazione, viene integrata la Differential Privacy (DP). Il processo prevede:
  • Gradient Clipping: I gradienti locali vengono tagliati per limitare la sensibilità.
  • Aggiunta di Rumore: Rumore gaussiano calibrato viene aggiunto agli aggiornamenti del modello prima dell'aggregazione sul server.
  • Accounting: Viene utilizzato l'accounting della Privacy Differenziale di Rényi per tracciare rigorosamente il budget di privacy $(\epsilon, \delta)$ attraverso tutte le round di comunicazione.
• Preprocessing dei Log: I log grezzi vengono strutturati utilizzando l'algoritmo Drain per estrarre i template degli eventi. Successivamente, vengono organizzati in finestre temporali scorrevoli (sliding windows) per creare sequenze di chiavi di log, che fungono da input per i modelli linguistici.

3. Contributi Principali

1. Primo Framework Unificato: È il primo lavoro che unisce apprendimento federato, privacy differenziale, FedProx e modelli Tiny LLM potenziati da LoRA specificamente per il rilevamento di anomalie nei log.
2. Efficienza delle Risorse: Dimostra che è possibile eseguire l'addestramento federato completo su hardware edge utilizzando modelli con meno di 1.5 miliardi di parametri, riducendo i requisiti di memoria da oltre 30 GB (tipici degli LLM grandi) a circa 2-4 GB.
3. Garanzie di Privacy Formali: Fornisce garanzie matematiche formali $(\epsilon, \delta)$ contro gli attacchi di inferenza di appartenenza, un aspetto spesso trascurato nelle soluzioni federate per i log.
4. Gestione dell'Eterogeneità: L'uso di FedProx dimostra efficacia nel gestire distribuzioni di dati non-IID tipiche degli ambienti multi-sito.

4. Risultati Sperimentali

Il framework è stato valutato su due dataset pubblici di log di supercomputer: Thunderbird e BGL.

• Prestazioni su Thunderbird:
  • DP-FLogTinyLLM ha raggiunto prestazioni quasi identiche ai metodi centralizzati basati su LLM.
  • Il modello OPT-1.3B ha mostrato la migliore stabilità e le prestazioni complessive più elevate, superando i benchmark federati esistenti (come Federated LogBERT e LogDeep(FL)) in termini di F1-score e Precisione.
  • La precisione è rimasta eccezionalmente alta (> 0.999) in tutti i modelli, indicando un ottimo controllo dei falsi positivi.
• Prestazioni su BGL:
  • Sebbene le prestazioni siano leggermente inferiori rispetto all'addestramento centralizzato (LogTinyLLM), il modello federato rimane competitivo e robusto.
  • DeepSeek-R1-Distill-Qwen-1.5B ha ottenuto i migliori risultati in termini di stabilità e F1-score medio su questo dataset.
• Confronto con i Baseline:
  • Rispetto ai modelli federati tradizionali (senza LLM o senza DP), DP-FLogTinyLLM ha ottenuto F1-score e Precisione superiori.
  • Overhead Computazionale: L'adozione di LLM e meccanismi di privacy introduce un costo computazionale maggiore (da 6x a 16x rispetto all'addestramento centralizzato senza privacy), ma questo è considerato un compromesso accettabile per la protezione dei dati sensibili.

5. Significatività e Impatto

Questo lavoro è significativo perché colma il divario tra le esigenze di sicurezza dei dati (privacy) e la necessità di modelli di intelligenza artificiale avanzati per il monitoraggio dei sistemi.

• Privacy vs. Utilità: Dimostra che è possibile ottenere un'alta utilità predittiva (rilevamento anomalie) senza sacrificare la privacy degli utenti o delle organizzazioni, mantenendo i dati locali.
• Scalabilità: L'uso di Tiny LLM e LoRA rende fattibile l'implementazione di sistemi di sicurezza avanzati su dispositivi edge con risorse limitate, aprendo la strada a soluzioni di sicurezza distribuita e scalabile.
• Riferimento per il Futuro: Fornisce una baseline solida per future ricerche che combinano tecniche di ottimizzazione dei parametri, privacy differenziale e modelli linguistici in contesti federati.

In sintesi, DP-FLogTinyLLM rappresenta un passo avanti cruciale verso sistemi di rilevamento delle anomalie che sono non solo intelligenti ed efficienti, ma anche rispettosi della privacy e conformi alle normative globali sulla protezione dei dati.