Joint Optimization of Model Partitioning and Resource Allocation for Anti-Jamming Collaborative Inference Systems

Questo articolo propone un sistema di inferenza collaborativa anti-disturbo che ottimizza congiuntamente la partizione del modello DNN e l'allocazione delle risorse per massimizzare il ricavo di ritardo e accuratezza, superando le sfide poste dai jammer malintenzionati attraverso un algoritmo di ottimizzazione alternata.

L'essenziale

Immagina di avere un cuoco molto intelligente (l'intelligenza artificiale) che deve preparare un piatto complesso (riconoscere un'immagine, come un'auto o un viso). Questo cuoco ha bisogno di molti ingredienti e di un forno potente per lavorare.

Il problema è che i dispositivi che abbiamo in tasca (come i nostri smartphone) sono come piccoli fornelli portatili: non hanno la potenza per cucinare tutto il piatto da soli. Quindi, la soluzione è dividere il lavoro: il dispositivo fa la parte iniziale (sbuccia le verdure, taglia gli ingredienti) e poi invia il "semilavorato" a un grande ristorante centrale (il server al bordo della rete) che finisce di cucinare il piatto.

Tuttavia, c'è un cattivo giocatore (il "jammer" o disturbatore) che sta cercando di rovinare il lavoro. Il suo obiettivo è lanciare "sabbia" nel tubo che collega il dispositivo al ristorante, rendendo gli ingredienti che arrivano al ristorante sporchi e confusi. Se gli ingredienti arrivano rovinati, il piatto finale sarà terribile, anche se il cuoco centrale è bravissimo.

Ecco come gli autori di questo articolo hanno risolto il problema, spiegato in modo semplice:

1. Il Problema: Troppa sabbia nel tubo

Quando il dispositivo invia i dati al ristorante, il "cattivo giocatore" disturba il segnale.

• Se invii tutti gli ingredienti al ristorante (lavoro zero sul dispositivo), il tubo è lungo e pieno di sabbia: il risultato è disastroso.
• Se fai tutto tu sul dispositivo (lavoro zero al ristorante), il tuo piccolo fornello si surriscalda e impiega troppo tempo.
• Se scegli il punto sbagliato per dividere il lavoro, potresti inviare un pacchetto troppo grande che si rompe facilmente o troppo piccolo che non vale la pena spedire.

2. La Soluzione: Un "Direttore d'Orchestra" Intelligente

Gli autori hanno creato un sistema che agisce come un direttore d'orchestra super-intelligente. Il suo compito è decidere tre cose contemporaneamente per ogni dispositivo:

1. Dove fermarsi: Quante verdure sbucciare da soli e quanti ingredienti inviare al ristorante? (Questo è il "partizionamento del modello").
2. Quanto spingere: Con quanta forza inviare il messaggio? (Potere di trasmissione).
3. Quanto aiuto chiedere: Quanta potenza di calcolo usare dal ristorante centrale? (Risorse computazionali).

L'obiettivo non è solo cucinare velocemente, ma trovare il punto perfetto tra:

• Velocità: Non aspettare troppo.
• Qualità: Il piatto deve essere buono (alta precisione).
• Energia: Non consumare troppe batterie.

3. Come funziona il "Direttore" (L'Algoritmo)

Poiché ci sono troppe variabili per calcolare tutto a mano, hanno usato un metodo a tre passi che si ripete all'infinito finché non trova la soluzione migliore:

• Passo 1 (Matematica pura): Prima decide quanto aiuto chiedere al ristorante. Usa una formula matematica precisa (come una ricetta perfetta) per distribuire il lavoro in modo equo.
• Passo 2 (Ottimizzazione): Poi decide quanto "spingere" il segnale per superare la sabbia del cattivo giocatore, senza però bruciare la batteria.
• Passo 3 (L'Intelligenza Evolutiva): Qui entra in gioco la parte più creativa. Per decidere dove dividere il lavoro (quale ingrediente inviare), usano un algoritmo ispirato alla genetica quantistica.
  • L'analogia: Immagina di avere un gruppo di cuochi virtuali che provano mille combinazioni diverse di divisione del lavoro. I migliori vengono "incrociati" (come due ricette famose che si mescolano) e i peggiori vengono scartati. Inoltre, usano la "quantistica" per esplorare combinazioni che un cuoco normale non penserebbe mai di provare, evitando di fermarsi su soluzioni mediocri.

4. Il Risultato: Un Piatto Perfetto anche sotto Attacco

Hanno fatto delle prove simulate (come se fossero in una cucina di prova).

• Quando il "cattivo giocatore" aumenta la sabbia (più disturbo), gli altri metodi falliscono: o il piatto è lento o è rovinato.
• Il loro sistema, invece, si adatta: se il disturbo è forte, decide di fare più lavoro sul dispositivo (sbucciare più verdure) e inviare meno cose, oppure aumenta la potenza del segnale in modo intelligente.

In sintesi:
Questo articolo ci dice che, anche se qualcuno cerca di disturbare la nostra connessione, possiamo ancora avere un'intelligenza artificiale veloce e precisa. Basta avere un "capo" intelligente che sa esattamente quanto lavoro fare in casa, quanto spedire e con quanta forza, adattandosi in tempo reale alle condizioni della strada. È come imparare a guidare in una tempesta: non si blocca l'auto, si cambia solo la velocità e la direzione per arrivare a destinazione sicuri.

Sommario tecnico

1. Problema e Contesto

Con l'aumento della complessità dei modelli di Deep Neural Network (DNN) e la loro diffusione su dispositivi con risorse limitate (IoT, smartphone), l'inferenza collaborativa dispositivo-bordo (Device-Edge Collaborative Inference - CI) è emersa come soluzione promettente. In questo paradigma, il modello DNN viene suddiviso (partizionato) tra il dispositivo locale e un server edge (ES).

Tuttavia, l'articolo identifica una vulnerabilità critica: la trasmissione dei dati intermedi delle caratteristiche (IFD - Intermediate Feature Data) dal dispositivo all'edge server è esposta a jamming malevolo.

• La sfida: Un jammer può degradare la qualità del segnale (riducendo il SINR - Signal-to-Interference-plus-Noise Ratio), compromettendo l'integrità dei dati IFD e, di conseguenza, riducendo drasticamente l'accuratezza dell'inferenza.
• La complessità: La decisione di partizionamento del modello (dove tagliare la rete neurale) determina la dimensione dei dati da trasmettere, influenzando direttamente la suscettibilità al jamming e il ritardo di trasmissione.
• Obiettivo: Massimizzare il Ricavo di Ritardo e Accuratezza (RDA - Revenue of Delay and Accuracy) del sistema, bilanciando la latenza e l'accuratezza, sotto vincoli di risorse computazionali e di energia, in presenza di un jammer.

2. Metodologia Proposta

Gli autori propongono un framework di ottimizzazione congiunta che affronta tre variabili decisionali:

1. Allocazione delle risorse computazionali sul server edge ($f^E_n$).
2. Potenza di trasmissione dei dispositivi ($p_n$).
3. Punto di partizionamento del modello DNN ($k_n$).

A. Modellazione del Sistema

• Partizionamento DNN: Il modello è diviso in due segmenti. Il dispositivo esegue i layer da $0$a$k_n$, mentre l'edge server esegue i layer da $k_n+1$ a $K$.
• Modello di Accuratezza: Viene utilizzata una regressione dei dati per derivare una funzione di accuratezza chiusa. L'accuratezza ($Acc_n$) è modellata come una funzione logistica del SINR ($\phi_n$) e del punto di partizionamento ($k_n$). Questo permette di quantificare matematicamente come il jamming e la scelta del punto di taglio influenzino il risultato finale.
• Metrica di Performance (RDA): L'obiettivo è massimizzare la somma pesata del ricavo di ritardo e dell'accuratezza normalizzata, soggetta a vincoli di accuratezza minima, consumo energetico e capacità computazionale totale.

B. Formulazione del Problema

Il problema è formulato come un Programma Non Lineare a Variabili Miste (MINLP), che è non convesso e difficile da risolvere direttamente a causa della natura discreta del partizionamento del modello e della non linearità delle relazioni di accuratezza e ritardo.

C. Algoritmo di Soluzione

Per risolvere il problema MINLP, gli autori propongono un algoritmo iterativo basato sull'Ottimizzazione Alternata (AO - Alternating Optimization), che scompone il problema in tre sottoproblemi risolti sequenzialmente fino alla convergenza:

1. Allocazione Risorse Computazionali: Risolto utilizzando le condizioni KKT (Karush-Kuhn-Tucker). Viene derivata una soluzione in forma chiusa per l'allocazione ottimale delle risorse di calcolo dell'edge server.
2. Ottimizzazione della Potenza di Trasmissione: Trasformato in un problema di ottimizzazione convessa riformulando i vincoli. Viene risolto utilizzando metodi di ottimizzazione convessa standard (es. tramite solver CVX).
3. Partizionamento del Modello DNN: Poiché le variabili sono discrete, viene utilizzato un Algoritmo Genetico Quantistico (QGA - Quantum Genetic Algorithm). Il QGA combina i principi dell'informatica quantistica (superposizione di stati) con gli algoritmi genetici per evitare la convergenza prematura e trovare una soluzione sub-ottimale globale efficiente per la scelta del punto di partizionamento.

3. Contributi Chiave

• Primo studio sul jamming nella CI: Questo lavoro è il primo a esplorare esplicitamente l'impatto congiunto del partizionamento DNN e dell'ambiente di trasmissione sotto jamming malevolo sulle prestazioni di inferenza in un sistema dispositivo-edge.
• Modellazione basata su dati: Introduzione di un modello di accuratezza empirico (tramite regressione logistica) che lega direttamente SINR e punto di partizionamento all'accuratezza dell'inferenza, superando le approssimazioni teoriche tradizionali.
• Framework di ottimizzazione ibrido: Sviluppo di un algoritmo AO che integra tecniche analitiche (KKT), ottimizzazione convessa e meta-euristiche quantistiche (QGA) per gestire la complessità del problema MINLP.
• Metrica RDA: Proposta di una nuova metrica di valutazione che bilancia esplicitamente ritardo e accuratezza, fondamentale per applicazioni reali dove entrambi i fattori sono critici.

4. Risultati delle Simulazioni

Le simulazioni sono state condotte su un scenario con 10 dispositivi, un server edge e un jammer, utilizzando il modello ResNet-18 addestrato sul dataset CIFAR-10.

• Confronto con Baseline: Il metodo proposto è stato confrontato con:
  • Calcolo Locale (LC).
  • Calcolo Edge (ESC).
  • Potenza di Trasmissione Fissa (FTP).
  • Schema basato su Algoritmo Genetico classico (GA).
• Performance in termini di RDA: Il metodo proposto supera significativamente tutte le baseline in termini di RDA, dimostrando una migliore capacità di bilanciare ritardo e accuratezza.
• Robustezza al Jamming: All'aumentare della potenza del jammer, il sistema proposto mantiene un'accuratezza superiore alla soglia minima richiesta e un ritardo inferiore rispetto alle altre soluzioni, dimostrando una forte resilienza.
• Impatto della Potenza Computazionale: Anche variando la capacità di calcolo dei dispositivi, la soluzione proposta mantiene la superiorità, adattando dinamicamente il partizionamento e la potenza di trasmissione.

5. Significato e Implicazioni

Questo lavoro è significativo per lo sviluppo delle reti 6G e dei sistemi di Intelligenza Artificiale Distribuita in ambienti ostili. Dimostra che:

1. La sicurezza fisica (anti-jamming) non può essere trattata separatamente dall'ottimizzazione delle risorse computazionali e della struttura del modello AI.
2. L'adattabilità dinamica del punto di partizionamento del modello è uno strumento potente per mitigare gli effetti del jamming, permettendo di ridurre la quantità di dati sensibili da trasmettere quando il canale è degradato.
3. L'uso di algoritmi quantistici (QGA) in combinazione con l'ottimizzazione classica offre un approccio pratico ed efficiente per problemi di ottimizzazione complessi in reti wireless reali.

In sintesi, il paper fornisce un framework teorico e pratico per garantire l'affidabilità dei sistemi di inferenza collaborativa in scenari di sicurezza compromessa, massimizzando l'efficienza complessiva del sistema.