Sintesi Tecnica: ProWAFT

1. Definizione del Problema

Gli FPGA basati su SRAM offrono una piattaforma attraente per l'inferenza di Reti Neurali Convoluzionali (CNN) a vincoli di energia e latenza all'edge della rete. Tuttavia, sono vulnerabili ai guasti transitori (ad esempio, Single-Event Upsets o SEU) che possono corrompere i bit di configurazione o il calcolo on-chip, portando a errori silenziosi nell'inferenza della CNN.

Le strategie di mitigazione esistenti affrontano un compromesso fondamentale:

• Ridondanza Statica (es. TMR Completo): Migliora la correttezza ma comporta un sostanziale overhead di prestazioni ed energia, che è spesso proibitivo per i dispositivi edge.
• Recupero Reattivo: Innesca la riconfigurazione solo dopo che un guasto è stato rilevato. Sebbene ciò riduca l'overhead in stato stazionario, introduce picchi di latenza inaccettabili sul percorso critico quando si verificano i guasti.
• La Sfida Centrale: L'impatto dei guasti è altamente non uniforme. Sia il rischio di guasto (variabile nel tempo e con le condizioni operative) sia la sensibilità del carico di lavoro (variabile per tipo di livello, precisione e comportamento di propagazione dell'errore) cambiano dinamicamente. I livelli di protezione statica assumono un ambiente stazionario e un carico di lavoro omogeneo, il che non è verificabile nella pratica.

2. Metodologia: ProWAFT

ProWAFT (Proactive Workload-Aware Fault Tolerance) è un framework di runtime progettato per acceleratori CNN basati su FPGA. Utilizza la Riconfigurazione Parziale (PR) per applicare selettivamente la Ridondanza Modulare Tripla (TMR) attraverso partizioni riconfigurabili in base alle condizioni in tempo reale.

Il framework opera attraverso quattro fasi sequenziali:

2.1 Modello di Sistema

L'acceleratore è modellato come un insieme di $K$ partizioni riconfigurabili ($P$). Ogni partizione può essere configurata con funzioni hardware provenienti da una libreria ($F$) che contiene sia varianti base che varianti protette (TMR). Il sistema elabora un flusso di carichi di lavoro ($W$), dove ogni carico di lavoro corrisponde a uno strato CNN descritto da un vettore di caratteristiche (tipo di operatore, forma dell'input, precisione, ecc.).

2.2 Punteggio di Criticità del Carico di Lavoro (WCS)

ProWAFT quantifica la sensibilità di un carico di lavoro specifico ai guasti hardware utilizzando un Workload Criticality Score (WCS):
$$WCS(W_i) = \alpha \cdot S_{data}(W_i) + \beta \cdot S_{control}(W_i) + \gamma \cdot P_{error}(W_i)$$

• $S_{data}$: Derivato dall'entropia della distribuzione delle attivazioni in uscita.
• $S_{control}$: Segnala i carichi di lavoro su percorsi condizionali (0 o 1).
• $P_{error}$: La probabilità di propagazione dell'errore, stimata tramite pre-caratterizzazione leggera (ad esempio, iniezione di guasti a bit singolo).

2.3 Modellazione del Rischio e delle Prestazioni Fault-Aware

Per una configurazione candidata, ProWAFT predice prestazioni e affidabilità:

1. Metriche Base: Calcola la latenza priva di guasti ($T_{base}$) ed l'energia ($E_{base}$) basandosi su operazioni, frequenza di clock e profili di potenza.
2. Modellazione del Rischio: Calcola un Reliability Risk Score (RRS) combinando la probabilità di guasto stimata a livello di partizione ($p_{fault}$) con un Fault Propagation Factor (FPF). L'FPF tiene conto della criticità del carico di lavoro, dell'utilizzo della partizione e del numero di partizioni a valle che consumano l'output.
3. Predizione Fault-Aware: Regola le metriche base tramite l'RRS per stimare la latenza e l'energia attese in condizioni di guasto.
4. Overhead di PR: Modella esplicitamente il tempo e l'energia necessari per cambiare configurazione ($\Delta_{PR}$).

2.4 Politica e Regola Decisionale Online

ProWAFT formula la selezione della configurazione come un problema decisionale sequenziale. Per ogni carico di lavoro in entrata, valuta un insieme di configurazioni fattibili per minimizzare un Costo Composito ($C_{total}$):
$$C_{total} = \eta_T \cdot \tilde{T} + \eta_E \cdot \tilde{E} + \eta_R \cdot RRS + \Delta_{PR}$$
Dove $\eta$ rappresenta i pesi specifici dell'applicazione per latenza, energia e affidabilità. Il controller utilizza un approccio a orizzonte scorrevole (receding-horizon) a basso overhead per selezionare l'azione che minimizza l'obiettivo immediato più l'overhead di riconfigurazione, soggetto a un budget di riconfigurazione.

3. Contributi Chiave

1. Formulazione della Configurazione Runtime: Il documento formula la tolleranza ai guasti proattiva e consapevole del carico di lavoro come un problema di configurazione runtime, consentendo la TMR selettiva tramite riconfigurazione parziale per scambiare esplicitamente latenza, energia e affidabilità.
2. Stack di Modellazione Leggero: Introduce uno stack decisionale composto dal Workload Criticality Score (WCS) e da una formulazione del rischio basata sulla propagazione dei guasti (FPF/RRS), integrati in una funzione di costo composito.
3. Implementazione e Valutazione: Implementa ProWAFT su una piattaforma Xilinx Zynq UltraScale+ ZCU104 con sei regioni riconfigurabili. Valuta il sistema sotto un modello di iniezione SEU variabile nel tempo utilizzando un tracciato di carico di lavoro CNN diversificato di 500 task (ResNet-18, MobileNetV2, EfficientNet-Lite).

4. Risultati Sperimentali

La valutazione confronta ProWAFT con tre baseline: Static-Base (nessuna ridondanza), Static-TMR (sempre ridondante) e Reactive-Reconfig (riconfigura solo dopo il rilevamento del guasto).

• Efficacia Complessiva: ProWAFT raggiunge il miglior compromesso. Rispetto a Static-TMR, migliora il throughput normalizzato del 45,9% (da 0,61 a 0,89) e riduce l'energia del 30,3% (da 302,5 J a 210,7 J) mantenendo un alto tasso di successo (98,8%). Rispetto a Reactive-Reconfig, riduce il costo composito del 30,8% (da 0,78 a 0,54).
• Adattività: Il sistema adatta dinamicamente l'uso della TMR dal 12,3% (Basso Rischio) al 95,2% (Carichi di Lavoro Critici) in base al rischio di guasto in tempo reale e alla criticità del carico di lavoro.
• Overhead:
  • Overhead Decisionale: Il processo decisionale online richiede 0,50 ms (0,13 mJ).
  • Proattivo vs Reattivo: L'overhead totale proattivo (decisione + PR) per gli aggiornamenti di singola partizione è di 4,70 ms, che è 3,3 volte inferiore all'overhead di recupero reattivo (15,30 ms).
• Contributo dei Componenti: Gli studi di ablazione confermano che rimuovere il WCS, il modello di propagazione o la logica di policy porta a un aumento del costo composito del 13–22%, validando la necessità di ciascun componente.

5. Significato e Rivendicazioni

Il documento afferma che ProWAFT affronta il disallineamento tra le strategie di protezione statica e la natura dinamica dei carichi di lavoro di inferenza edge e degli ambienti di guasto. Trattando l'affidabilità come una decisione runtime piuttosto che come una scelta di progettazione una tantum, ProWAFT minimizza un obiettivo composito che comprende prestazioni, energia e rischio di guasto.

Gli autori sostengono che ProWAFT raggiunga un compromesso prestazione-energia-affidabilità superiore rispetto alle baseline statiche e reattive, con un basso overhead decisionale online e costi di riconfigurazione quantificati. Notano che, sebbene l'attuale implementazione utilizzi l'iniezione di guasti basata su software per una valutazione controllata, il lavoro futuro mira a validare l'approccio sotto campagne di guasti fisici (ad esempio, radiazione e stress termico) ed estendere il framework a librerie di acceleratori più ampie.