💬 NLP

ProWAFT: A ROMA-LPD Instance for Workload-Aware and Dynamic Fault Tolerance in FPGA-Based CNN Accelerators

ProWAFT is een proactief, workload-bewust framework voor FPGA-gebaseerde CNN-acceleratoren dat de afweging tussen latentie, energie en betrouwbaarheid dynamisch optimaliseert door selectief Triple Modular Redundancy (TMR) toe te passen op kritieke reconfigureerbare partities via partiële reconfiguratie, waarbij het superieure prestaties en fouttolerantie bereikt vergeleken met statische of reactieve benaderingen.

Oorspronkelijke auteurs: Xinxin Chen, Haoran Qiao, Yiming Guo, Kecheng Luo, Siyuan Feng, Jingwen Ma

Gepubliceerd 2026-07-03

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Xinxin Chen, Haoran Qiao, Yiming Guo, Kecheng Luo, Siyuan Feng, Jingwen Ma

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een drukke, snelle fabriek runt (de FPGA-versneller) die complexe structuren bouwt genaamd CNN's (het brein achter zaken als zelfrijdende auto's of gezichtsherkenning). Deze fabriek is gebouwd van een speciaal soort materiaal (SRAM-gebaseerde FPGA) dat ongelooflijk snel en efficiënt is, maar het heeft een gebrek: het is als een kaartenhuis in een winderige kamer. Soms waaien er onzichtbare windstoten (transiënte fouten of "glitches") doorheen, die een paar kaarten omver blazen en ervoor zorgen dat de fabriek een licht scheef product bouwt zonder dat iemand dit onmiddellijk opmerkt. Dit wordt een "stille fout" genoemd.

Het artikel introduceert een nieuwe manager voor deze fabriek genaamd ProWAFT. Zo werkt het, met behulp van eenvoudige analogieën:

Het Probleem: Het "Alles-of-Niets"-Dilemma

Voorheen hadden fabriekmanagers twee slechte keuzes om de wind te stoppen die de boel omver blies:

De "Fortress"-aanpak (Statische TMR): Ze bouwden drie identieke kopieën van elke machine en lieten ze stemmen over het resultaat. Als er één kapot gaat, herstellen de andere twee het.
- Het nadeel: Dit is ontzettend zwaar. Het verbruikt veel te veel elektriciteit en vertraagt de fabriek omdat je drie machines moet draaien voor elke ene taak.
De "Repareer-als-het-kapot-is"-aanpak (Reactieve Herstel): Ze lieten de machines normaal draaien en herstelden ze pas nadat een glitch werd gedetecteerd.
- Het nadeel: Tegen de tijd dat ze de glitch opmerkten, was de fabriek al gestopt om het te repareren, wat zorgde voor een enorme vertraging (latentie) die de planning verpestte.

De Oplossing: ProWAFT (De Slimme, Adaptieve Manager)

ProWAFT is een "slimme manager" die niet elke taak hetzelfde behandelt. Het weet dat sommige fabrieksjobs cruciaal zijn (zoals het bouwen van een automotor) en sommige minder cruciaal (zoals het verven van een bumper). Het weet ook dat de "wind" (foutrisico) gedurende de dag van sterkte verandert.

Hier is hoe ProWAft beslissingen neemt:

1. Het leest de "Taal-kritikaliteit" (Workload Criticality Score)
Stel je een lopende band voor die verschillende taken binnenbrengt.

Als er een kritieke taak arriveert (bijv. een complexe berekening die, als deze fout is, het hele product ruïneert), zegt ProWAFT: "Oké, dit is een hoog inzet spel. Laten we de schilden plaatsen (Triple Modular Redundancy/TMR) voor deze specifieke machine."
Als er een taak met lage inzet arriveert (bijv. een simpele wiskundige controle), zegt ProWAFT: "Geen noodzaak voor zware schilden hier; laten we de machine snel en licht houden."

2. Het voorspelt de "Wind" (Foutrisico)
ProWAFT heeft een weersverwachting voor de fabrieksvloer. Het weet dat de "wind" (fouten) op bepaalde tijden sterker is. Als de voorspelling zegt dat er een storm aankomt, plaatst het proactief schilden voordat de wind toeslaat, in plaats van te wachten tot de schade is aangericht.

3. Het gebruikt "Magische Deuren" (Partial Reconfiguration)
De fabriek heeft speciale deuren waarmee je de interne onderdelen van een machine direct kunt vervangen zonder het hele gebouw af te sluiten.

In plaats van de hele fabriek te herbouwen, opent ProWAFT een deur, vervangt een standaardmachine door een "beschermde" machine, voert het kritieke werk uit, en vervangt deze weer. Dit wordt Partial Reconfiguration genoemd.
De manager is voorzichtig om de deuren niet te vaak te wisselen, want het wisselen van de deuren kost tijd en energie. Het wisselt alleen wanneer het risico op een glitch groter is dan de kosten van het wisselen.

Het Resultaat: Een Gebalanceerde Fabriek

Toen de onderzoekers ProWAFT testten op een echte fabriek (een Xilinx Zynq-chip) met 500 verschillende taken:

Het was sneller dan de "Fortress"-aanpak omdat het geen energie verspilde aan het beschermen van elke machine de hele tijd.
Het was betrouwbaarder dan de "Repareer-als-het-kapot-is"-aanpak omdat het problemen stopte voordat ze voor vertragingen zorgden.
Het bespaarde energie door alleen de zware schilden te gebruiken wanneer dat absoluut noodzakelijk was.

De Kernboodschap

Beschouw ProWAFT als een slimme beveiligingsbeambte die niet de hele dag elke deur in het gebouw op slot doet (te duur) en niet wacht tot een dief is ingebroken voordat de politie wordt gebeld (te traag). In plaats daarvan kijkt de bewaker naar wat er wordt gedragen (is het een diamant of een baksteen?), controleert het weer (is het stormachtig buiten?), en sluit alleen de specifieke deuren die op dat exacte moment bescherming nodig hebben.

Het artikel beweert dat deze aanpak een perfect evenwicht creëert: de fabriek draait snel, verbruikt minder stroom en maakt zelden fouten, terwijl de manager deze beslissingen neemt in een oogwenk (minder dan een halve milliseconde).

Technisch Overzicht: ProWAFT

1. Probleemstelling

SRAM-gebaseerde FPGA's bieden een aantrekkelijk platform voor energie- en latentie-beperkte Convolutional Neural Network (CNN) inferentie aan de edge. Ze zijn echter kwetsbaar voor transiënte fouten (bijv. Single-Event Upsets of SEU's) die configuratiebits of on-chip berekeningen kunnen corrumperen, wat leidt tot stille fouten in de CNN-inferentie.

Bestaande mitigatiestrategieën kampen met een fundamentele afruil:

Statische Redundantie (bijv. Volledige TMR): Verbetert de correctheid, maar brengt aanzienlijke prestatie- en energieoverhead met zich mee, wat vaak prohibitief is voor edge-apparaten.
Reactieve Herstel (Reactive Recovery): Activeert reconfiguratie pas nadat een fout is gedetecteerd. Hoewel dit de overhead in de stabiele fase vermindert, introduceert het onacceptabele latentiepieken op het kritieke pad wanneer fouten optreden.
De Kernuitdaging: De impact van fouten is zeer niet-uniform. Zowel het foutrisico (variërend met de tijd en operationele omstandigheden) als de workload-gevoeligheid (variërend per type laag, precisie en foutpropagatiegedrag) veranderen dynamisch. Statische beschermingsniveaus gaan uit van een stationaire omgeving en een homogene workload, wat in de praktijk niet opgaat.

2. Methodologie: ProWAFT

ProWAFT (Proactive Workload-Aware Fault Tolerance) is een runtime-framework ontworpen voor FPGA-gebaseerde CNN-accelerators. Het maakt gebruik van Partial Reconfiguration (PR) om selectief Triple Modular Redundancy (TMR) toe te passen over reconfigureerbare partities op basis van realtime condities.

Het framework werkt via vier opeenvolgende stadia:

2.1 Systeemmodel

De accelerator wordt gemodelleerd als een set van $K$ reconfigureerbare partities ( $P$ ). Elke partitie kan worden geconfigureerd met hardwarefuncties uit een bibliotheek ( $F$ ) die zowel baseline- als beschermde (TMR) varianten bevat. Het systeem verwerkt een stroom van workloads ( $W$ ), waarbij elke workload overeenkomt met een CNN-laag beschreven door een feature vector (operator type, input vorm, precisie, etc.).

2.2 Workload Criticality Scoring (WCS)

ProWAFT kwantificeert de gevoeligheid van een specifieke workload voor hardwarefouten met behulp van een Workload Criticality Score (WCS):
$WCS(W_i) = \alpha \cdot S_{data}(W_i) + \beta \cdot S_{control}(W_i) + \gamma \cdot P_{error}(W_i)$

$S_{data}$ : Afgeleid van de entropie van de output activatieverdeling.
$S_{control}$ : Markeert workloads op conditionele paden (0 of 1).
$P_{error}$ : De waarschijnlijkheid van foutpropagatie, geschat via lichtgewicht pre-karakterisering (bijv. single-bit fault injection).

2.3 Foutbewuste Prestatie- en Risicomodellering

Voor een kandidaat-configuratie voorspelt ProWAFT prestaties en betrouwbaarheid:

Baseline Metrieken: Berekent foutvrije latentie ( $T_{base}$ ) en energie ( $E_{base}$ ) op basis van operaties, klokfrequentie en powerprofielen.
Risicomodellering: Berekent een Reliability Risk Score (RRS) door de geschatte partitie-niveau foutkans ( $p_{fault}$ ) te combineren met een Fault Propagation Factor (FPF). De FPF houdt rekening met de workload-kritikaliteit, partitie-utilisatie en het aantal downstream partities dat de output consumeert.
Foutbewuste Voorspelling: Past de baseline metrieken aan met de RRS om de verwachte latentie en energie te schatten.
PR Overhead: Modelleert expliciet de tijd en energie die nodig is voor het wisselen van configuraties ( $\Delta_{PR}$ ).

2.4 Beleid en Online Beslissingsregel

ProWAFT formuleert de configuratie selectie als een sequentieel beslissingsprobleem. Voor elke inkomende workload evalueert het een set haalbare configuraties om een Composite Cost ( $C_{total}$ ) te minimaliseren:
$C_{total} = \eta_T \cdot \tilde{T} + \eta_E \cdot \tilde{E} + \eta_R \cdot RRS + \Delta_{PR}$
Waar $\eta$ staat voor applicatie-specifieke gewichten voor latentie, energie en betrouwbaarheid. De controller gebruikt een low-overhead receding-horizon benadering om de actie te selecteren die de onmiddellijke doelstelling plus de reconfiguratie-overhead minimaliseert, onderworpen aan een reconfiguratie-budget.

3. Belangrijkste Bijdragen

Runtime Configuratie Formulering: Het artikel formuleert proactieve, workload-bewuste fouttolerantie als een runtime-configuratieprobleem, wat selectieve TMR via partial reconfiguration mogelijk maakt om expliciet de afruil tussen latentie, energie en betrouwbaarheid te beheren.
Lichtgewicht Modelleringstack: Introduceert een beslissingsstack bestaande uit de Workload Criticality Score (WCS) en een foutpropagatie-gebaseerde risicoformulering (FPF/RRS), geïntegreerd in een samengestelde kostenfunctie.
Implementatie en Evaluatie: Implementeert ProWAFT op een Xilinx Zynq UltraScale+ ZCU104 platform met zes reconfigureerbare regio's. Het evalueert het systeem onder een tijdvariërend SEU-injectiemodel met behulp van een diverse 500-taken CNN workload trace (ResNet-18, MobileNetV2, EfficientNet-Lite).

4. Experimentele Resultaten

De evaluatie vergelijkt ProWAFT met drie baselines: Static-Base (geen redundantie), Static-TMR (altijd redundant) en Reactive-Reconfig (reconfigureer alleen na foutdetectie).

Algehele Effectiviteit: ProWAFT bereikt de beste afruil. Vergeleken met Static-TMR verbetert het de genormaliseerde throughput met 45,9% (0,61 naar 0,89) en vermindert het de energie met 30,3% (302,5 J naar 210,7 J) terwijl een hoge succesratio (98,8%) behouden blijft. Vergeleken met Reactive-Reconfig vermindert het de composite cost met 30,8% (0,78 naar 0,54).
Adaptiviteit: Het systeem past het TMR-gebruik dynamisch aan van 12,3% (Laag Risico) tot 95,2% (Kritieke Workloads) op basis van realtime foutrisico en workload-kritikaliteit.
Overhead:
- Beslissingsoverhead: Het online beslissingsproces duurt 0,50 ms (0,13 mJ).
- Proactief vs. Reactief: De totale proactieve overhead (beslissing + PR) voor single-partition updates is 4,70 ms, wat 3,3× lager is dan de reactieve hersteloverhead (15,30 ms).
Componentbijdrage: Ablatie-studies bevestigen dat het verwijderen van WCS, het propagatiemodel, of de beleidslogica leidt tot een 13–22% toename in de composite cost, wat de noodzaak van elk onderdeel valideert.

5. Betekenis en Claims

Het artikel claimt dat ProWAFT de mismatch tussen statische beschermingsstrategieën en de dynamische aard van edge-inferentie workloads en foutomgevingen aanpakt. Door betrouwbaarheid te behandelen als een runtime-beslissing in plaats van een eenmalige ontwerpkeuze, minimaliseert ProWAFT een samengesteld objectief dat loopt van prestaties en energie tot betrouwbaarheidsrisico.

De auteurs stellen dat ProWAFT een superieure prestatie-energie-betrouwbaarheid afruil bereikt vergeleken met statische en reactieve baselines, met een lage online beslissingsoverhead en gekwantificeerde reconfiguratiekosten. Ze merken op dat hoewel de huidige implementatie gebruikmaakt van software-gebaseerde foutinjectie voor gecontroleerde evaluatie, toekomstig werk gericht is op het valideren van de aanpak onder fysieke foutcampagnes (bijv. straling en thermische stress) en het uitbreiden van het framework naar grotere accelerator-bibliotheken.