Résumé Technique : ProWAFT

1. Énoncé du Problème

Les FPGA basés sur la SRAM offrent une plateforme attractive pour l'inférence de réseaux de neurones convolutifs (CNN) à la périphérie du réseau (edge), où les contraintes d'énergie et de latence sont fortes. Cependant, ils sont vulnérables aux fautes transitoires (par exemple, les Single-Event Upsets ou SEU) qui peuvent corrompre les bits de configuration ou le calcul sur puce, entraînant des erreurs silencieuses lors de l'inférence CNN.

Les stratégies de mitigation existantes font face à un compromis fondamental :

• Redondance Statique (ex: TMR complet) : Améliore la correction mais impose des surcoûts substantiels en termes de performance et d'énergie, ce qui est souvent prohibitif pour les dispositifs de bordure.
• Récupération Réactive : Ne déclenche la reconfiguration qu'après la détection d'une faute. Bien que cela réduise les surcoûts en régime permanent, cela introduit des pics de latence inacceptables sur le chemin critique lorsqu'une faute survient.
• Le Défi Central : L'impact d'une faute est hautement non uniforme. À la fois le risque de faute (variant avec le temps et les conditions opérationnelles) et la sensibilité de la charge de travail (variant selon le type de couche, la précision et le comportement de propagation d'erreur) changent de manière dynamique. Les niveaux de protection statiques supposent un environnement stationnaire et une charge de travail homogène, ce qui n'est pas le cas en pratique.

2. Méthodologie : ProWAFT

ProWAFT (Proactive Workload-Aware Fault Tolerance) est un framework d'exécution conçu pour les accélérateurs CNN sur FPGA. Il utilise la Reconfiguration Partielle (PR) pour appliquer sélectivement la Triple Modular Redundancy (TMR) à travers des partitions reconfigurables en fonction des conditions en temps réel.

Le framework opère via quatre étapes séquentielles :

2.1 Modèle de Système

L'accélérateur est modélisé comme un ensemble de $K$ partitions reconfigurables ($P$). Chaque partition peut être configurée avec des fonctions matérielles issues d'une bibliothèque ($F$) contenant à la fois des variantes de base et des variantes protégées (TMR). Le système traite un flux de charges de travail ($W$), où chaque charge correspond à une couche CNN décrite par un vecteur de caractéristiques (type d'opérateur, forme d'entrée, précision, etc.).

2.2 Score de Criticité de la Charge de Travail (WCS)

ProWAFT quantifie la sensibilité d'une charge de travail spécifique aux fautes matérielles à l'aide d'un Score de Criticité de la Charge de Travail (WCS) :
$$WCS(W_i) = \alpha \cdot S_{data}(W_i) + \beta \cdot S_{control}(W_i) + \gamma \cdot P_{error}(W_i)$$

• $S_{data}$ : Dérivé de l'entropie de la distribution des activations de sortie.
• $S_{control}$ : Indique si les charges de travail sont sur des chemins conditionnels (0 ou 1).
• $P_{error}$ : La probabilité de propagation d'erreur, estimée via une pré-caractérisation légère (ex: injection de faute d'un bit unique).

2.3 Modélisation de la Performance et du Risque Sensible aux Fautes

Pour une configuration candidate, ProWAFT prédit la performance et la fiabilité :

1. Métriques de Base : Calcule la latence sans faute ($T_{base}$) et l'énergie ($E_{base}$) basées sur les opérations, la fréquence d'horloge et les profils de puissance.
2. Modélisation du Risque : Calcule un Score de Risque de Fiabilité (RRS) en combinant la probabilité de faute par partition ($p_{fault}$) estimée avec un Facteur de Propagation de Faute (FPF). Le FPF prend en compte la criticité de la charge de travail, l'utilisation de la partition et le nombre de partitions en aval consommant la sortie.
3. Prédiction Sensible aux Fautes : Ajuste les métriques de base par le RRS pour estimer la latence et l'énergie attendues sous conditions de faute.
4. Surcoût de PR : Modélise explicitement le temps et l'énergie nécessaires pour changer de configuration ($\Delta_{PR}$).

2.4 Politique et Règle de Décision en Ligne

ProWAFT formule la sélection de configuration comme un problème de décision séquentielle. Pour chaque charge de travail entrante, il évalue un ensemble de configurations réalisables pour minimiser un Coût Composite ($C_{total}$) :
$$C_{total} = \eta_T \cdot \tilde{T} + \eta_E \cdot \tilde{E} + \eta_R \cdot RRS + \Delta_{PR}$$
Où $\eta$ représente des poids spécifiques à l'application pour la latence, l'énergie et la fiabilité. Le contrôleur utilise une approche à horizon fuyant (receding-horizon) à faible surcoût pour sélectionner l'action qui minimise l'objectif immédiat plus le surcoût de reconfiguration, sous réserve d'un budget de reconfiguration.

3. Contributions Clés

1. Formulation de Configuration au Runtime : L'article formule la tolérance aux fautes proactive et sensible à la charge de travail comme un problème de configuration au runtime, permettant une TMR sélective via la reconfiguration partielle pour arbitrer explicitement entre latence, énergie et fiabilité.
2. Pile de Modélisation Légère : Introduit une pile de prise de décision comprenant le Score de Criticité de la Charge de Travail (WCS) et une formulation de risque basée sur la propagation des fautes (FPF/RRS), intégrées dans une fonction de coût composite.
3. Implémentation et Évaluation : Implémente ProWAFT sur une plateforme Xilinx Zynq UltraScale+ ZCU104 avec six régions reconfigurables. Il évalue le système sous un modèle d'injection d'SEU variant dans le temps à l'aide d'une trace de charge de travail CNN diversifiée de 500 tâches (ResNet-18, MobileNetV2, EfficientNet-Lite).

4. Résultats Expérimentaux

L'évaluation compare ProWAFT à trois lignes de base : Static-Base (pas de redondance), Static-TMR (toujours redondant) et Reactive-Reconfig (reconfigure uniquement après détection de faute).

• Efficacité Globale : ProWAFT offre le meilleur compromis. Comparé à Static-TMR, il améliore le débit normalisé de 45,9 % (0,61 à 0,89) et réduit l'énergie de 30,3 % (302,5 J à 210,7 J) tout en maintenant un taux de succès élevé (98,8 %). Comparé à Reactive-Reconfig, il réduit le coût composite de 30,8 % (0,78 à 0,54).
• Adaptativité : Le système ajuste dynamiquement l'utilisation de la TMR de 12,3 % (Faible Risque) à 95,2 % (Charges de Travail Critiques) en fonction du risque de faute et de la criticité de la charge en temps réel.
• Surcoût :
  • Surcoût de Décision : Le processus de décision en ligne prend 0,50 ms (0,13 mJ).
  • Proactif vs Réactif : Le surcoût total proactif (décision + PR) pour les mises à jour de partition unique est de 4,70 ms, ce qui est 3,3× inférieur au surcoût de récupération réactive (15,30 ms).
• Contribution des Composants : Les études d'ablation confirment que supprimer le WCS, le modèle de propagation ou la logique de politique entraîne une augmentation de 13 à 22 % du coût composite, validant la nécessité de chaque composant.

5. Signification et Revendications

L'article affirme que ProWAFT répond au décalage entre les stratégies de protection statiques et la nature dynamique des charges de travail d'inférence en périphérie et des environnements de fautes. En traitant la fiabilité comme une décision au runtime plutôt que comme un choix de conception unique, ProWAFT minimise un objectif composite englobant la performance, l'énergie et le risque de faute.

Les auteurs soutiennent que ProWAFT atteint un compromis performance-énergie-fiabilité supérieur par rapport aux lignes de base statiques et réactives, avec un faible surcoût de décision en ligne et des coûts de reconfiguration quantifiés. Ils notent que bien que l'implémentation actuelle utilise une injection de fautes logicielle pour une évaluation contrôlée, les travaux futurs visent à valider l'approche sous des campagnes de fautes physiques (ex: rayonnement et stress thermique) et à étendre le framework à des bibliothèques d'accélérateurs plus larges.