Distilled Edge Intelligence for Bolt Defect Detection in Communication Towers

Résumé technique : Intelligence de bord distillée pour la détection de défauts de boulons dans les tours de communication

Énoncé du problème
L'article traite du défi que représente le déploiement de modèles d'apprentissage profond de haute précision pour la détection de défauts de boulons (spécifiquement le desserrage et la corrosion) sur des dispositifs de bord (edge) aux ressources limitées, situés sur des sites de tours de communication. Un arbitrage fondamental existe entre la précision et l'efficacité : les modèles côté cloud offrent une détection fiable mais entraînent des coûts de latence de transmission et de bande passante prohibitifs, tandis que les modèles légers de bord réduisent la consommation de ressources mais souffrent souvent d'un faible rappel sur les classes minoritaires (boulons desserrés et corrodés), qui sont critiques pour la sécurité. De plus, les jeux de données collectés sur le terrain présentent un déséquilibre de classe extrême (dominés par des échantillons normaux), et les défauts présentent des motifs visuellement hétérogènes (déformation géométrique pour le desserrage versus changements de texture pour la corrosion) qu'il est difficile de capturer avec une seule modalité d'imagerie.

Méthodologie
Les auteurs proposent un cadre d'intelligence de bord distillée qui intègre la perception de haute précision côté cloud avec l'inférence légère côté bord via trois composantes centrales :

1. Modèle enseignant à double flux hétérogène :

   • Un modèle enseignant basé sur le cloud ($M_t$) utilise une architecture à double flux fusionnant la texture RGB et la géométrie de profondeur monoculaire. Les cartes de profondeur sont générées à partir d'images RGB uniques à l'aide d'un modèle de fondation pré-entraîné (Depth Anything), évitant ainsi le besoin de capteurs de profondeur dédiés.
   • Pour gérer le déséquilibre extrême des classes, l'enseignant est entraîné avec une perte focale sensible aux défauts (defect-aware focal loss) qui amplifie le poids de la classe « Desserré » (Loose) et emploie des seuils de décision spécifiques à chaque classe.

2. Stratégie d'entraînement en deux phases pour le modèle étudiant :

   • Phase 0 (Sélection de l'architecture) : Une architecture étudiante légère ($M_s$) est sélectionnée parmi une famille de candidats (par exemple, des variantes de MobileNetV2) sur la base de budgets de ressources stricts (paramètres, FLOPs et stockage) avant le début de l'entraînement. Dans les expériences, MobileNetV2-0.5× a été sélectionné pour s'adapter à un nœud de bord fonctionnant uniquement sur CPU.
   • Phase 1 (Distillation de connaissances) : L'étudiant est entraîné en utilisant une distillation basée sur les logits (au niveau de la réponse) plutôt qu'une distillation au niveau des caractéristiques (feature-level). Les auteurs ont constaté empiriquement que la distillation au niveau des caractéristiques dégradait le rappel des classes minoritaires car les caractéristiques intermédiaires de l'enseignant étaient dominées par la classe majoritaire « Normal », renforçant ainsi le biais. Au lieu de cela, l'étudiant apprend des prédictions de logits adoucies de l'enseignant ($T^2$ scalées) combinées à une perte focale, récupérant efficacement la capacité de reconnaissance des défauts de l'enseignant pour une fraction de son coût computationnel.

3. Inférence collaborative bord-cloud sensible à la confiance :

   • Le système utilise une politique de déchargement (offloading) asymétrique. Le modèle de bord agit comme un « filtre conservateur d'échantillons normaux ».
   • Traitement local : Si le modèle de bord prédit « Normal » avec une confiance élevée (supérieure à un seuil $\tau$), l'échantillon est résolu localement.
   • Déchargement vers le cloud : Si la prédiction est « Desserré » ou « Corrodé », ou si la confiance pour « Normal » est faible, l'échantillon est déchargé vers le cloud pour vérification par le modèle enseignant.
   • Ce mécanisme est régi par un processus de sélection de seuil sous contrainte de risque qui optimise la latence tout en imposant une contrainte stricte sur le rappel minimal des défauts ($R_{min}$).

Contributions clés

1. Intégration du cadre : Un cadre unifié combinant la perception de haute précision côté cloud avec l'inférence légère côté bord, spécifiquement pour l'inspection des boulons de tours de communication.
2. Entraînement en deux phases : Une stratégie qui découple la satisfaction des contraintes de ressources structurelles (sélection de l'architecture) de l'optimisation des performances (distillation de connaissances), en utilisant la distillation basée sur les logits pour améliorer le rappel des classes minoritaires sans alignement au niveau des caractéristiques.
3. Collaboration sensible au risque : Un mécanisme d'inférence sensible à la confiance qui traite le modèle de bord comme un filtre pour les échantillons normaux, déchargeant uniquement les échantillons incertains ou potentiellement défectueux vers le cloud pour équilibrer l'utilisation de la bande passante avec la fiabilité de la détection critique pour la sécurité.

Résultats expérimentaux
Des expériences ont été menées sur un jeu de données collecté sur le terrain comprenant 3 886 images (75 % Normal, 9,5 % Desserré, 13,5 % Corrodé).

• Performance de l'enseignant : Le modèle enseignant à double flux a atteint une précision équilibrée de 0,9308 et un rappel de la corrosion de 0,988, gérant efficacement le déséquilibre des classes.
• Efficacité de la distillation : La distillation basée sur les logits a considérablement amélioré le modèle étudiant. Le rappel pour la classe « Desserré » est passé de 0,365 (étudiant non distillé) à 0,692 (+32,7 points de pourcentage), et la précision équilibrée est passée de 0,618 à 0,735.
• Efficacité de bord : Le modèle étudiant distillé (MobileNetV2-0.5×) a atteint 56,8 FPS sur un nœud de bord doté uniquement d'un CPU (incluant l'estimation de la profondeur), satisfaisant les exigences de temps réel.
• Performance collaborative :
  • À un point de fonctionnement équilibré ($\tau=0,75$), le système a atteint une précision équilibrée de 0,923 (seulement 0,8 pp en dessous du mode cloud uniquement) tout en réduisant le ratio de téléchargement vers le cloud à 80,8 % et la latence à 48,48 ms.
  • À un point priorisant la sécurité ($\tau=0,90$), le système a atteint zéro fuite de défaut locale (aucun faux négatif résolu au niveau du bord) avec un ratio de téléchargement de 98,7 %, égalant presque les performances du mode cloud uniquement.

Signification et affirmations
L'article affirme que le cadre proposé navigue efficacement l'arbitrage précision–latence–bande passante inhérent à l'inspection des tours par le bord. En utilisant un modèle distillé léger comme filtre conservateur, le système atteint une précision de détection proche de celle du cloud tout en réduisant considérablement la transmission de données inutiles. Les auteurs soulignent que cette approche est particulièrement adaptée aux tâches critiques pour la sécurité où les faux négatifs sont inacceptables, démontant que la combinaison de la distillation de connaissances et de la collaboration bord-cloud sensible à la confiance est une solution viable pour le déploiement d'une inspection visuelle de haute précision sur des dispositifs de bord aux ressources limitées. L'étude ne prétend pas résoudre tous les défis de l'informatique de bord, mais cible spécifiquement l'écart précision-efficacité dans le cadre de la surveillance de la santé structurelle sous un déséquilibre de classe extrême.