Trustworthy AI-based crack-tip segmentation using domain-guided explanations

Résumé Technique : Segmentation de la pointe de fissure basée sur l'IA de confiance utilisant des explications guidées par le domaine

Énoncé du problème
Les modèles d'apprentissage profond (DL), particulièrement dans les applications scientifiques à enjeux élevés comme la mécanique de la rupture, sont confrontés au défi de la « boîte noire » où leur manque d'interprétabilité compromet la confiance et la fiabilité. Bien que les méthodes d'IA explicable (XAI) post-hoc, telles que la Class Activation Mapping (CAM), offrent un aperçu des décisions du modèle, elles produisent souvent des explications trompeuses, infidèles au modèle sous-jacent ou incohérentes selon les méthodes. De plus, les approches existantes visant à intégrer les explications dans l'entraînement (par exemple, l'Apprentissage par Auto-Explication) reposent souvent sur des modèles critiques secondaires ou sur le feedback humain, ce qui peut être fastidieux, chronophage et ne parvient pas à incorporer explicitement les connaissances de domaine établies. Dans le contexte spécifique de la segmentation de la pointe de fissure dans les données de Corrélation d'Images Numériques (DIC), les modèles peuvent apprendre à se concentrer sur des artefacts physiquement non pertinents (par exemple, le bruit près du chemin de la fissure) plutôt que sur les champs de contraintes sous-jacents, conduisant à une faible généralisation sur des données hors distribution.

Méthodologie
Les auteurs proposent l'Attention-Guided Training (AGT), un cadre qui intègre des techniques de XAI fidèles, des métriques d'évaluation quantitatives et des priors spécifiques au domaine directement dans la boucle d'entraînement du modèle. La méthodologie se déroule en trois étapes principales :

1. Sélection de la méthode XAI et évaluation quantitative :
   Les auteurs adaptent d'abord les méthodes basées sur CAM pour les tâches de segmentation sémantique. Ils évaluent systématiquement diverses techniques basées sur le gradient (ex: Grad-CAM, Grad-CAM++) et sans gradient (ex: Score-CAM, Eigen-CAM) en utilisant quatre critères objectifs proposés par Nauta et al. [29] :

• Correctness (Fidélité) : À quel point l'explication reflète le comportement réel du modèle.
• Completeness (Complétude) : La mesure dans laquelle l'explication couvre les caractéristiques pertinentes.
• Continuity (Continuité) : La stabilité des explications sous de petites perturbations de l'entrée.
• Compactness (Compacité) : La taille de la région d'explication.
  À travers cette évaluation, Grad-CAM++ appliqué aux couches de l'encodeur a été identifié comme la méthode la plus appropriée pour la tâche de segmentation de la pointe de fissure.

2. Intégration des connaissances du domaine :
   Au lieu de s'appuyer sur l'annotation humaine ou des modèles critiques non vérifiés, l'AGT utilise des connaissances analytiques du domaine comme cible pour l'attention du modèle. Spécifiquement, les auteurs utilisent l'expansion de la série de Williams [35], une solution théorique pour les champs de contrainte et de déplacement près d'une pointe de fissure en mécanique de la rupture élastique linéaire. À partir des données de déplacement DIC, ils calculent le champ de contrainte équivalent de von Mises. Ce champ de contrainte théorique sert d'« explication cible » ($\hat{\Phi}$).

3. Le processus d'entraînement AGT :
   L'entraînement utilise une approche en deux phases :

• Phase 1 (Pré-entraînement) : Une approche de DL standard utilisant uniquement la perte de prédiction (perte Dice) pour s'assurer que le modèle apprend la tâche de segmentation et produit des explications initiales significatives.
• Phase 2 (Guidée par l'attention) : Une fonction de perte conjointe est introduite pour aligner l'attention du modèle avec la cible guidée par le domaine. La perte totale ($L_{total}$) est définie par :
  $$L_{total} = \text{Dice}(y, \hat{y}) + \lambda \cdot SC(\Phi, \hat{\Phi})$$
  Où $y$ et $\hat{y}$ sont les prédictions et la vérité terrain, $\Phi$ est l'explication Grad-CAM++ actuelle, $\hat{\Phi}$ est l'explication cible du champ de contrainte, et $SC$ est la similitude cosinus. L'hyperparamètre $\lambda$ équilibre les deux termes.

Principales contributions

• Développement de cadre : Introduction de l'AGT, un cadre qui déplace la XAI d'un outil d'interprétabilité post-hoc vers une composante active du processus d'entraînement, guidée par les lois physiques plutôt que par de simples motifs de données.
• Évaluation quantitative de la XAI : Démonstration que les explications post-hoc pour les modèles de segmentation varient considérablement en qualité et que des métriques objectives rigoureuses sont nécessaires pour sélectionner la méthode la plus fidèle (identifiant Grad-CAM++ comme optimale pour cette tâche).
• Attention guidée par le domaine : Formulation explicite d'un terme de perte qui pénalise les écarts entre l'attention du modèle et les champs de contrainte physiquement significatifs (solution de Williams), garantissant que le modèle se concentre sur des régions de pertinence mécanique élevée.
• Analyse comparative : Une comparaison systématique de l'AGT utilisant des cibles physiques (Binary Williams, Gradual Williams) versus des cibles non physiques/trompeuses (cartes d'attention placées aléatoirement) et une référence non guidée standard.

Résultats
L'étude a été validée sur la segmentation de la pointe de fissure dans des données DIC issues d'expériences de croissance de fissures par fatigue.

• Performance prédictive : Les modèles entraînés avec des cibles d'attention physiques (BW et GW) ont obtenu des pertes Dice de validation significativement plus faibles (moyenne $\approx 0,67$) par rapport aux cibles non physiques et à la référence non guidée (moyenne $\ge 0,70$).
• Généralisation et fiabilité : Sur des ensembles de données hors distribution (spécifiquement $S950,1.6$), la stratégie Binary Williams (BW) a démontré une fiabilité supérieure (94 % de prédictions valides) par rapport à toutes les autres stratégies (max 86 %). Cela indique qu'aligner l'attention sur les champs de contrainte physiques renforce la robustesse face aux changements de distribution.
• Fidélité de l'explication : Les métriques quantitatives ont montré que les stratégies AGT physiques améliorent la correction (fidélité) des explications (valeurs AUC plus faibles), tandis que les stratégies non physiques dégradent la qualité de l'explication. La base non guidée n'a montré aucun changement de correction sur des époques étendues, confirmant que les améliorations étaient dues au guidage par l'attention et non simplement à des époques supplémentaires.
• Sensibilité aux hyperparamètres : Des tests empiriques ont identifié une plage optimale pour $\lambda$ entre 0,5 et 3. Les valeurs trop élevées provoquaient une sur-correction et une perte de caractéristiques saillantes, tandis que les valeurs trop faibles avaient un effet insuffisant.

Signification et affirmations
L'article affirme que l'AGT répond avec succès au compromis entre la précision du modèle et l'interprétabilité dans l'apprentissage automatique scientifique. En ancrant le processus d'entraînement aux théories physiques établies (série de Williams), le cadre garantit que les modèles d'apprentissage profond ne se contentent pas de prédire avec précision, mais « pensent » de manière cohérente avec les experts du domaine. Cela conduit à des modèles plus robustes, dignes de confiance et généralisables, particulièrement dans des scénarios où les données sont bruitées ou rares.

Les auteurs soulignent que cette approche déplace la XAI au-delà de la simple visualisation ; elle devient un mécanisme pour injecter des connaissances d'expert dans le processus d'apprentissage. Ils reconnaissent que trouver des priors de domaine appropriés qui peuvent être formulés mathématiquement pour le guidage de l'attention est un défi important, mais lorsqu'ils sont applicables, l'AGT offre une voie fondée sur des principes vers une IA de confiance en mécanique de la rupture et potentiellement dans d'autres domaines scientifiques. Le travail ne prétend pas résoudre tous les problèmes de la XAI, mais fournit une voie spécifique et validée pour intégrer des contraintes physiques dans l'entraînement du deep learning afin d'améliorer à la fois la performance et l'explicabilité.