Trustworthy AI-based crack-tip segmentation using domain-guided explanations

Resumen Técnico: Segmentación del Frente de Grieta Basada en IA Confiable mediante Explicaciones Guiadas por el Dominio

Planteamiento del Problema
Los modelos de aprendizaje profundo (DL), particularmente en aplicaciones científicas de alto riesgo como la mecánica de fractura, enfrentan un desafío de "caja negra" donde su falta de interpretabilidad socava la confianza y la fiabilidad. Aunque los métodos de IA explicable (XAI) post-hoc, como el Mapeo de Activación de Clases (CAM), ofrecen información sobre las decisiones del modelo, a menudo producen explicaciones que son engañosas, infieles al modelo subyacente o inconsistentes entre diferentes métodos. Además, los enfoques existentes para integrar explicaciones en el entrenamiento (por ejemplo, Aprendizaje mediante Autoexplicación) suelen depender de modelos críticos secundarios o de la retroalimentación humana, lo cual puede ser tedioso, lento y no logra incorporar explícitamente el conocimiento establecido del dominio. En el contexto específico de la segmentación del frente de grieta en datos de Correlación de Imágenes Digitales (DIC), los modelos pueden aprender a centrarse en artefactos físicamente irrelevantes (por ejemplo, ruido cerca de la trayectoria de la grieta) en lugar de los campos de esfuerzo subyacentes, lo que conduce a una pobre generalización en datos fuera de la distribución.

Metodología
Los autores proponen el Entrenamiento Guiado por Atención (AGT), un marco que integra técnicas de XAI fieles, métricas de evaluación cuantitativa y prioridades específicas del dominio directamente en el bucle de entrenamiento del modelo. La metodología procede en tres etapas principales:

1. Selección de Métodos de XAI y Evaluación Cuantitativa:
   Los autores adaptan primero los métodos basados en CAM para tareas de segmentación semántica. Evalúan sistemáticamente diversas técnicas basadas en gradientes (por ejemplo, Grad-CAM, Grad-CAM++) y sin gradientes (por ejemplo, Score-CAM, Eigen-CAM) utilizando cuatro criterios objetivos propuestos por Nauta et al. [29]:

   • Corrección (Fidelidad): Qué tan bien la explicación refleja el comportamiento real del modelo.
   • Completitud: El alcance con el que la explicación cubre las características relevantes.
   • Continuidad: La estabilidad de las explicaciones bajo pequeñas perturbaciones de la entrada.
   • Compacidad: El tamaño de la región de la explicación.
     A través de esta evaluación, se identificó que Grad-CAM++ aplicado a las capas del codificador es el método más adecuado para la tarea de segmentación del frente de grieta.

2. Integración del Conocimiento del Dominio:
   En lugar de depender de la anotación humana o de modelos críticos no verificados, el AGT utiliza el conocimiento analítico del dominio como el objetivo para la atención del modelo. Específicamente, los autores utilizan la expansión de la serie de Williams [35], una solución teórica para los campos de esfuerzo y desplazamiento cerca de la punta de una grieta en la mecánica de fractura elástica lineal. A partir de los datos de desplazamiento de DIC, calculan el campo de esfuerzo equivalente de von Mises. Este campo de esfuerzo teórico sirve como la "explicación objetivo" ($\hat{\Phi}$).

3. El Proceso de Entrenamiento AGT:
   El entrenamiento utiliza un enfoque de dos fases:

   • Fase 1 (Preentrenamiento): Un enfoque de DL estándar utilizando solo la pérdida de predicción (pérdida Dice) para asegurar que el modelo aprenda la tarea de segmentación y produzca explicaciones iniciales significativas.
   • Fase 2 (Guiada por Atención): Se introduce una función de pérdida conjunta para alinear la atención del modelo con el objetivo guiado por el dominio. La pérdida total ($L_{total}$) se define como:
     $$L_{total} = \text{Dice}(y, \hat{y}) + \lambda \cdot SC(\Phi, \hat{\Phi})$$
     Donde $y$ y $\hat{y}$ son la predicción y la verdad de campo (ground truth), $\Phi$ es la explicación actual de Grad-CAM++ y $\hat{\Phi}$ es la explicación del campo de esfuerzo objetivo, y $SC$ es la similitud de coseno. El hiperparámetro $\lambda$ equilibra ambos términos.

Contribuciones Clave

• Desarrollo de Marco de Trabajo: Introducción de AGT, un marco que mueve la XAI de una herramienta de interpretabilidad post-hoc a un componente activo del proceso de entrenamiento, guiado por leyes físicas en lugar de solo patrones de datos.
• Evaluación Cuantitativa de XAI: Demostración de que las explicaciones post-hoc para modelos de segmentación varían significativamente en calidad y que son necesarias métricas objetivas y rigurosas para seleccionar el método más fiel (identificando a Grad-CAM++ como el óptimo para esta tarea).
• Atención Guiada por el Dominio: La formulación explícita de un término de pérdida que penaliza las desviaciones entre la atención del modelo y los campos de esfuerzo físicamente significativos (solución de Williams), asegurando que el modelo se centre en regiones de alta relevancia mecánica.
• Análisis Comparativo: Una comparación sistemática de AGT utilizando objetivos físicos (Williams Binario, Williams Gradual) frente a objetivos no físicos/engañosos (mapas de atención colocados aleatoriamente) y una línea base no guiada estándar.

Resultados
El estudio fue validado en la segmentación del frente de grieta en datos de DIC de experimentos de crecimiento de grietas por fatiga.

• Rendimiento Predictivo: Los modelos entrenados con objetivos de atención física (BW y GW) lograron pérdidas Dice de validación significativamente menores (media $\approx 0.67$) en comparación con los objetivos no físicos y la referencia no guiada (media $\ge 0.70$).
• Generalización y Fiabilidad: En conjuntos de datos fuera de la distribución (específicamente $S950,1.6$), la estrategia de Williams Binario (BW) demostró una fiabilidad superior (94% de predicciones válidas) en comparación con todas las demás estrategias (máximo 86%). Esto indica que alinear la atención con los campos de esfuerzo físicos mejora la robustez contra los cambios de distribución.
• Fidelidad de la Explicación: Las métricas cuantitativas mostraron que las estrategias de AGT físicas mejoraron la corrección (fidelidad) de las explicaciones (valores de AUC más bajos), mientras que las estrategias no físicas degradaron la calidad de la explicación. La línea base no guiada no mostró cambios en la corrección durante el entrenamiento extendido, confirmando que las mejoras se debieron a la guía de atención y no solo a épocas adicionales.
• Sensibilidad de Hiperparámetros: Las pruebas empíricas identificaron un rango óptimo para $\lambda$ entre 0.5 y 3. Los valores demasiado altos causaron una sobrecorrección y pérdida de características salientes, mientras que los valores demasiado bajos tuvieron un efecto insuficiente.

Significado y Reivindicaciones
El artículo afirma que el AGT aborda con éxito la compensación entre la precisión del modelo y la interpretabilidad en el aprendizaje automático científico. Al anclar el proceso de entrenamiento a teorías físicas establecidas (serie de Williams), el marco asegura que los modelos de aprendizaje profundo no solo predigan con precisión, sino que también "piensen" de maneras consistentes con los expertos del dominio. Esto conduce a modelos que son más robustos, confiables y generalizables, particularmente en escenarios donde los datos son ruidosos o escasos.

Los autores enfatizan que este enfoque lleva a la XAI más allá de la mera visualización; se convierte en un mecanismo para inyectar conocimiento experto en el proceso de aprendizaje. Reconocen que encontrar prioridades del dominio adecuadas que puedan formularse matemáticamente para la guía de la atención es un desafío significativo, pero donde es aplicable, el AGT ofrece un camino principista hacia una IA confiable en la mecánica de la fractura y potencialmente en otros dominios científicos. El trabajo no pretende resolver todos los problemas de la XAI, sino que proporciona un camino específico y validado para integrar restricciones físicas en el entrenamiento de aprendizaje profundo para mejorar tanto el rendimiento como la explicabilidad.