Trustworthy AI-based crack-tip segmentation using domain-guided explanations

Resumo Técnico: Segmentação de Ponta de Trinca Baseada em IA Confiável com Explicações Guiadas pelo Domínio

Definição do Problema
Modelos de aprendizado profundo (DL), particularmente em aplicações científicas de alto risco como a mecânica da fratura, enfrentam um desafio de "caixa-preta", onde a falta de interpretabilidade compromete a confiança e a confiabilidade. Embora métodos de IA Explicável (XAI) post-hoc, como o Class Activation Mapping (CAM), ofereçam insights sobre as decisões do modelo, eles frequentemente produzem explicações que são enganosas, infiéis ao modelo subjacente ou inconsistentes entre diferentes métodos. Além disso, abordagens existentes para integrar explicações ao treinamento (por exemplo, Aprendizado por Autoexplicação) frequentemente dependem de modelos críticos secundários ou feedback humano, o que pode ser tedioso, demorado e falhar em incorporar explicitamente o conhecimento estabelecido do domínio. No contexto específico da segmentação de ponta de trinca em dados de Correlação de Imagem Digital (DIC), os modelos podem aprender a focar em artefatos irrelevantes para a física (ex: ruído próximo ao caminho da trinca) em vez dos campos de tensão subjacentes, levando a uma generalização deficiente em dados fora da distribuição (out-of-distribution).

Metodologia
Os autores propõem o Treinamento Guiado por Atenção (AGT), um framework que integra técnicas de XAI fiéis, métricas de avaliação quantitativa e priors específicos do domínio diretamente no ciclo de treinamento do modelo. A metodologia procede em três estágios principais:

1. Seleção de Método XAI e Avaliação Quantitativa:
   Os autores primeiro adaptam métodos baseados em CAM para tarefas de segmentação semântica. Eles avaliam sistematicamente várias técnicas baseadas em gradiente (ex: Grad-CAM, Grad-CAM++) e livres de gradiente (ex: Score-CAM, Eigen-CAM) usando quatro critérios objetivos propostos por Nauta et al. [29]:

   • Corretude (Fidelidade): O quanto a explicação reflete o verdadeiro comportamento do modelo.
   • Completude: A extensão em que a explicação cobre características relevantes.
   • Continuidade: Estabilidade das explicações sob pequenas perturbações de entrada.
   • Compacidade: O tamanho da região de explicação.
     Através desta avaliação, o Grad-CAM++ aplicado às camadas do codificador foi identificado como o método mais adequado para a tarefa de segmentação de ponta de trinca.

2. Integração de Conhecimento do Domínio:
   Em vez de depender de anotação humana ou modelos críticos não verificados, o AGT utiliza conhecimento analítico do domínio como o alvo da atenção do modelo. Especificamente, os autores utilizam a expansão em série de Williams [35], uma solução teórica para os campos de tensão e deslocamento próximos a uma ponta de trinca na mecânica da fratura elástica linear. A partir dos dados de deslocamento DIC, eles computam o campo de tensão equivalente de von Mises. Este campo de tensão teórico serve como a "explicação alvo" ($\hat{\Phi}$).

3. O Processo de Treinamento AGT:
   O treinamento utiliza uma abordagem de duas fases:

   • Fase 1 (Pré-treinamento): Uma abordagem padrão de DL usando apenas a perda de predição (perda Dice) para garantir que o modelo aprenda a tarefa de segmentação e produza explicações iniciais significativas.
   • Fase 2 (Guiada por Atenção): Uma função de perda conjunta é introduzida para alinhar a atenção do modelo com o alvo guiado pelo domínio. A perda total ($L_{total}$) é definida como:
     $$L_{total} = \text{Dice}(y, \hat{y}) + \lambda \cdot SC(\Phi, \hat{\Phi})$$
     Onde $y$ e $\hat{y}$ são predições e o ground truth, $\Phi$ é a explicação Grad-CAM++ atual, $\hat{\Phi}$ é a explicação do campo de tensão alvo, e $SC$ é a similaridade de cosseno. O hiperparâmetro $\lambda$ equilibra os dois termos.

Principais Contribuições

• Desenvolvimento de Framework: Introdução do AGT, um framework que move a XAI de uma ferramenta de interpretabilidade post-hoc para um componente ativo do processo de treinamento, guiado por leis físicas em vez de apenas padrões de dados.
• Avaliação Quantitativa de XAI: Demonstração de que as explicações post-hoc para modelos de segmentação variam significativamente em qualidade e que métricas objetivas e rigorosas são necessárias para selecionar o método mais fiel (identificando o Grad-CAM++ como ideal para esta tarefa).
• Atenção Guiada pelo Domínio: A formulação explícita de um termo de perda que penaliza desvios entre a atenção do modelo e campos de tensão fisicamente significativos (solução de Williams), garantindo que o modelo foque em regiões de relevância mecânica elevada.
• Análise Comparativa: Uma comparação sistemática do AGT utilizando alvos físicos (Binary Williams, Gradual Williams) versus alvos não físicos/enganosos (mapas de atenção posicionados aleatoriamente) e um baseline não guiado padrão.

Resultos
O estudo foi validado na segmentação de ponta de trinca em dados de DIC de experimentos de crescimento de trinca por fadiga.

• Desempenho Preditivo: Modelos treinados com alvos de atenção físicos (BW e GW) alcançaram perdas Dice de validação significativamente menores (média $\approx 0.67$) em comparação com alvos não físicos e a referência não guiada (média $\ge 0.70$).
• Generalização e Confiabilidade: Em conjuntos de dados fora da distribuição (especificamente $S950,1.6$), a estratégia Binary Williams (BW) demonstrou superioridade de confiabilidade (94% de predições válidas) em comparação com todas as outras estratégias (máximo de 8% de erro/86% de sucesso). Isso indica que o alinhamento da atenção com campos de tensão físicos aumenta a robustez contra mudanças de distribuição.
• Fidelidade da Explicação: Métricas quantitativas mostraram que as estratégias de AGT físico melhoraram a corretude (fidelidade) das explicações (valores de AUC menores), enquanto estratégias não físicas degradaram a qualidade da explicação. O baseline não guiado não mostrou mudança na corretude ao longo do treinamento estendido, confirmando que as melhorias foram devidas à orientação pela atenção, e não apenas a mais épocas de treino.
• Sensibilidade ao Hiperparâmetro: Testes empíricos identificaram um intervalo ideal para $\lambda$ entre 0,5 e 3. Valores muito altos causaram correção excessiva e perda de características salientes, enquanto valores muito baixos tiveram efeito insuficiente.

Significância e Alegações
O artigo afirma que o AGT aborda com sucesso o equilíbrio entre a precisão do modelo e a interpretabilidade no aprendizado de máquina científico. Ao ancorar o processo de treinamento em teorias físicas estabelecidas (série de Williams), o framework garante que os modelos de aprendizado profundo não apenas predigam com precisão, mas também "pensem" de maneiras consistentes com especialistas do domínio. Isso leva a modelos que são mais robustos, confiáveis e generalizáveis, particularmente em cenários onde os dados são ruidosos ou escassos.

Os autores enfatizam que esta abordagem move a XAI além da mera visualização; ela se torna um mecanismo para injetar conhecimento especializado no processo de aprendizado. Eles reconhecem que encontrar priors de domínio adequados que possam ser formulados matematicamente para orientação de atenção é um desafio significativo, mas, onde aplicável, o AGT oferece um caminho fundamentado para uma IA confiável na mecânica da fratura e potencialmente em outros domínios científicos. O trabalho não pretende resolver todos os problemas de XAI, mas fornece um caminho específico e validado para integrar restrições físicas no treinamento de aprendizado profundo para aumentar tanto o desempenho quanto a explicabilidade.