Towards Dys-XAI: Influence-Based Explanations for Dysarthria Severity Assessment

Resumo Técnico: Rumo à Dys-XAI: Explicações Baseadas em Influência para a Avaliação da Gravidade da Disartria

Problema
A avaliação da gravidade da disartria é crítica para o planejamento terapêutico clínico e o monitoramento longitudinal, mas atualmente depende de uma classificação perceptiva manual, que é demorada e sofre com a variabilidade entre avaliadores. Embora modelos de aprendizado profundo tenham alcançado desempenho comparável às classificações de especialistas em conjuntos de dados públicos, sua natureza de "caixa-preta" dificulta a adoção clínica. Os métodos de XAI (IA Explicável) existentes para fala, como atribuição de características (ex: SHAP, LIME) ou visualizações de atenção, tipicamente geram escores de importância de características acústicas ou mapas de calor de espectrogramas. Os autores argumentam que estes são insuficientes para a utilidade clínica porque:

1. Eles são locais e ao nível da emissão (utterance-level), falhando em capturar a natureza ordinal dos rótulos de gravidade (onde categorias adjacentes representam diferenças incrementais em vez de classes nominais).
2. Eles dependem de descritores acústicos projetados ou regiões tempo-frequência que são difíceis de traduzir para os construtos perceptivos (ex: precisão de consoantes, soprosidade) usados no raciocínio clínico.

Metodologia
O artigo propõe a Dys-XAI, um framework de explicabilidade baseado em influência e ao nível da instância, que desloca a perspectiva da explicação das características acústicas para as instâncias de treinamento. Em vez de perguntar quais características foram importantes, o framework pergunta quais amostras de treinamento exerceram influência de suporte ou de oposição a uma previsão específica.

• Formulação da Tarefa: A tarefa é definida como uma classificação ordinal de 4 classes (Típica, Leve, Moderada, Severa) utilizando o conjunto de dados TORGO.
• Computação de Influência ao Nível da Instância: Os autores empregam um método de estimativa de influência baseado em gradiente. Ao rastrear checkpoints $\{\theta_1, \dots, \theta_M\}$ salvos durante o treinamento, eles computam a influência de uma amostra de treinamento $x_i$ sobre uma amostra de teste $x_t$ como o produto interno cumulativo de seus gradientes:
  $$I_{i \to t} = \sum_{m=1}^{M} \nabla_\theta \ell(f_{\theta_m}(x_t), y_t)^\top \nabla_\theta \ell(f_{\theta_m}(x_i), y_i)$$
  Um produto interno positivo indica influência de suporte (treinar em $x_i$ reduz a perda em $x_t$), enquanto um produto negativo indica influência de contraposição.
• Estratégias de Agregação:
  1. Agregação ao Nível da Classe: Os escores de influência são agregados pelos rótulos de gravidade reais das amostras de teste para quantificar contribuições de suporte vs. competição através da escala ordinal. Isso produz uma matriz de influência $4 \times 4$ ($S_{c \leftarrow c'}$) mostrando como as amostras de treinamento de gravidade $c'$ influenciam as previsões para a gravidade $c$.
  2. Sensibilidade Ordinal do Modelo: A influência é agregada pela distância ordinal ($d = |c - c'|$) para avaliar se o modelo respeita a estrutura ordinal (ou seja, se a influência decai conforme a distância entre os níveis de gravidade aumenta).
• Validação: O framework é validado via experimentos de exclusão controlada. Os autores removem seletivamente amostras de treinamento de alta ou baixa influência (5–20%) e retreinam o modelo para observar mudanças sistemáticas nas previsões.

Principais Resultados

• Validação dos Escores de Influência: Experimentos de exclusão controlada confirmaram a fidelidade dos escores de influência.
  • Remoção de Alta Influência: Remover as 20% superiores de amostras altamente influentes causou uma degradação severa no desempenho (ex: a acurácia para a gravidade Moderada caiu de 36,8% para 0,3%; Severa de 72,3% para 43,1%).
  • Remoção de Baixa Influência: Remover as 20% inferiores de amostras (baixa influência) melhorou o desempenho, particularmente para classes ambíguas (a acurácia de Leve triplicou de 5,5% para 17,6%), sugerindo que essas amostras continham ruído ou dados rotulados incorretamente.
• Padrões de Influência Cruzada entre Gravidades: A matriz de influência ao nível da classe revelou uma estrutura de dois níveis:
  • Distinção Binária: A fala Típica é isolada; ela recebe influência positiva apenas de outras amostras típicas e influência negativa de todos os níveis de disartria.
  • Graduação Ordinal: Os níveis de disartria (Leve, Moderada, Severa) exibem influência positiva mútua, indicando que o modelo reconhece características acústicas compartilhadas através do contínuo disártrico.
• Sensibilidade Ordinal: A influência média $\bar{S}(d)$ diminuiu monotonicamente com a distância ordinal ($d$). A influência de mesmo nível foi 13 vezes mais forte que a de nível adjacente, e a influência tornou-se negativa para níveis distantes ($d \ge 2$), confirmando que o modelo codifica a gravidade como um contínuo ordenado em vez de categorias nominais.
• Estudo de Caso & Auditoria de Dataset: Em uma comparação qualitativa, o método proposto forneceu referências de áudio ranqueadas, enquanto o SHAP forneceu escores de descritores acústicos interpretáveis. Notavelmente, o ranking de influência identificou que gravações "quase silenciosas" de falantes severos estavam entre as amostras mais influentes para previsões severas. Isso revelou uma associação espúria aprendida pelo modelo (silêncio $\to$ severo), demonstrando a utilidade do framework para auditoria de datasets.

Significância e Alegações
O artigo afirma que a Dys-XAI fornece explicações auditáveis ao vincular as decisões do modelo a casos de referência perceptíveis (gravações de áudio) em vez de escores de características abstratas. Isso se alinha ao raciocínio clínico, onde os julgamentos são frequentemente justificados pela comparação com exemplos prototípicos.

Os autores enfatizam que esta abordagem:

1. Lida explicitamente com a ordinalidade: Ao agregar a influência pelo rótulo de gravidade, o framework expõe evidências relacionais entre níveis de gravidade adjacentes e distantes.
2. Permite a Verificação Perceptiva: Clínicos podem ouvir diretamente as amostras de treinamento de suporte e de competição para verificar se a decisão do modelo se alinha com marcadores clínicos.
3. Identifica Problemas de Dados: O framework serve como uma ferramenta para auditoria de datasets, capaz de revelar correlações espúrias (ex: silêncio associado à gravidade) que métodos baseados em características poderiam perder.

O trabalho é apresentado como um passo para diminuir a lacuna entre modelos de aprendizado profundo de alto desempenho e a transparência necessária para a implementação clínica na avaliação da disartria.