Towards Dys-XAI: Influence-Based Explanations for Dysarthria Severity Assessment

Resumen Técnico: Hacia la Dys-XAI: Explicaciones Basadas en la Influencia para la Evaluación de la Gravedad de la Disartria

Planteamiento del Problema
La evaluación de la gravedad de la disartria es crítica para la planificación de la terapia clínica y el monitoreo longitudinal, pero actualmente depende de la calificación perceptual manual, lo cual consume mucho tiempo y sufre de variabilidad entre evaluadores. Aunque los modelos de aprendizaje profundo han alcanzado un rendimiento comparable a las calificaciones de expertos en conjuntos de datos públicos, su naturaleza de "caja negra" dificulta su adopción clínica. Los métodos de XAI (IA explicable) existentes para el habla, como la atribución de características (por ejemplo, SHAP, LIME) o las visualizaciones de atención, suelen generar puntuaciones de importancia de características acústicas o mapas de calor de espectrogramas. Los autores argumentan que estos son insuficientes para la utilidad clínica porque:

1. Son locales y a nivel de enunciado, fallando en capturar la naturaleza ordinal de las etiquetas de severidad (donde las categorías adyacentes representan diferencias incrementales en lugar de clases nominales).
2. Dependen de descriptores acústicos diseñados o regiones de tiempo-frecuencia que son difíciles de traducir para los clínicos en constructos perceptuales (por ejemplo, precisión de consonantes, disfonía soprosa) utilizados en el razonamiento clínico.

Metodología
El artículo propone Dys-XAI, un marco de explicabilidad basado en la influencia y a nivel de instancia que cambia la perspectiva de la explicación de las características acústicas hacia las instancias de entrenamiento. En lugar de preguntar qué características fueron importantes, el marco pregunta qué muestras de entrenamiento ejercieron una influencia de apoyo u oposición sobre una predicción específica.

• Formulación de la Tarea: La tarea se define como una clasificación ordinal de 4 clases (Típica, Leve, Moderada, Severa) utilizando el conjunto de datos TORGO.
• Cómputo de la Influencia a Nivel de Instancia: Los autores emplean un método de estimación de influencia basado en gradientes. Al rastrear los puntos de control $\{\theta_1, \dots, \theta_M\}$ guardados durante el entrenamiento, computan la influencia de una muestra de entrenamiento $x_i$ sobre una muestra de prueba $x_t$ como el producto interno acumulativo de sus gradientes:
  $$I_{i \to t} = \sum_{m=1}^{M} \nabla_\theta \ell(f_{\theta_m}(x_t), y_t)^\top \nabla_\theta \ell(f_{\theta_m}(x_i), y_i)$$
  Un producto interno positivo indica una influencia de apoyo (entrenar con $x_i$ reduce la pérdida en $x_t$), mientras que un producto negativo indica una influencia de contraataque.
• Estrategias de Agregación:
  1. Agregación a Nivel de Clase: Los puntajes de influencia se agregan por las etiquetas de severidad reales de las muestras de prueba para cuantificar las contribuciones de apoyo frente a las de competencia a través de la escala ordinal. Esto produce una matriz de influencia de $4 \times 4$ ($S_{c \leftarrow c'}$) que muestra cómo las muestras de entrenamiento de severidad $c'$ influyen en las predicciones para la severidad $c$.
  2. Sensibilidad Ordinal del Modelo: La influencia se agrega por distancia ordinal ($d = |c - c'|$) para evaluar si el modelo respeta la estructura ordinal (es decir, si la influencia decae a medida que la distancia entre los niveles de severidad aumenta).
• Validación: El marco se valida mediante experimentos de eliminación controlada. Los autores eliminan selectivamente muestras de entrenamiento de alta o baja influencia (5–20%) y reentrenan el modelo para observar cambios sistemáticos en las predicciones.

Resultos Clave

• Validación de los Puntajes de Influencia: Los experimentos de eliminación controlada confirmaron la fidelidad de los puntajes de influencia.
  • Eliminación de Alta Influencia: Eliminar el 20% superior de las muestras altamente influyentes causó una degradación severa del rendimiento (por ejemplo, la precisión para la severidad Moderada cayó de 36.8% a 0.3%; Severa de 72.3% a 43.1%).
  • Eliminación de Baja Influencia: Eliminar el 20% inferior de las muestras (baja influencia) mejoró el rendimiento, particularmente para las clases ambiguas (la precisión de Leve se triplicó de 5.5% a 17.6%), sugiriendo que estas muestras contenían ruido o datos mal etiquetados.
• Patrones de Influencia Cruzada de Severidad: La matriz de influencia a nivel de clase reveló una estructura de dos niveles:
  • Distinción Binaria: El habla típica está aislada; recibe influencia positiva solo de otras muestras típicas e influencia negativa de todos los niveles de disartria.
  • Gradación Ordinal: Los niveles de disartria (Leve, Moderada, Severa) exhiben una influencia positiva mutua, indicando que el modelo reconoce características acústicas compartidas a través del continuo de la disartria.
• Sensibilidad Ordinal: La influencia promedio $\bar{S}(d)$ disminuyó monótonamente con la distancia ordinal ($d$). La influencia del mismo nivel fue 13 veces más fuerte que la de los niveles adyacentes, y la influencia se volvió negativa para niveles distantes ($d \ge 2$), confirmando que el modelo codifica la severidad como un continuo ordenado en lugar de categorías nominales.
• Estudio de Caso y Auditoría de Datos: En una comparación cualitativa, el método propuesto proporcionó referencias de audio clasificadas, mientras que SHAP proporcionó puntajes de descriptores acústicos ininterpretables. Notablemente, la clasificación de influencia identificó que las grabaciones "casi silenciosas" de hablantes severos estuvieron entre las muestras más influyentes para las predicciones severas. Esto reveló una asociación espuria aprendida por el modelo (silencio $\to$ severidad), demostrando la utilidad del marco para la auditoría de datos.

Significancia y Reivindicaciones
El artículo afirma que Dys-XAI proporciona explicaciones auditables al vincular las decisiones del modelo con casos de referencia perceptibles (grabaciones de audio) en lugar de puntajes de características abstractas. Esto se alinea con el razonamiento clínico, donde los juicios a menudo se justifican mediante la comparación con ejemplos prototípicos.

Los autores enfatizan que este enfoque:

1. Maneja explícitamente la ordinalidad: Al agregar la influencia por etiqueta de severidad, el marco expone la evidencia relacional entre niveles adyacentes y distantes.
2. Permite la Verificación Perceptual: Los clínicos pueden escuchar directamente las muestras de entrenamiento de apoyo y de competencia para verificar si la decisión del modelo se alinea con los marcadores clínicos.
3. Identifica Problemas de Datos: El marco sirve como una herramienta para la auditoría de datos, capaz de sacar a la luz correlaciones espurias (por ejemplo, el silencio asociado con la severidad) que los métodos basados en características podrían pasar por alto.

Este trabajo se presenta como un paso hacia el cierre de la brecha entre los modelos de aprendizaje profundo de alto rendimiento y la transparencia requerida para el despliegue clínico en la evaluación de la disartria.