🤖 AI

Towards Dys-XAI: Influence-Based Explanations for Dysarthria Severity Assessment

Cet article propose un nouveau cadre d'explicabilité basé sur l'influence (Dys-XAI) qui améliore l'adoption clinique des modèles d'apprentissage profond pour l'évaluation de la sévérité de la dysarthrie en liant les prédictions individuelles à des échantillons d'entraînement de soutien et de compétition, fournissant ainsi des explications auditables au niveau de l'instance, validées par des expériences de suppression contrôlée.

Auteurs originaux : Xiaoliang Wu, Qiyang Sun, Yupei Li, Erfan Loweimi, Jennifer Williams, Zhengjun Yue

Publié 2026-06-23

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Xiaoliang Wu, Qiyang Sun, Yupei Li, Erfan Loweimi, Jennifer Williams, Zhengjun Yue

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La vue d'ensemble : Pourquoi en avons-nous besoin ?

Imaginez un médecin essayant de juger la sévérité des troubles de la parole (la dysarthrie) d'un patient. Actuellement, il écoute le patient et donne une évaluation allant de « Typique » à « Sévère ». C'est comme un juge qui goûte une soupe et décide si elle est « un peu salée » ou « très salée ». Cela prend du temps, et différents juges peuvent ne pas être d'accord.

Pour aider, des scientifiques ont construit un programme informatique (une IA) capable d'écouter et de donner une évaluation instantanément. Mais il y a un problème : l'IA est une « boîte noire ». Elle donne une réponse, mais elle ne peut pas expliquer pourquoi. Si un médecin demande : « Pourquoi avez-vous dit que ce patient est "Sévère" ? », l'IA répond généralement : « Parce que les mathématiques l'ont dit ». Les médecins n'ont pas confiance dans les réponses qu'ils ne comprennent pas, surtout lorsqu'elles affectent les soins aux patients.

Ce document présente une nouvelle façon de permettre à l'IA de s'expliquer. Au lieu de montrer des graphiques mathématiques complexes, elle dit : « J'ai donné cette évaluation parce que ce nouveau patient ressemble beaucoup à ces patients spécifiques du passé dont j'ai appris, et est très différent de ces autres patients du passé. »

L'idée centrale : Apprendre des exemples, pas seulement des caractéristiques

La plupart des outils d'explication d'IA fonctionnent comme un microscope. Ils zooment sur une phrase spécifique et disent : « L'IA a regardé cette onde sonore spécifique et cette fréquence spécifique ». C'est difficile à comprendre pour un humain.

Les auteurs proposent une approche différente appelée Explication basée sur l'influence. Pensez-y comme à un étudiant qui révise pour un examen d'histoire :

L'ancienne méthode (Attribution de caractéristiques) : L'étudiant dit : « J'ai eu la bonne réponse parce que j'ai mémorisé la date "1776" et le mot "indépendance". » (Trop technique, difficile de voir l'ensemble).
La nouvelle méthode (Basée sur l'influence) : L'étudiant dit : « J'ai eu la bonne réponse parce que cette question m'a rappelé la question n°42 du test d'entraînement, que j'avais réussie. Elle semblait très différente de la question n°89, que j'avais ratée. »

L'IA ne se contente pas de regarder les ondes sonores ; elle regarde d'autres enregistrements dans sa banque de mémoire pour voir lesquels l'ont aidée à décider et lesquels l'ont troublée.

Comment ça marche : Le « Score d'influence »

Les chercheurs ont construit un système qui calcule un « Score d'influence » pour chaque enregistrement que l'IA a déjà vu.

Influence de soutien : Si un enregistrement passé renforce la confiance de l'IA dans sa prédiction actuelle, il reçoit un score positif. (ex : « Ce cas passé "Sévère" ressemble beaucoup à celui-ci, donc je suis sûr que c'est Sévère. »)
Influence concurrente : Si un enregistrement passé diminue la confiance de l'IA ou la pousse vers une autre prédiction, il reçoit un score négatif. (ex : « Ce cas passé "Léger" ressemble un peu à celui-ci, ce qui me fait hésiter. »)

Le « Test de goût » (Validation)

Comment savoir si cette explication est réelle et non un simple tour de passe-passe ? Les auteurs ont réalisé une expérience de « Suppression contrôlée ».

Imaginez que vous avez la recette d'un gâteau, et que vous affirmez : « Cet œuf est l'ingrédient le plus important. »

Le test : Vous retirez l'œuf de la recette et vous cuisez le gâteau à nouveau.
Le résultat : Si le gâteau s'effondre, votre affirmation était vraie. Si le gâteau a le même goût, votre affirmation était fausse.

Les chercheurs ont fait la même chose avec l'IA :

Retirer les « Aides » : Ils ont retiré les 20 % supérieurs des enregistrements passés les plus « de soutien ». Résultat : Les performances de l'IA se sont effondrées. Elle ne pouvait plus faire de bonnes prédictions. Cela a prouvé que les explications étaient réelles ; ces enregistrements étaient la clé des réponses.
Retirer le « Bruit » : Ils ont retiré les 20 % inférieurs des enregistrements les moins utiles (ou les plus déroutants). Résultat : L'IA s'est en fait améliorée. Cela a prouvé que certaines des anciennes données étaient désordonnées ou erronées, et que l'IA était perturbée par elles.

Ce qu'ils ont découvert

En observant ces scores d'influence, ils ont trouvé des schémas intéressants sur la façon dont l'IA réfléchit :

Le mur du « Typique » : L'IA traite la parole « Typique » (sans handicap) comme un monde totalement séparé. Elle n'utilise que des exemples passés « Typiques » pour juger la parole « Typique ». Si un patient semble même légèrement « Léger », l'IA cesse d'utiliser les exemples « Typiques » et commence à utiliser les exemples de « Dysarthrie ».
L'échelle de la « Sévérité » : Pour les troubles de la parole (Léger, Modéré, Sévère), l'IA voit cela comme une échelle.
- Elle s'appuie fortement sur les exemples passés qui sont sur le même échelon de l'échelle.
- Elle utilise des exemples de l'échelon supérieur ou inférieur pour affiner sa prédiction.
- Elle rejette activement les exemples de l'autre extrémité de l'échelle (ex : elle utilise des exemples « Sévères » pour dire « Non, ce n'est pas Léger »).
Trouver les bugs : Dans un cas, l'IA était fortement influencée par des enregistrements qui étaient presque du silence. Il s'est avéré que l'IA avait appris une astuce bizarre : « S'il n'y a pas de son, cela doit être Sévère. » Le système d'explication a détecté cette erreur, montrant que l'IA s'appuyait sur un enregistrement défectueux plutôt que sur une parole réelle.

L'essentiel

Ce document présente un outil qui transforme la « boîte noire » de l'IA en une bibliothèque de cas de référence. Au lieu de montrer aux médecins des cartes thermiques confuses d'ondes sonores, il leur montre :

« Voici 5 patients passés qui ressemblent à celui-ci et qui nous ont aidés à décider. »
« Voici 5 patients passés qui étaient différents et qui nous ont fait douter. »

Cela permet aux médecins d'écouter les exemples, de les comparer au patient actuel et de vérifier la décision de l'IA avec leurs propres oreilles. Cela rend l'IA transparente, digne de confiance et utile pour les décisions médicales réelles.

Résumé Technique : Vers la Dys-XAI : Des explications basées sur l'influence pour l'évaluation de la sévérité de la dysarthrie

Énoncé du problème
L'évaluation de la sévérité de la dysarthrie est cruciale pour la planification de la thérapie clinique et le suivi longitudinal, mais elle repose actuellement sur une évaluation perceptuelle manuelle, qui est chronophage et sujette à la variabilité inter-évaluateurs. Bien que les modèles d'apprentissage profond aient atteint des performances comparables aux évaluations d'experts sur les ensembles de données publics, leur nature de « boîte noire » entrave leur adoption clinique. Les méthodes d'IA explicable (XAI) existantes pour la parole, telles que l'attribution de caractéristiques (ex. SHAP, LIME) ou les visualisations d'attention, génèrent généralement des scores d'importance de caractéristiques acoustiques ou des cartes thermiques de spectrogrammes. Les auteurs soutiennent que ces méthodes sont insuffisantes pour l'utilité clinique car :

Elles sont locales et au niveau de l'énoncé, échouant à capturer la nature ordinale des étiquettes de sévérité (où les catégories adjacentes représentent des différences incrémentielles plutôt que des classes nominales).
Elles reposent sur des descripteurs acoustiques ou des régions temps-fréquence conçus qui sont difficiles à traduire pour les cliniciens en construits perceptuels (ex. précision des consonnes, souffle) utilisés dans le raisonnement clinique.

Méthodologie
Le papier propose Dys-XAI, un cadre d'explicabilité basé sur l'influence et au niveau de l'instance, qui déplace la perspective de l'explication des caractéristiques acoustiques vers les instances d'entraînement. Au lieu de demander quelles caractéristiques étaient importantes, le cadre demande quels échantillons d'entraînement ont exercé une influence de soutien ou d'opposition sur une prédiction spécifique.

Formulation de la tâche : La tâche est définie comme une classification ordinale à 4 classes (Typique, Légère, Modérée, Sévère) utilisant le jeu de données TORGO.
Calcul de l'influence au niveau de l'instance : Les auteurs emploient une méthode d'estimation d'influence basée sur le gradient. En suivant les points de contrôle $\{\theta_1, \dots, \theta_M\}$ sauvegardés pendant l'entraînement, ils calculent l'influence d'un échantillon d'entraînement $x_i$ sur un échantillon de test $x_t$ comme le produit scalaire cumulatif de leurs gradients :
$I_{i \to t} = \sum_{m=1}^{M} \nabla_\theta \ell(f_{\theta_m}(x_t), y_t)^\top \nabla_\theta \ell(f_{\theta_m}(x_i), y_i)$
Un produit scalaire positif indique une influence de soutien (l'entraînement sur $x_i$ réduit la perte sur $x_t$ ), tandis qu'un produit négatif indique une influence de contrepartie.
Stratégies d'agrégation :
1. Agrégation au niveau de la classe : Les scores d'influence sont agrégés par les étiquettes de sévérité réelles des échantillons de test pour quantifier les contributions de soutien vs de compétition à travers l'échelle ordinale. Cela produit une matrice d'influence $4 \times 4$ ( $S_{c \leftarrow c'}$ ) montrant comment les échantillons d'entraînement de sévérité $c'$ influencent les prédictions pour la sévérité $c$ .
2. Sensibilité ordinale du modèle : L'influence est agrégée par distance ordinale ( $d = |c - c'|$ ) pour évaluer si le modèle respecte la structure ordinale (c'est-à-dire si l'influence décroît à mesure que la distance entre les niveaux de sévérité augmente).
Validation : Le cadre est validé via des expériences de suppression contrôlée. Les auteurs suppriment sélectivement des échantillons d'entraînement à haute influence ou à faible influence (5–20 %) et réentraînent le modèle pour observer les changements systématiques dans les prédictions.

Résultats clés

Validation des scores d'influence : Les expériences de suppression contrôlée ont confirmé la fidélité des scores d'influence.
- Suppression de haute influence : La suppression des 20 % supérieurs d'échantillons hautement influents a provoqué une dégradation sévère des performances (ex. la précision pour la sévérité Modérée est passée de 36,8 % à 0,3 % ; Sévère de 72,3 % à 43,1 %).
- Suppression de faible influence : La suppression des 20 % inférieurs d'échantillons (faible influence) a amélioré les performances, particulièrement pour les classes ambiguës (la précision pour "Légère" a triplé, passant de 5,5 % à 17,6 %), suggérant que ces échantillons contenaient du bruit ou des données mal étiquetées.
Motifs d'influence inter-sévérité : La matrice d'influence au niveau de la classe a révélé une structure à deux niveaux :
- Distinction binaire : La parole typique est isolée ; elle ne reçoit une influence positive que des autres échantillons typiques et une influence négative de tous les niveaux de dysarthrie.
- Gradation ordinale : Les niveaux de dysarthrie (Légère, Modérée, Sévère) présentent une influence mutuelle positive, indiquant que le modèle reconnaît des caractéristiques acoustiques partagées à travers le continuum de la dysarthrie.
Sensibilité ordinale : L'influence moyenne $\bar{S}(d)$ a diminué de manière monotone avec la distance ordinale ( $d$ ). L'influence de même niveau était 13 fois plus forte que l'influence du niveau adjacent, et l'influence est devenue négative pour les niveaux distants ( $d \ge 2$ ), confirmant que le modèle encode la sévérité comme un continuum ordonné plutôt que comme des catégories nominales.
Étude de cas et audit de l'ensemble de données : Dans une comparaison qualitative, la méthode proposée a fourni des références audio classées, alors que SHAP fournissait des scores de descripteurs acoustiques ininterprétables. Notamment, le classement d'influence a identifié que les enregistrements « quasi-silencieux » provenant de locuteurs sévères étaient parmi les échantillons les plus influents pour les prédictions sévères. Cela a révélé une association spécieuse apprise par le modèle (silence $\to$ sévère), démontrant l'utilité du cadre pour l'audit de l'ensemble de données.

Signification et revendications
Le papier affirme que Dys-XAI fournit des explications auditables en liant les décisions du modèle à des cas de référence perceptibles (enregistrements audio) plutôt qu'à des scores de caractéristiques abstraits. Cela s'aligne sur le raisonnement clinique, où les jugements sont souvent justifiés par comparaison avec des exemples prototypiques.

Les auteurs soulignent que cette approche :

Gère explicitement l'ordinalité : En agrégeant l'influence par étiquette de sévérité, le cadre expose les preuves relationnelles entre les niveaux de sévérité adjacents et distants.
Permet une vérification perceptuelle : Les cliniciens peuvent directement écouter les échantillons d'entraînement de soutien et de compétition pour vérifier si la décision du modèle correspond aux marqueurs cliniques.
Identifie les problèmes de données : Le cadre sert d'outil pour l'audit de l'ensemble de données, capable de faire émerger des corrélations spécieuses (ex. le silence associé à la sévérité) que les méthodes basées sur les caractéristiques pourraient manquer.

Ce travail est présenté comme une étape vers le comblement du fossé entre les modèles d'apprentissage profond à haute performance et la transparence requise pour le déploiement clinique dans l'évaluation de la dysarthrie.