🤖 AI

Towards Dys-XAI: Influence-Based Explanations for Dysarthria Severity Assessment

Dieses Paper schlägt ein neuartiges, auf Einfluss basierendes Erklärbarkeitsframework (Dys-XAI) vor, das die klinische Akzeptanz von Deep-Learning-Modellen zur Beurteilung der Dysarthrie-Schwere durch die Verknüpfung einzelner Vorhersagen mit unterstützenden und konkurrierenden Trainingsbeispielen verbessert und dadurch auditierbare, auf Instanzebene validierte Erklärungen durch kontrollierte Deletions-Experimente bereitstellt.

Ursprüngliche Autoren: Xiaoliang Wu, Qiyang Sun, Yupei Li, Erfan Loweimi, Jennifer Williams, Zhengjun Yue

Veröffentlicht 2026-06-23

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Xiaoliang Wu, Qiyang Sun, Yupei Li, Erfan Loweimi, Jennifer Williams, Zhengjun Yue

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Warum brauchen wir das?

Stellen Sie sich einen Arzt vor, der versucht zu beurteilen, wie schwerwiegend die Sprachschwierigkeiten (Dysarthrie) eines Patienten sind. Derzeit hört er dem Patienten zu und vergibt eine Einstufung von „Typisch“ bis „Schwer“. Das ist so, als würde ein Richter eine Suppe probieren und entscheiden, ob sie „ein wenig salzig“ oder „sehr salzig“ ist. Das kostet Zeit, und verschiedene Richter könnten uneinig sein.

Um dabei zu helfen, haben Wissenschaftler ein Computerprogramm (eine KI) entwickelt, das zuhören und sofort eine Einstufung abgeben kann. Aber es gibt ein Problem: Die KI ist eine „Black Box“. Sie liefert eine Antwort, kann aber nicht erklären, warum. Wenn ein Arzt fragt: „Warum sagen Sie, dieser Patient sei ‚Schwer‘?“, sagt die KI meistens nur: „Weil die Mathematik das so gesagt hat.“ Ärzte vertrauen Antworten nicht, die sie nicht verstehen können, besonders wenn es um die Patientenversorgung geht.

Dieses Paper stellt einen neuen Weg vor, wie die KI sich selbst erklären kann. Anstatt komplexe mathematische Diagramme zu zeigen, sagt sie: „Ich habe diese Einstufung gegeben, weil dieser neue Patient sehr ähnlich klingt wie diese spezifischen vergangenen Patienten, von denen ich gelernt habe, und sehr anders klingt als jene anderen vergangenen Patienten.“

Der Kern der Idee: Lernen aus Beispielen, nicht nur aus Merkmalen

Die meisten KI-Erklärer funktionieren wie ein Mikroskop. Sie zoomen auf einen einzelnen Satz und sagen: „Die KI hat auf diese spezifische Schallwelle und diese spezifische Frequenz geachtet.“ Das ist für einen Menschen schwer zu verstehen.

Die Autoren schlagen einen anderen Ansatz vor, der „Einflussbasierte Erklärung“ (Influence-Based Explanation) genannt wird. Denken Sie an einen Schüler, der für eine Geschichtsprüfung lernt:

Der alte Weg (Merkmalsattribution): Der Schüler sagt: „Ich habe die Antwort richtig gewusst, weil ich das Datum ‚1776‘ und das Wort ‚Unabhängigkeit‘ auswendig gelernt habe.“ (Zu technisch, schwer, das große Ganze zu sehen).
Der neue Weg (Einflussbasiert): Der Schüler sagt: „Ich habe die Antwort richtig gewusst, weil mich diese Frage an die Übungsfrage Nr. 42 erinnert hat, die ich richtig beantwortet habe. Sie fühlte sich sehr anders an als die Übungsfrage Nr. 89, die ich falsch beantwortet habe.“

Die KI schaut nicht nur auf Schallwellen; sie schaut auf andere Aufnahmen in ihrem Gedächtnisspeicher, um zu sehen, welche ihr bei der Entscheidung geholfen haben und welche sie verwirrt haben.

Wie es funktioniert: Der „Einfluss-Score“

Die Forscher haben ein System entwickelt, das für jede einzelne Aufnahme, die die KI jemals gesehen hat, einen „Einfluss-Score“ (Influence Score) berechnet.

Unterstützender Einfluss (Supportive Influence): Wenn eine vergangene Aufnahme die KI bei ihrer aktuellen Vermutung bestärkt, erhält sie einen positiven Score. (z. B. „Dieser vergangene ‚schwere‘ Fall klingt genau wie dieser neue, also bin ich sicher, dass es ‚Schwer‘ ist.“)
Konkurrierender Einfluss (Competing Influence): Wenn eine vergangene Aufnahme die KI weniger sicher macht oder sie in Richtung einer anderen Vermutung drängt, erhält sie einen negativen Score. (z. B. „Dieser vergangene ‚leichte‘ Fall klingt ein bisschen wie dieser neue, was mich zögern lässt.“)

Der „Geschmackstest“ (Validierung)

Woher wissen wir, dass diese Erklärung echt ist und nicht nur ein Trick? Die Autoren führten ein Experiment zur „Kontrollierten Löschung“ (Controlled Deletion) durch.

Stellen Sie sich vor, Sie haben ein Rezept für einen Kuchen und behaupten: „Dieses Ei ist die wichtigste Zutat.“

Der Test: Sie nehmen das Ei aus dem Rezept und backen den Kuchen erneut.
Das Ergebnis: Wenn der Kuchen auseinanderfällt, war Ihre Behauptung wahr. Wenn der Kuchen gleich schmeckt, war Ihre Behauptung falsch.

Die Forscher machten dies mit der KI:

Das Entfernen der „Helfer“: Sie nahmen die obersten 20 % der hilfreichsten („unterstützendsten“) vergangenen Aufnahmen heraus. Ergebnis: Die Leistung der KI brach zusammen. Sie konnte keine guten Vermutungen mehr anstellen. Dies bewies, dass die Erklärungen echt waren; diese Aufnahmen waren der Schlüssel zu den Antworten.
Das Entfernen des „Rauschens“: Sie nahmen die untersten 20 % der am wenigsten hilfreichen (oder verwirrenden) Aufnahmen heraus. Ergebnis: Die KI wurde tatsächlich besser. Dies bewies, dass einige der alten Daten fehlerhaft oder falsch waren und die KI dadurch verwirrt wurde.

Was sie herausgefunden haben

Durch die Betrachtung dieser Einfluss-Scores fanden sie interessante Muster darüber, wie die KI denkt:

Die „Typische“ Mauer: Die KI behandelt „typische“ Sprache (keine Behinderung) als eine völlig separate Welt. Sie nutzt nur „typische“ vergangene Beispiele, um „typische“ Sprache zu beurteilen. Wenn ein Patient auch nur leicht „mild“ klingt, hört die KI auf, „typische“ Beispiele zu verwenden, und beginnt, „Dysarthrie“-Beispiele zu nutzen.
Die „Schweregrad“-Leiter: Für die Sprachschwierigkeiten (Mild, Moderate, Severe) sieht die KI diese als eine Leiter an.
- Sie verlässt sich stark auf vergangene Beispiele, die auf der gleichen Stufe der Leiter liegen.
- Sie nutzt Beispiele von der nächsten Stufe darüber oder darunter, um ihre Vermutung zu verfeinern.
- Sie lehnt Beispiele vom gegenüberliegenden Ende der Leiter aktiv ab (z. B. nutzt sie „schwere“ Beispiele, um zu sagen: „Nein, das ist nicht mild“).
Das Finden von Fehlern: In einem Fall wurde die KI stark von Aufnahmen beeinflusst, die fast nur aus Stille bestanden. Es stellte sich heraus, dass die KI einen seltsamen Trick gelernt hatte: „Wenn kein Ton da ist, muss es ‚Schwer‘ sein.“ Das Erklärungssystem deckte diesen Fehler auf und zeigte, dass die KI sich auf eine defekte Aufnahme statt auf tatsächliche Sprache verlassen hatte.

Das Fazit

Dieses Paper präsentiert ein Werkzeug, das die „Black Box“ der KI in eine Bibliothek von Referenzfällen verwandelt. Anstatt Ärzten verwirrende Heatmaps von Schallwellen zu zeigen, zeigt es ihnen:

„Hier sind 5 vergangene Patienten, die wie dieser hier klingen und uns bei der Entscheidung geholfen haben.“
„Hier sind 5 vergangene Patienten, die anders klangen und uns Zweifel an der Entscheidung ließen.“

Dies ermöglicht es Ärzten, die Beispiele anzuhören, sie mit dem aktuellen Patienten zu vergleichen und die Entscheidung der KI mit ihren eigenen Ohren zu überprüfen. Dies macht die KI transparent, vertrauenswürdig und nützlich für reale medizinische Entscheidungen.

Technische Zusammenfassung: Auf dem Weg zu Dys-XAI: Einflussbasierte Erklärungen für die Schweregradbewertung von Dysarthrie

Problemstellung
Die Bewertung des Schweregrads von Dysarthrie ist entscheidend für die klinische Therapieplanung und die longitudinale Überwachung, stützt sich jedoch derzeit auf manuelle perzeptive Bewertungen, die zeitaufwendig sind und unter Inter-Rater-Variabilität leiden. Während Deep-Learning-Modelle auf öffentlichen Datensätzen Leistungen erreicht haben, die mit Expertenbewertungen vergleichbar sind, hindert deren „Black-Box“-Natur die klinische Anwendung. Bestehende Methoden der erklärbaren KI (Explainable AI, XAI) für Sprache, wie etwa Merkmalsattribuierung (z. B. SHAP, LIME) oder Attention-Visualisierungen, erzeugen typischerweise Scores zur Bedeutung akustischer Merkmale oder Spektrogramm-Heatmaps. Die Autoren argumentieren, dass diese für den klinischen Nutzen unzureichend sind, weil sie:

lokal und auf Äußerungsebene (utterance-level) sind und dabei die ordinale Natur der Schweregradlabels versäumen (wobei benachbarte Kategorien inkrementelle Unterschiede statt nominaler Klassen darstellen).
auf konstruierten akustischen Deskriptoren oder Zeit-Frequenz-Regionen basieren, die für Kliniker schwer in perzeptive Konstrukte (z. B. Konsonantenpräzision, Breathiness) zu übersetzen sind, welche in der klinischen Argumentation verwendet werden.

Methodik
Das Paper schlägt Dys-XAI vor, ein einflussbasiertes Framework zur Erklärbarkeit auf Instanzebene, das die Perspektive der Erklärung von akustischen Merkmalen hin zu Trainingsinstanzen verschiebt. Anstatt zu fragen, welche Merkmale wichtig waren, fragt das Framework, welche Trainingsbeispiele einen unterstützenden oder entgegengesetzten Einfluss auf eine spezifische Vorhersage ausgeübt haben.

Aufgabenformulierung: Die Aufgabe wird als 4-Klassen-Ordinalklassifikation (Typisch, Mild, Moderat, Schwer) unter Verwendung des TORGO-Datensatzes definiert.
Berechnung des Einflusses auf Instanzebene: Die Autoren verwenden eine gradientenbasierte Methode zur Schätzung des Einflusses. Durch Verfolgung von Checkpoints $\{\theta_1, \dots, \theta_M\}$ , die während des Trainings gespeichert wurden, berechnen sie den Einfluss einer Trainingsprobe $x_i$ auf eine Testprobe $x_t$ als das kumulative Skalarprodukt ihrer Gradienten:
$I_{i \to t} = \sum_{m=1}^{M} \nabla_\theta \ell(f_{\theta_m}(x_t), y_t)^\top \nabla_\theta \ell(f_{\theta_m}(x_i), y_i)$
Ein positives Skalarprodukt deutet auf einen unterstützenden Einfluss hin (das Training mit $x_i$ reduziert den Verlust bei $x_t$ ), während ein negatives Produkt auf einen entgegenwirkenden Einfluss hindeutet.
Aggregationsstrategien:
1. Klassenbasierte Aggregation: Die Einfluss-Scores werden nach den wahren Schweregrad-Labels von Testproben aggregiert, um unterstützende gegenüber konkurrierenden Beiträgen über die ordinale Skala hinweg zu quantifizieren. Dies erzeugt eine $4 \times 4$ Einflussmatrix ( $S_{c \leftarrow c'}$ ), die zeigt, wie Trainingsproben der Schweregradstufe $c'$ die Vorhersagen für die Schweregradstufe $c$ beeinflussen.
2. Ordinale Sensitivität des Modells: Der Einfluss wird nach der ordinalen Distanz ( $d = |c - c'|$ ) aggregiert, um zu bewerten, ob das Modell die ordinale Struktur respektiert (d. h., ob der Einfluss abnimmt, wenn die Distanz zwischen den Schweregradstufen zunimmt).
Validierung: Das Framework wird mittels kontrollierter Deletions-Experimente validiert. Die Autoren entfernen selektiv hoch- oder nieder-influentielle Trainingsproben (5–20 %) und trainieren das Modell neu, um systematische Verschiebungen in den Vorhersagen zu beobachten.

Zentrale Ergebnisse

Validierung der Einfluss-Scores: Kontrollierte Deletions-Experimente bestätigten die Treue (Faithfulness) der Einfluss-Scores.
- Entfernung von High-Influence-Proben: Das Entfernen der obersten 20 % der hoch-influenten Proben verursachte eine schwere Leistungsdegradation (z. B. sank die Genauigkeit für die Kategorie „Moderat“ von 36,8 % auf 0,3 %; für „Schwer“ von 72,3 % auf 43,1 %).
- Entfernung von Low-Influence-Proben: Das Entfernen der untersten 20 % der Proben (niedriger Einfluss) verbesserte die Leistung, insbesondere bei ambivalenten Klassen (die Genauigkeit für „Mild“ verdreifachte sich von 5,5 % auf 17,6 %), was darauf hindeutet, dass diese Proben Rauschen oder falsch gelabelte Daten enthielten.
Kreuz-Schweregrad-Einflussmuster: Die klassenbasierte Einflussmatrix offenbarte eine zweistufige Struktur:
- Binäre Unterscheidung: Typische Sprache ist isoliert; sie erhält nur positiven Einfluss von anderen typischen Proben und negativen Einfluss von allen dysarthrischen Ebenen.
- Ordinale Graduierung: Dysarthrische Ebenen (Mild, Moderat, Schwer) zeigen gegenseitigen positiven Einfluss, was darauf hindeutet, dass das Modell gemeinsame akustische Merkmale über das dysarthrische Kontinuum hinweg erkennt.
Ordinale Sensitivität: Der durchschnittliche Einfluss $\bar{S}(d)$ nahm monoton mit der ordinalen Distanz ( $d$ ) ab. Der Einfluss auf derselben Ebene war 13-mal stärker als der Einfluss auf die benachbarte Ebene, und der Einfluss wurde negativ für distanzierte Ebenen ( $d \ge 2$ ), was bestätigt, dass das Modell die Schweregradstufe als geordnetes Kontinuum und nicht als nominale Kategorien kodiert.
Fallstudie & Datensatz-Auditierung: In einem qualitativen Vergleich lieferte die vorgeschlagene Methode rangierte Audio-Referenzen, während SHAP uninterpretierbare Scores für akustische Deskriptoren lieferte. Bemerkenswerterweise identifizierte die Einfluss-Rangordnung, dass „nahezu stumme“ Aufnahmen von Sprechern mit schwerer Dysarthrie zu den einflussreichsten Proben für „schwere“ Vorhersagen gehörten. Dies deckte eine vom Modell gelernte Scheinassoziation auf (Stille $\to$ schwer), was den Nutzen des Frameworks für die Datensatz-Auditierung demonstriert.

Bedeutung und Ansprüche
Das Paper behauptet, dass Dys-XAI auditierbare Erklärungen bietet, indem es Modellentscheidungen mit wahrnehmbaren Referenzfällen (Audioaufnahmen) verknüpft, anstatt mit abstrakten Merkmals-Scores. Dies steht im Einklang mit der klinischen Argumentation, bei der Urteile oft durch den Vergleich mit prototypischen Beispielen gerechtfertigt werden.

Die Autoren betonen, dass dieser Ansatz:

Die Ordinalität explizit behandelt: Durch die Aggregation des Einflusses nach dem Schweregrad-Label legt das Framework relationale Evidenzen zwischen benachbarten und distanzierten Schweregradstufen offen.
Perzeptive Verifizierung ermöglicht: Kliniker können unterstützende und konkurrierende Trainingsproben direkt anhören, um zu verifizieren, ob die Entscheidung des Modells mit klinischen Markern übereinstimmt.
Datenprobleme identifiziert: Das Framework dient als Werkzeug für die Datensatz-Auditierung und ist in der Lage, Scheinkorrelationen (z. B. Stille assoziiert mit Schweregrad) aufzudecken, die Merkmalsbasierte Methoden möglicherweise übersehen würden.

Die Arbeit wird als Schritt zur Überbrückung der Lücke zwischen leistungsstarken Deep-Learning-Modellen und der für den klinischen Einsatz erforderlichen Transparenz bei der Dysarthrie-Bewertung präsentiert.