🤖 AI

Towards Dys-XAI: Influence-Based Explanations for Dysarthria Severity Assessment

Dit artikel stelt een nieuw op invloed gebaseerd verklaarbaarheidsframework voor (Dys-XAI) dat de klinische adoptie van deep learning-modellen voor de beoordeling van de ernst van dysartrie verbetert door individuele voorspellingen te koppelen aan ondersteunende en concurrerende trainingsvoorbeelden, waardoor controleerbare, op instantie gebaseerde verklaringen worden geboden die zijn gevalideerd via gecontroleerde verwijderingsexperimenten.

Oorspronkelijke auteurs: Xiaoliang Wu, Qiyang Sun, Yupei Li, Erfan Loweimi, Jennifer Williams, Zhengjun Yue

Gepubliceerd 2026-06-23

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Xiaoliang Wu, Qiyang Sun, Yupei Li, Erfan Loweimi, Jennifer Williams, Zhengjun Yue

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Plaatje: Waarom hebben we dit nodig?

Stel je een arts voor die probeert te beoordelen hoe ernstig de spraakproblemen (dysartrie) van een patiënt zijn. Momenteel luistert de arts naar de patiënt en geeft een beoordeling van "Typisch" tot "Ernstig". Dit is alsof een rechter een soep proeft en beslist of deze "een beetje zout" of "erg zout" is. Het kost tijd, en verschillende rechters kunnen het oneens zijn.

Om te helpen hebben wetenschappers een computerprogramma (een AI) gebouwd dat kan luisteren en direct een beoordeling kan geven. Maar er is een probleem: de AI is een "black box" (zwarte doos). Het geeft een antwoord, maar kan niet uitleggen waarom. Als een arts vraagt: "Waarom zeg je dat deze patiënt 'Ernstig' is?", zegt de AI meestal alleen: "Omdat de wiskunde dat zei." Artsen vertrouwen geen antwoorden die ze niet begrijpen, vooral niet wanneer dit invloed heeft op de patiëntenzorg.

Dit artikel introduceert een nieuwe manier om de AI zichzelf te laten uitleggen. In plaats van complexe wiskundige grafieken te tonen, zegt de AI: "Ik gaf deze beoordeling omdat deze nieuwe patiënt erg lijkt op deze specifieke eerdere patiënten waar ik van heb geleerd, en heel anders is dan die andere eerdere patiënten."

De Kern van het Idee: Leren van Voorbeelden, Niet Alleen van Kenmerken

De meeste AI-uitleggers werken als een microscoop. Ze zoomen in op één specifieke zin en zeggen: "De AI keek naar deze specifieke geluidsgolf en deze specifieke frequentie." Dit is moeilijk voor een mens om te begrijpen.

De auteurs stellen een andere aanpak voor die Influence-Based Explanation (op invloed gebaseerde uitleg) wordt genoemd. Denk hierbij aan een student die studeert voor een geschiedenisexamen:

De Oude Manier (Feature Attribution): De student zegt: "Ik heb het antwoord goed omdat ik de datum '1776' en het woord 'onafhankelijkheid' heb onthouden." (Te technisch, te moeilijk om het grote plaatje te zien).
De Nieuwe Manier (Influence-Based): De student zegt: "Ik heb het antwoord goed omdat deze vraag me deed denken aan oefenvraag #42 van de proeftoets, die ik goed had. Het voelde heel anders dan oefenvraag #89, die ik fout had."

De AI kijkt niet alleen naar geluidsgolven; de AI kijelt naar andere opnames in zijn geheugenbank om te zien welke opnames hielpen bij de beslissing en welke de beslissing in de war brachten.

Hoe het werkt: De "Influence Score" (Invloedsscore)

De onderzoekers hebben een systeem gebouwd dat voor elke enkele opname die de AI ooit heeft gezien, een "Influence Score" berekent.

Ondersteunende Invloed (Supportive Influence): Als een eerdere opname de AI baarder maakt in zijn huidige gok, krijgt deze een positieve score. (Bijv.: "Deze eerdere 'Ernstige' casus klinkt precies zoals deze nieuwe, dus ik weet zeker dat het 'Ernstig' is.")
Concurrerende Invloed (Competing Influence): Als een eerdere opname de AI minder zelfverzekerd maakt of hem richting een andere gok duwt, krijgt deze een negatieve score. (Bijv.: "Deze eerdere 'Milde' casus klinkt een beetje zoals deze nieuwe, wat me doet twijfelen.")

De "Proeverij" (Validatie)

Hoe weten we of deze uitleg echt is en niet slechts een trucje? De auteurs voerden een "Controlled Deletion" (gecontroleerde verwijdering) experiment uit.

Stel je voor dat je een recept hebt voor een cake, en je beweert: "Dit ei is het belangrijkste ingrediënt."

De Test: Je haalt het ei uit het recept en bakt de cake opnieuw.
Het Resultaat: Als de cake uit elkaar valt, was je bewering waar. Als de cake nog steeds hetzelfde smaakt, was je bewering nep.

De onderzoekers deden dit met de AI:

Het Verwijderen van de "Helpers": Ze haalden de bovenste 20% van de meest "ondersteunende" eerdere opnames eruit. Resultaat: De prestaties van de AI stortten in. Hij kon geen goede gokken meer doen meer. Dit bewees dat de uitleg echt was; die opnames waren de sleutel tot de antwoorden.
Het Verwijderen van de "Ruis": Ze haalden de onderste 20% van de minst nuttige (of verwarrende) opnames eruit. Resultaat: De AI werd zelfs beter. Dit bewees dat sommige van de oude gegevens slordig of fout waren, en dat de AI erdoor werd in de war gebracht.

Wat ze ontdekten

Door naar deze invloedsscores te kijken, vonden ze enkele interessante patronen over hoe de AI denkt:

De "Typische" Muur: De AI behandelt "Typische" spraak (geen beperking) als een totaal andere wereld. De AI gebruikt alleen "Typische" eerdere voorbeelden om "Typische" spraak te beoordelen. Als een patiënt zelfs maar een klein beetje "Mild" klinkt, stopt de AI met het gebruiken van "Typische" voorbeelden en begint hij "Dysartrie"-voorbeelden te gebruiken.
De "Ernst"-Ladder: Voor de spraakproblemen (Mild, Moderate, Severe) ziet de AI deze als een ladder.
- De AI leunt zwaar op eerdere voorbeelden die op dezelfde trede van de ladder staan.
- De AI gebruikt voorbeelden van de volgende trede omhoog of omlaag om de gok te verfijnen.
- De AI wijst voorbeelden actief af van het tegenovergestelde uiteinde van de ladder (bijv. de AI gebruikt "Ernstige" voorbeelden om te zeggen: "Nee, dit is niet Mild").
Het Vinden van de Foutjes: In één geval werd de AI sterk beïnvloed door opnames die bijna bestonden uit stilte. Het bleek dat de AI een vreemde truc had geleerd: "Als er geen geluid is, moet het 'Ernstig' zijn." Het uitlegsysteem betrapte de AI op deze fout, door aan te tonen dat de AI vertrouwde op een kapotte opname in plaats van op daadwerkelijke spraak.

De Kernconclusie

Dit artikel presenteert een hulpmiddel dat de "black box" van de AI verandert in een bibliotheek van referentiegevallen. In plaats van artsen te confronteren met verwarrende warmtekaarten van geluidsgolven, laat het hen zien:

"Hier zijn 5 eerdere patiënten die op deze patiënt lijken en ons hielpen bij de beslissing."
"Hier zijn 5 eerdere patiënten die anders klonken en ons aan het twijfelen brachten."

Dit stelt artsen in staat om naar de voorbeelden te luisteren, ze te vergelijken met de huidige patiënt en de beslissing van de AI te verifiëren met hun eigen oren. Dit maakt de AI transparant, betrouwbaar en bruikbaar voor echte medische beslissingen in de praktijk.

Technische Samenvatting: Naar Dys-XAI: Op invloed gebaseerde verklaringen voor de beoordeling van de ernst van dysartrie

Probleemstelling
De beoordeling van de ernst van dysartrie is cruciaal voor klinische therapieplanning en longitudinale monitoring, maar leunt momenteel op handmatige perceptuele beoordeling, wat tijdrovend is en lijdt onder inter-beoordelaarsvariabiliteit. Hoewel deep learning-modellen prestaties hebben bereikt die vergelijkbaar zijn met die van experts op publieke datasets, belemmert hun "black-box"-aard de klinische adoptie. Bestaande Explainable AI (XAI)-methoden voor spraak, zoals feature-attributie (bijv. SHAP, LIME) of aandachtsvisualisaties, genereren doorgaans scores voor de belangrijkheid van akoestische kenmerken of spectrogram-heatmaps. De auteurs stellen dat deze onvoldoende zijn voor klinisch nut omdat ze:

Lokaal en op utterance-niveau zijn, waardoor ze falen in het vastleggen van de ordinale aard van ernst-labels (waarbij aangrenzende categorieën incrementele verschillen vertegenwoordigen in plaats van nominale klassen).
Vertrouwen op technische akoestische beschrijvers of tijd-frequentiegebieden die voor clinici moeilijk te vertalen zijn naar perceptuele constructen (bijv. consonantprecisie, heesheid) die worden gebruikt bij klinische redenering.

Methodologie
Het artikel stelt Dys-XAI voor, een op invloed gebaseerd, instance-niveau verklaringsframework dat het perspectief van de verklaring verschuift van akoestische kenmerken naar trainingsinstanties. In plaats van te vragen welke kenmerken belangrijk waren, vraagt het framework welke trainingsmonsters een ondersteunende of tegenwerkende invloed uitoefenden op een specifieke voorspelling.

Taakformulering: De taak is gedefinieerd als een 4-klasse ordinale classificatie (Typisch, Mild, Matig, Ernstig) met behulp van de TORGO-dataset.
Berekening van invloed op instance-niveau: De auteurs maken gebruik van een gradiënt-gebaseerde methode voor invloestschatting. Door checkpoints $\{\theta_1, \dots, \theta_M\}$ te volgen die tijdens de training zijn opgeslagen, berekenen zij de invloed van een trainingsmonster $x_i$ op een testmonster $x_t$ als het cumulatieve inproduct van hun gradiënten:
$I_{i \to t} = \sum_{m=1}^{M} \nabla_\theta \ell(f_{\theta_m}(x_t), y_t)^\top \nabla_\theta \ell(f_{\theta_m}(x_i), y_i)$
Een positief inproduct duidt op een ondersteunende invloed (trainen op $x_i$ vermindert de loss op $x_t$ ), terwijl een negatief product duidt op een tegenwerkende invloed.
Aggregatiestrategieën:
1. Class-Level Aggregatie: Invloedscores worden geaggregeerd op basis van de ware ernst-labels van testmonsters om de ondersteunende versus concurrerende bijdragen over de ordinale schaal te kwantificeren. Dit produceert een $4 \times 4$ invloedsmatrix ( $S_{c \leftarrow c'}$ ) die laat zien hoe trainingsmonsters van ernst $c'$ de voorspellingen voor ernst $c$ beïnvloeden.
2. Model-Level Ordinale Sensitiviteit: Invloed wordt geaggregeerd op basis van ordinale afstand ( $d = |c - c'|$ ) om te beoordelen of het model de ordinale structuur respecteert (d.w.z. of de invloed afneemt naarmate de afstand tussen ernstniveaus groter wordt).
Validatie: Het framework wordt gevalideerd via gecontroleerde deletie-experimenten. De auteurs verwijderen selectief hoog-invloedrijke of laag-invloedrijke trainingsmonsters (5–20%) en trainen het model opnieuw om systematische verschuivingen in voorspellingen te observeren.

Belangrijkste Resultaten

Validatie van invloedscores: Gecontroleerde deletie-experimenten bevestigden de getrouwheid van de invloedscores.
- Verwijdering van hoog-invloedrijke monsters: Het verwijderen van de top 20% van de hoogst invloedrijke monsters veroorzaakte een ernstige prestatiedegradatie (bijv. de nauwkeurigheid voor de klasse 'Matig' daalde van 36,8% naar 0,3%; 'Erstig' daalde van 72,3% naar 43,1%).
- Verwijdering van laag-invloedrijke monsters: Het verwijderen van de onderste 20% van de monsters (lage invloed) verbeterde de prestaties, met name voor ambigue klassen (nauwkeurigheid voor 'Mild' verdrievoudigde van 5,5% naar 17,6%), wat suggereert dat deze monsters ruis of foutief gelabelde data bevatten.
Cross-Severity Invloedspatronen: De class-level invloedsmatrix onthulde een twee-traps structuur:
- Binaire Distinctie: Typische spraak is geïsoleerd; het ontvangt alleen positieve invloed van andere typische monsters en negatieve invloed van alle dysarthrische niveaus.
- Ordinale Gradatie: Dysarthrische niveaus (Mild, Matig, Ernstig) vertonen wederzijdse positieve invloed, wat aangeeft dat het model gedeelde akoestische kenmerken over het dysarthrische continuüm herkent.
Ordinale Sensitiviteit: De gemiddelde invloed $\bar{S}(d)$ nam monotoon af met de ordinale afstand ( $d$ ). De invloed op hetzelfde niveau was 13 keer sterker dan de invloed op het aangrenzende niveau, en de invloed werd negatief voor verre niveaus ( $d \ge 2$ ), wat bevestigt dat het model ernst codeert als een geordend continuüm in plaats van nominale categorieën.
Casestudy & Dataset Audit: In een kwalitatieve vergelijking bood de voorgestelde methode gerangschikte audio-referenties, terwijl SHAP oninterpreteerbare scores voor akoestische beschrijvers leverde. Opvallend genoeg identificeerde de invloedsrangschikking dat "bijna stille" opnames van ernstige sprekers behoren tot de meest invloedrijke monsters voor ernstige voorspellingen. Dit onthulde een spuriave associatie die door het model was geleerd (stilte $\to$ ernstig), wat het nut van het framework voor dataset-auditing aantoont.

Betekenis en Claims
Het artikel claimt dat Dys-XAI auditbare verklaringen biedt door modelbeslissingen te koppelen aan waarneembare referentiegevallen (audio-opnames) in plaats van abstracte feature-scores. Dit sluit aan bij klinische redenering, waarbij oordelen vaak worden gerechtvaardigd door vergelijking met prototypele voorbeelden.

De auteurs benadrukken dat deze aanpak:

Expliciet de ordinaliteit behandelt: Door invloed te aggregeren per ernst-label, legt het framework de relationele bewijslast tussen aangrenzende en verre ernstniveaus bloot.
Perceptuele Verificatie mogelijk maakt: Clinici kunnen direct luisteren naar ondersteunende en concurrerende trainingsmonsters om te verifiëren of de beslissing van het model overeenkomt met klinische markers.
Data-problemen identificeert: Het framework dient als een instrument voor dataset-auditing, in staat om spuriave correlaties (bijv. stilte geassocieerd met ernst) aan het licht te brengen die feature-gebaseerde methoden mogelijk missen.

Dit werk wordt gepresenteerd als een stap naar het overbruggen van de kloof tussen hoogwaardige deep learning-modellen en de transparantie die vereist is voor klinische implementatie bij de beoordeling van dysartrie.