Explainable AI in Speaker Recognition -- Attention Map Visualisation and Evaluation

Technische Samenvatting: Explainable AI in Spraakherkenning – Visualisatie en Evaluatie van Attention Maps

Probleemstelling
Explainable AI (XAI) streeft ernaar de besluitvormingsprocessen van neurale netwerken transparant te maken. In de context van spraakherkenning wordt aangenomen dat neurale netwerken beschikken over een aandachtmechanisme (attention mechanism) dat vergelijkbaar is met dat van mensen, waarbij ze selectief relevante informatie verwerken (bijv. specifieke regio's van een audio-spectrogram) om de identiteit van een spreker te bepalen. Hoewel Class Activation Map (CAM)-gebaseerde methoden zoals GradCAM en LayerCAM breed worden gebruikt om deze aandachtmechanismen te visualiseren, blijft de evaluatie van de resulterende attention maps onderbelicht. Bestaande evaluatiealgoritmen, zoals Randomised Input Sampling for Explanation - Evaluation (RISE-eval), lijden aan specifieke beperkingen: ze kunnen onde indistinguisabele resultaten produceren onder bepaalde strategieën (bijv. de insertiestrategie) en introduceren irrelevante factoren (bijv. overmaskering met waarden nabij nul) die de evaluatie van de kwaliteit van de map verstoren.

Methodologie
Het artikel stelt een systematisch kader voor het analyseren en evalueren van attention maps in spraakherkenning voor, bestaande uit twee hoofdfasen: visualisatie en evaluatie.

1. Visualisatie van Attention Maps:
   De studie maakt gebruik van een op ResNet34 gebaseerd Convolutioneel Neuraal Netwerk (CNN) dat getraind is op de VoxCeleb2-dataset voor spraakherkenning. Twee representatieve CAM-gebaseerde methoden worden toegepast om de aandacht van het netwerk op vier verschillende ResNet-lagen te visualiseren:

   • GradCAM: Berekent een gewogen som van activatiemaps met behulp van global average pooling van gradiënten.
   • LayerCAM: Berekent een gewogen som door gradiënten elementgewijs te vermenigvuldigen met activatiewaarden, waardoor ruimtelijk variërende gewichten binnen kanalen mogelijk zijn.
     Deze methoden genereren heatmaps (attention maps) die de inputregio's (spectrogramframes) markeren die als belangrijk worden beschouwd voor het classificeren van een specifieke spreker.

2. Evaluatie van Attention Maps (Gemodificeerde RISE-eval):
   De auteurs bekritiseren het oorspronkelijke RISE-eval algoritme, dat inputregio's progressief maskeert op basis van attention maps om de prestatiedegradatie te meten. Zij identificeren twee belangrijke problemen:

   • Onde indistinguisbaarheid: De "insertiestrategie" (het progressief onthullen van gemaskeerde regio's) levert vaak overlappende prestatiecurves op, wat het moeilijk maakt om de kwaliteit van de maps te onderscheiden.
   • Irrelevante Factoren: De oorspronkelijke methode maskeert tot 100% van de input, inclus�# van pixels met een bijna nul-waarde. Deze "overmaskering" introduceert effectief willekeurige ruis, waardoor de evaluatie afdwaalt van het werkelijke aandachtmechanisme.

   Om dit aan te pakken, stellen de auteurs Gemodificeerde RISE-eval voor:

   • Strategiekeuze: De insertiestrategie wordt volledig verwijderd; alleen de deletiestrategie (het progressief maskeren van hoogwaardige regio's) wordt behouden.
   • Drempelmechanisme: Een drempelwaarde ($t$) wordt geïntroduceerd om pixels met lage waarden te filteren. Alleen pixels met attention-waarden boven $t$ worden gesampled voor maskering. Dit voorkomt de introductie van willekeurige ruis en zorgt ervoor dat de evaluatie zich richt op de regio's waar het netwerk daadwerkelijk op let.
   • Scoring: De evaluatiescore wordt berekend op basis van de oppervlakte onder de "masking performance curve" (classificatienauwkeurigheid versus maskeerratio), waarbij specifiek meer gewicht wordt toegekend aan prestatiedalingen die optreden bij lagere maskeerratio's.

Belangrijkste Resultaten
De studie evalueert GradCAM en LayerCAM over vier ResNet-lagen met behulp van het Gemodificeerde RISE-eval algoritme op een spraakherkenningstaak bestaande uit geconcateneerde uitingen van twee sprekers.

• Visualisatieprestaties:

  • Laag 1 & 2: LayerCAM produceert attention maps die een grotere degradatie in de prestaties van het model veroorzaken wanneer ze gemaskeerd worden, wat aangeeft dat het kritieke regio's in ondiepere lagen beter identificeert.
  • Laag 3: Beide methoden presteren vergelijkbaar.
  • Laag 4 (Finale Laag): GradCAM presteert beter dan LayerCAM. De attention maps van GradCAM veroorzaken een steilere prestatiedaling, wat suggereert dat het nauwkeuriger de regio's markeert die de uiteindelijke beslissing werkelijk beïnvloeden.
  • Class-Discriminatieve Bekwaamheid: Visuele inspectie laat zien dat de Laag 4 GradCAM maps een sterke class-discriminatieve bekwaamheid vertonen, waarbij ze de doelspreker-regio in geconcateneerde spectrogrammen accuraat lokaliseren, terwijl de Laag 1 maps minder onderscheidend zijn.

• Kwantitatieve Scores:
  De Gemodificeerde RISE-eval scores bevestigen de trend: LayerCAM behaalt hogere scores voor de lagen 1, 2 en 3, terwijl GradCAM de hoogste score behaalt voor laag 4.

Betekenis en Claims
Het artikel claimt de volgende bijdragen en inzichten:

1. Systematische Review en Verbetering: Het biedt een toegewijde review van het RISE-eval algoritme, waarbij specifieke gebreken (onde indistinguisbaarheid en overmaskering) worden geïdentificeerd en een Gemodificeerde RISE-eval wordt voorgesteld om deze op te lossen.
2. Laagafhankelijke Prestaties: De studie toont aan dat de effectiviteit van methoden voor de visualisatie van attention maps laagafhankelijk is. Er is niet één "beste" methode; LayerCAM is superieur voor het analyseren van aandacht in ondiepere lagen, terwijl GradCAM superieur is voor de finale beslissingslaag.
3. Evaluatieparadigma: Het vestigt een methodologie waarbij het netwerk zelf de attention map valideert door de impact van maskering op zijn eigen prestaties te meten, in plaats van enkel te vertrouwen op menselijke annotatie of visuele controles van de class-discriminatieve eigenschappen.
4. Beperkingen en Toekomstig Werk: De auteurs merken bescheiden op dat hoewel Gemodificeerde RISE-eval verbeteringen biedt ten opzichte van RISE-eval, er een bias bestaat waarbij kaarten van ondiepere lagen (die fijner van korrel en dekken niet-stille regio's zoals formant-gebieden) bevoordeeld kunnen worden boven kaarten van diepere lagen (die grover zijn) vanwege de aard van het maskeerproces. Zij erkennen dat het interpreteren van wat de gevisualiseerde aandacht werkelijk vertegenwoordigt voor menselijk begrip een open theoretische uitdaging blijft.

Het werk concludeert dat voor taken in spraakherkenning, beoefenaars de visualisatiemethode moeten selecteren op basis van de specifieke geanalyseerde netwerklaag, waarbij Gemodificeerde RISE-eval als een robuust instrument voor kwaliteitsbeoordeling dient.