AudioSAE: Towards Understanding of Audio-Processing Models with Sparse AutoEncoders

Technische Samenvatting: AudioSAE

Probleemstelling
Hoewel Sparse Autoencoders (SAEs) een standaardinstrument zijn geworden voor het interpreteren van dichte neurale representaties in Natural Language Processing (NLP) en Computer Vision, blijft hun toepassing op audioverwerkingsmodellen aanzienlijk onderbelicht. Bestaande audiomodellen, zoals Whisper en HuBERT, leren complexe representaties van ruwe audio voor taken zoals spraakherkenning en algemeen audiobegrip. De interne mechanismen van deze modellen—specifiek hoe ze akoestische, semantische en paralinguïstische informatie coderen—missen echter systematische interpreteerbaarheid. Huidige methoden vertrouwen vaak op neuron-niveau analyse of embedding clustering, wat mogelijk niet effectief de polysemantische kenmerken ontwarrelt die inherent zijn aan transformer-lagen. Er is een behoefte om te bepalen of SAEs er succesvol in kunnen slagen audio-representaties te deconstrueren in ijle (sparse), interpreteerbare en actiegerichte componenten.

Methodologie
De auteurs trainen Sparse Autoencoders op de encoder-activaties van twee prominente audiomodellen: Whisper (een encoder-decoder Transformer getraind op 680k uur meertalige spraak) en HuBERT (een encoder-only Transformer getraind op 60k uur Engelse spraak).

• Architectuur & Training: De SAEs maken gebruik van een Batch-Top-k niet-lineariteit, die empirisch werd gekozen vanwege de superieure balans tussen reconstructiekwaliteit en ijlheid (sparsity) vergeleken met Jump-ReLU en Top-k. De modellen worden getraind met een L2-reconstructieverlies zonder hulp-regularisatie op een diverse corpus van ~2,8k uur audio (spraak, muziek, omgevingsgeluiden).
• Evaluatiekader: De studie hanteert een veelzijdige evaluatiestrategie, aangepast van NLP-benchmarks (Karvonen et al., 2025):
  1. Stabiliteit: Een distributie-gelijkenismetriek (Intersection-over-Union van binaire activatiepatronen) meet de consistentie van kenmerken (features) over verschillende random seeds, lagen en modelarchitecturen.
  2. Domeinspecialisatie: Kenmerken worden gecategoriseerd op basis van activatiefrequentie over spraak-, muziek- en omgevingsgeluid-domeinen op zowel frame- als audioniveau.
  3. Interpreteerbaarheid: De auteurs maken gebruik van top-k probing, unlearning (het verwijderen van kenmerken), handmatige inspectie van top-geactiveerde samples, foneem-uitlijning en auto-interpretatie via audio-captioning en Large Language Models (LLMs).
  4. Praktisch Nut: De SAEs worden gebruikt om het Whisper-model te sturen (steer) om hallucinaties te verminderen (valse spraakdetectie in niet-spraak segmenten).
  5. Neurowetenschappelijke Afstemming: SAE-kenmerken worden gecorreleerd met menselijke EEG-activiteit tijdens spraakperceptie met behulp van Temporal Response Functions (TRFs).

Belangrijkste Bijdragen

1. Eerste grootschalige Audio SAE-analyse: Het artikel biedt de eerste systematische training en analyse van SAEs over alle encoder-lagen van Whisper en HuBERT, en maakt de modellen en code openbaar.
2. Validatie van Stabiliteit en Ontwarring: De auteurs demonstreren dat meer dan 50% van de SAE-kenmerken consistent blijft over verschillende random seeds. Ze tonen aan dat deze kenmerken effectief algemene akoestische/semantische informatie ontwarren van specifieke gebeurtenissen (bijv. lachen, fluisteren, niezen).
3. Kwantitatieve Unlearning: De studie kwantificeert de "kosten" van het wissen van concepten in audiomodellen. Het verwijderen van specifieke spraakconcepten (bijv. de klinker "A") vereist het onderdrukken van 19–27% van de kenmerken, wat wijst op een hogere redundantie en een meer gedistribueerde aard van fonetische informatie vergeleken met tekstgebaseerde SAEs.
4. Praktische Sturing: De auteurs passen de SAE-kenmerken succesvol toe om de hallucinaties (valse spraakdetecties) van Whisper met 70% te verminderen (de False Positive Rate verlagen van 0,37 naar 0,11) met een verwaarloosbare impact op de Word Error Rate (WER).
5. Neurale Correlatie: Het werk vestigt een statistisch significante correlatie tussen specifieke SAE-kenmerken en menselijke EEG-activiteit (specifiek de Pz-elektrode) tijdens spraakperceptie, wat suggereert dat de geleerde kenmerken overeenkomen met menselijke neurale verwerking.

Resultaten

• Kenmerkconsistentie: De overlap tussen checkpoints getraind met verschillende seeds overstijgt de 50%, wat de robuustheid bevestigt. Echter, de door HuBERT geleerde kenmerken komen niet overeen met die van Whisper, waarschijnlijk door verschillen in pre-training doelstellingen en data.
• Laerspecialisatie: Whisper vertoont een uitgesproken specialisatie voor muziekkenmerken in de middelste lagen (piek rond laag 5), terwijl spraakgerelateerde kenmerken duidelijke patronen vertonen op zowel frame- als audioniveau.
• Semantische Capturing: SAE-kenmerken coderen succesvol fonemen (met een nauwkeurigheid van ~0,9 in foneem-uitlijning) en paralinguïstische geluiden. Auto-interpretatie via captioning identificeerde unieke akoestische gebeurtenissen zoals "ringende alarmen" en "vogels die fluiten", hoewel het moeite had met fijnmazige fonetische details vanwege de beperkingen van het onderliggende captioning-model.
• Reductie van Hallucinaties: Het sturen van de top-100 SAE-kenmerken in Whisper verminderde de False Positive Rate (FPR) met 70% over niet-spraak datasets (Musan, FSD50k, WHAM), terwijl de stijging in WER minder dan 0,4% bedroeg (van 5,1% naar 5,5%).
• EEG-correlatie: Specifieke SAE-kenmerken vertoonden een significante correlatie met EEG-signalen bij tijd-lags tussen 0 en 500 ms, met name voor kenmerken die activeren op specifieke klinkers.

Betekenis en Claims
Het artikel beweert een kritiek gat in de interpreteerbaarheid van audiomodellen te vullen door aan te tonen dat SAEs effectieve instrumenten zijn voor het deconstrueren van dichte audio-representaties. De auteurs stellen dat hun werk bewijst dat SAE-kenmerken een dubbele rol dienen: als interpreteerbare eenheden die onthullen hoe modellen akoestische en semantische informatie coderen, en als actiegerichte hendels voor het sturen van modelgedrag (bijv. het verminderen van hallucinaties). Bovendien suggereert de correlatie met EEG-activiteit dat deze geleerde kenmerken overeenkomen met menselijke neurale verwerking, wat een brug slaat tussen kunstmatige en biologische audio-perceptie. De auteurs houden een bescheiden standpunt en erkennen dat hun evaluatie beperkt is tot specifieke classificatietaken en base/small model varianten, en dat toekomstig werk nodig is om bredere audio-taken en meer geavanceerde breinmodellen te verkennen.