Efficient Solutions for Mitigating Initialization Bias in Unsupervised Self-Adaptive Auditory Attention Decoding

Technische Samenvatting: Efficiënte oplossingen voor het mitigeren van initialisatiebias in ongesuperviseerde zelf-adaptieve auditieve aandachtdecodering

Probleemstelling
Auditieve Aandachtdecodering (AAD) beoogt de spreker te identificeren waar een gebruiker de aandacht op heeft gericht in een omgeving met meerdere sprekers, een capaciteit die cruciaal is voor neuro-gestuurde gehoorapparaten. De huidige state-of-the-art methoden vereisen doorgaans gesuperviseerde training met grondwaarheid-labels van de beluisterde spreker, wat tijdrovende kalibratiesessies voor elke gebruiker en EEG-opstelling noodzakelijk maakt. Om deze afhankelijkheid te elimineren, is ongesuperviseerde zelf-adaptieve AAD gebaseerd op stimulusreconstructie ontwikkeld. Deze aanpak initialiseert een decoder met willekeurige aandachtlabels en verfijnt het model iteratief met nieuw voorspelde labels.

Echter, dit ongesuperviseerde zelf-adaptieve proces lijdt aan initialisatiebias. Omdat het model over verschillende iteraties heen traint en test op dezelfde data, heeft het de neiging om initiële (mogelijk incorrecte) voorspellingen te versterken, waardoor het systeem in een suboptimale staat kan blijven steken. Een eerdere oplossing door Heintz et al. [8] pakte dit aan door leave-one-out kruisvalidatie binnen elke iteratie te implementeren, maar deze aanpak introduceert een substantiële computationele complexiteit die lineair schaalt met het aantal datasegmenten ($K$), wat onpraktisch is voor real-time of tijd-adaptieve toepassingen.

Methodologie
Het artikel stelt drie computationeel efficiënte alternatieven voor op basis van Canonieke Correlatie Analyse (CCA) die de initialisatiebias mitigeren zonder de zware computationele overhead van kruisvalidatie. De methoden werken in een scenario met 2 sprekers (generaliseerbaar naar $N$ sprekers) waarbij EEG-signalen ($X$) en spraakkenmerken ($S_1, S_2$) in segmenten worden verwerkt.

1. Versie met twee encoders:
   In tegenstelling tot het baseline single-encoder model dat alleen optimaliseert voor de kenmerken van de beluisterde spreker ($S_a$), introduceert deze variant een tweede encoder voor de kenmerken van de niet-beluisterde spreker ($S_u$). Beide encoders delen een enkele EEG-decoder ($W_x$). Het doel is om de correlatie tussen de EEG en de kenmerken van beide sprekers gezamenlijk te maximaliseren. De hypothese is dat door de decoder te dwingen rekening te houden met de responsen op beide spkers, het model minder vatbaar wordt om "aangetrokken" te worden door foutief gelabelde aandachtspraak, waardoor de robuustheid tegen labelfouten en het vermogen om te herstellen van initiële fouten toeneemt.

2. Soft-versie:
   In plaats van harde binaire to assignments te maken (aandacht voor Spreker 1 of 2) voor elk segment, wijst deze methode probabilistische gewichten ($p_{1k}, p_{2k}$) toe op basis van voorspellingsonzekerheid. De statistieken die voor CCA worden gebruikt ($R_{xa}$ en $R_{aa}$) worden berekend met een gewogen som van de spraakkenmerken ($p_{1k}S_{1k} + p_{2k}S_{2k}$). De waarschijnlijkheden worden geschat via een onderwerp-specifieke, ongesuperviseerde aanpak die de distributie van canonieke correlaties voor beluisterde en niet-beluisterde sprekers modelleert als twee Gaussische distributies. Dit biedt een principieel middenpad, waarbij de optimale single-encoder structuur behouden blijft terwijl informatie van beide sprekers adaptief wordt geïncorporeerd wanneer het model onzeker is.

3. Som-geïnitialiseerde single-encoder:
   Deze aanpak adresseert de bias bij de allereerste stap. In plaats van te initialiseren met willekeurige labels, wordt het model in de eerste iteratie getraind met een samengesteld signaal gevormd door de som van de kenmerken van beide sprekers. Dit komt overeen met het instellen van de initiële waarschijnlijkheden op $p_{1k} = p_{2k} = 0,5$. De hypothese is dat dit een informatieve startpositie biedt die veelvoorkomende neurale responsen van beide sprekers vastlegt, waardoor de zelfversterkende labelbias die voortkomt uit willekeurige initiële label-initialisatie wordt voorkomen.

Belangrijkste bijdragen

• Algoritmische Efficiëntie: Het artikel presenteert drie methoden die prestaties evenaren van de kruisvalidatie-baseline [8], maar met aanzienlijk lagere en constante computationele kosten.
• Schaalbaarheid: In tegen tegen de kruisvalidatie-methode, waarvan de computationele tijd lineair schaalt met de datasetgrootte (het vereist $K$ modeltrainingen per iteratie), vereisen de voorgestelde methoden slechts één enkele modeltraining per iteratie.
• Mitigatie van Bias: De voorgestelde varianten slagen erin de cyclus van initialisatiebias die inherent is aan standaard zelf-adaptieve AAD te doorbreken, waardoor het model kan convergeren naar kwalitatief betere oplossingen zonder dure inner-loop kruisvalidatie.

Experimentele Resultaten
De methoden werden geëvalueerd op een publieke dataset met 64-kanaals EEG-opnames van 16 subjecten die aandacht hadden voor een van de twee concurrerende sprekers. Prestaties werden gemeten in zowel transductieve (voorspellen op trainingsdata) als inductieve (generaliseren naar onziene data) settings.

• Nauwkeurigheid:
  • De Som-geïnitialiseerde single-encoder presteerde consequent beter dan de Two-Encoder methode en was bijzonder effectief bij beperkte trainingsdata (5–15 minuten).
  • De Soft-versie presteerde minder goed op kleine datasets, maar benaderde de nauwkeurigheid van de kruisvalidatie-variant naarmate de omvang van de trainingsset toenam.
  • Over het algemeen leverde het verwijderen van de initialisatiebias meer uitgesproken verbeteringen op voor transductieve decodering.
• Computationele Kosten:
  • De CPU-tijd van de kruisvalidatie-baseline schaalde lineair en bereikte ongeveer 30 keer de baseline-kosten voor 45 minuten aan trainingssets.
  • De Two-Encoder en Soft methoden behielden een constante genormaliseerde CPU-tijd van ongeveer 1,5× de baseline, ongeacht de omvang van de data.
  • De Sum-Initialized methode kwam overeen met de computationele kosten van de baseline (1,0×).

Betekenis en Claims
De auteurs beweren dat deze oplossingen ongesuperviseerde zelf-adaptieve AAD aanzienlijk levensvatbaarder maken voor real-time of tijd-adaptieve implementaties [9]. Door de noodzaak van dure kruisvalidatie te elimineren en tegelijkertijd robuustheid te behouden tegen initialisatiebias, bieden de voorgestelde methoden een praktisch pad voor de inzet van neuro-gestuurde gehoorapparaten zonder de last van frequente, gelabelde kalibratiesessies. Het artikel benadrukt dat voor kleinere datasets de Sum-Initialized aanpak de beste presteerder is met minimale computationele overhead, terwijl de Soft-label methode competitief wordt voor grotere datasets, wat een laag-kosten alternatief biedt voor de kruisvalidatie gold standard.