🤖 machine learning

Interpreting and Steering a Text-to-Speech Language Model with Sparse Autoencoders

Dit artikel demonstreert dat het trainen van sparse autoencoders op de backbone van een text-to-speech taalmodel interpreteerbare, modaliteitsbewuste kenmerken oplevert die causaal gestuurd kunnen worden om specifieke synthese-attributen zoals lachen, spreekgestalte en spraaksnelheid te controleren, terwijl de inhoud behouden blijft.

Oorspronkelijke auteurs: Nikita Koriagin, Georgii Aparin, Nikita Balagansky, Daniil Gavrilov

Gepubliceerd 2026-06-10

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Nikita Koriagin, Georgii Aparin, Nikita Balagansky, Daniil Gavrilov

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een Text-to-Speech (TTS) systeem voor zoals CosyVoice3, als een zeer bekwame, maar enigszins mysterieuze orkestdirigent. Deze dirigent leest een geschreven script (de tekst) en stuurt vervolgens een onzichtbaar orkest aan om exact de klanken van menselijke spraak te spelen. Lange tijd wisten we dat de dirigent de klus kon klaren, maar begrepen we niet hoe het brein van de dirigent werkte wanneer hij schakelde tussen het lezen van de noten en het horen van de muziek.

Dit paper is alsof we een paar "röntgenbrillen" op het brein van die dirigent hebben gezet om precies te zien wat er binnenin gebeurt.

Hier is een uitsplitsing van wat de onderzoekers hebben gedaan, met behulp van eenvoudige analogieën:

1. Het Probleem: Een Verward Brein

Normaal gesproken zijn AI-modellen voor tekst en AI-modellen voor spraak gescheiden. Maar moderne systemen zoals CosyVoice3 gebruiken één groot brein (een taalmodel) om beide te doen. Het leest je tekstprompt en genereert vervolgens spraak-tokens (kleine stukjes geluid) één voor één.

De Analogie: Stel je een chef voor die een maaltijd kookt terwijl hij tegelijkertijd een recept schrijft. Het brein van de chef doet twee heel verschillende dingen tegelijkertijd: nadenken over woorden (het recept) en nadenken over smaken (het koken). De onderzoekers wilden weten: Welk deel van het brein van de chef denkt over de woorden, en welk deel denkt over het sissen van de pan?

2. Het Gereedschap: De "Kenmerkensorteerder" (Sparse Autoencoders)

Om dit op te lossen, gebruikten de onderzoekers een hulpmiddel genaamd een Sparse Autoencoder (SAE).

De Analogie: Denk aan het AI-brein als een enorme, rommelige opslagplaats waar miljoenen ideeën in één grote hoop liggen. Het is moeilijk om daar iets in te vinden. De SAE is als een supergeorganiseerde bibliothecaris die die rommelige hoop pakt en elk afzonderlijk item in zijn eigen gelabelde doos sorteert.
In plaats van een doos met "alles over spraak", creëert de bibliothecaris specifieke dozen zoals: "Doos voor het geluid van lachen", "Doos voor de letter 'B'", of "Doos voor een Brits accent".
Ze hebben deze bibliothecaris getraind op ongeveer 250 miljoen woorden en geluiden om ervoor te zorgen dat de sortering nauwkeurig was.

3. De Ontdekking: Sorteren op "Smaak"

Zodra ze deze gesorteerde dozen (kenmerken) hadden, moesten ze weten wat elke doos precies deed. Ze gebruikten een AI-assistent om naar de inhoud van elke doos te kijken en een label te schrijven.

Het Resultaat: Ze vonden drie soorten dozen:
- Tekstdozen: Deze lichten alleen op wanneer de AI de geschreven instructies leest (bijv. het zien van het woord "Brits" of een specifiek leesteken).
- Audiodozen: Deze lichten alleen op wanneer de AI geluid genereert (bijv. het horen van een lach, een hapering of een specifieke klinker).
- Gemengde dozen: Deze lichten op wanneer de tekst en het geluid direct aan elkaar gekoppeld zijn (bijv. de tekst zegt "lach" en de AI genereert een lach).

De Reis Laag voor Laag:
De onderzoekers keken naar de AI laag voor laag (zoals kijken naar verschillende verdiepingen van een wolkenkrabber).

Onderste verdiepingen: Vooral gemengd (lezen en nadenken over geluid tegelijkertijd).
Middelste verdiepingen: Vooral gefocust op het daadwerkelijke geluid dat wordt gemaakt (de "audio"-dozen domineren).
Bovenste verdiepingen: Verrassend genoeg gaat het weer vooral over de tekststructuur.
De Les: De AI voert de tekst niet alleen door; de AI transformeert de tekst actief in geluid naarmate hij dieper gaat, en organiseert vervolgens de uiteindelijke output.

4. De Magische Truc: "Sturen" van de AI

Het meest opwindende deel is dat ze deze dozen niet alleen bekeken; ze duwden erop.

De Analogie: Stel je voor dat de AI een auto is. Normaal gesproken trap je alleen het gaspedaal in (geef het een prompt). Maar met dit hulpmiddel ontdekten de onderzoekers de specifieke knoppen op het dashboard die bepaalde zaken regelen.
Wat ze deden:
- De Lachknop: Ze draaiden de "Lach"-doos omhoog. Plotseling begon de AI te lachen, zelfs als de tekst er niet om vroeg. Ze konden de AI in 79% van de gevallen laten lachen door simpelweg deze knop omhoog te draaien.
- De Geslachtsknop: Ze draaiden aan een knop die het geslacht van de stem veranderde. Ze konden een mannelijke stem nemen en deze vrouwelijk laten klinken, of andersom, zonder de woorden te veranderen.
- De Snelheidsknop: Ze draaiden aan een knop om de spraak heel langzaam of heel snel te maken, terwijl de woorden exact hetzelfde bleven.

Waarom dit Belangrijk is

Vóór dit moment dachten we dat deze AI-kenmerken slechts beschrijvingen waren (zoals een spiegel die reflecteert wat de AI doet). Dit paper bewijst dat ze causale controles zijn (zoals een stuur).

De Conclusie: Door deze specifieke "dozen" in het brein van de AI te vinden, kunnen we niet alleen begrijpen wat de AI denkt, maar kunnen we hem ook fysiek aansturen om precies te doen wat we willen — hem laten lachen, zijn stem veranderen of sneller praten — zonder de rest van het systeem te breken.

Kortom: De onderzoekers hebben een kaart van het AI-brein gemaakt, elke kamer gelabeld, en hebben ons daarna laten zien hoe we die kamers kunnen betreden en de schakelaars kunnen omzetten om de stem van de robot te besturen.

Technische Samenvatting: Het interpreteren en sturen van een Tekst-naar-Spraak Taalmodel met Sparse Autoencoders

Probleemstelling

Large Language Models (LLMs) dienen steeds vaker als de ruggengraat voor Text-to-Speech (TTS) systemen, zoals CosyVoice3. De interne representaties van deze modellen blijven echter slecht begrepen, vooral omdat ze gemengde sequenties verwerken waarbij tekstinstructies (prefix) en discrete spraaktokens een enkele residual stream delen. In tegenstelling tot standaard tekstgebaseerde LLM's moeten TTS-modellen tegelijkertijd syntactische/semantische informatie van de tekstprefix coderen en akoestische/prosodische eigenschappen van de gegenereerde spraak. Momenteel is er geen principiële methode om te identificeren welke interne kenmerken overeenkomen met tekstverwerking, spraakgeneratie of de interactie tussen beide.

Methodologie

De auteurs stellen een pijplijn voor om Sparse Autoencoders (SAEs) te trainen, te interpreteren en te sturen op de residual stream van een TTS-taalmodel.

1. Model en SAE-training

Basismodel: De studie maakt gebruik van CosyVoice3, die een Qwen2.5-0.5B ruggengraat hanteert (28 lagen, verborgen grootte 896). Het model neemt een getokeniseerde tekstprompt en genereert autoregressief 25 Hz discrete spraaktokens.
SAE-architectuur: BatchTopK SAE's (dictionary grootte $d=16.384$ , $k=50$ actieve kenmerken per token) worden getraind op ongeveer 250 miljoen tokens uit de Emilia-dataset.
Trainingsdoel: Standaard reconstructieverlies gecombineerd met sparsity-beperkingen en een aanvullende dead-feature loss.

2. Modality-Aware Auto-Interp Pijplijn

Om de gemengde aard van TTS-inputs aan te pakken, passen de auteurs de automatische interpretatie (auto-interp) workflow aan:

Bewijsextractie: Voor elk kenmerk identificeert het systeem de hoogst activerende tokenposities. Deze worden omgezet in modaliteit-specifiek bewijs:
- Tekst-modal: Gemarkeerde tokenvensters uit de instructie/transcriptie prefix.
- Audio-modal: 1-seconde audiofragmenten gecentreerd rond de actieve spraaktoken.
- Gemengd: Zowel tekstcontext als audiofragmenten.
Kenmerk-tagging: Kenmerken worden gecategoriseerd op basis van de empirische compositie van hun sterkste activaties:
- Audio-modal: $\ge 80\%$ spraak-tokenposities.
- Tekst-modal: $\le 20\%$ spraak-tokenposities.
- Gemengd: Tussenliggende ratio's.
Automatische labeling: Een modaliteit-bewuste prompt wordt naar Gemini 3.0 Pro gestuurd. De prompt levert bewijs specifiek voor de modaliteit van het kenmerk (tekst, audio of beide) en vraat om een beknopte beschrijving van de consistente eigenschap die geassocieerd wordt met de activatie.
Evaluatie: Labels worden geëvalueerd met een detectie-gebaseerd protocol waarbij een apart gehouden scorer (ook Gemini 3.0 Pro) beoordeelt hoe goed geschudde positieve en negatieve bewijsstukken matchen met de voorgestelde label. Metrieken omvatten AUROC en gebalanceerde accuratesse.

3. Sturingsmechanisme

Om causaliteit te testen, grijpen de auteurs in de SAE latent space in tijdens de generatie:

Spraak-token residual staten worden gecodeerd door de bevroren SAE.
Geselecteerde kenmerkactivaties worden verschoven door een gesigneerde, genormaliseerde hoeveelheid die wordt gecontroleerd door een scalaire $\alpha$ .
De gewijzigde latent state wordt terug gedecodeerd naar de residual stream van het model.
Input tekst en spraakprompts blijven ongewijzigd.

Belangrijkste Bijdragen

SAE-training op TTS: De eerste toepassing van SAE's op de residual stream van een generatieve TTS taalmodel ruggengraat.
Modality-Aware Auto-Interp: Een nieuwe pijplijn die kenmerken labelt op basis van of ze activeren op tekstprefixes, spraakclips, of beide, wat de interpretatie van gemengde-modaliteit representaties mogelijk maakt.
Laag-gewijze Analyse: Een karakterisering van hoe kenmerk-modaliteiten evolueren over lagen, wat de opkomst van linguïstisch en akoestisch gegronde richtingen onthult.

Resultaten

Laag-gewijze Kenmerk-evolutie

Vroege/Middelste Lagen: Bevatten een hoog aandeel gemengde kenmerken, wat suggereert dat integratie van tekst en spraakinformatie plaatsvindt.
Lagen 16–20: Worden gedomineerd door audio-modale kenmerken, wat aangeeft dat sparse richtingen gekoppeld raken aan de gegenereerde spraak-token stream naarmate de akoestische voorspelling vorm krijgt.
Finale Lagen: De verborgen staat keert scherp terug naar een overwegend tekst-modale subspace.

Interpretatiekwaliteit

Tekst-modale kenmerken zijn het makkelijkst te verifiëren (AUROC 0.921) en vatten lexicale items, interpunctie, jaartallen en stem-prompt attributen samen.
Audio-modale kenmerken blijven boven toeval (AUROC 0.653) en identificeren fonemen, sprekergeslacht, lachen, stotteren, ademhalingen en accentkenmerken.
Gemengde kenmerken zijn het moeilijkst te labelen in aggregaat (AUROC 0.558) maar koppelen succesvol specifieke woorden of fonem-achtige gebeurtenissen over tekst en spraak heen.

Sturingsexperimenten

Gerichte interventies op specifieke laag-20 kenmerken demonstreerden causale controle over perceptuele spraakeigenschappen:

Lachen (Kenmerk 14834): Het verhogen van de sturingscoëfficiënt ( $\alpha = +60$ ) verhoogde de waarschijnlijkheid van lachen van 0.015 naar 0.791.
Sprekergeslacht (Kenmerk 11402): Sturing verschoof het waargenomen geslacht. Bij $\alpha = -50$ steeg de waarschijnlijkheid van "mannelijk" van 0.629 naar 0.944; bij $\alpha = +50$ daalde het naar 0.063. Dit effect hield stand ongeacht het geslacht van de oorspronkelijke prompt-spreker.
Spraaksnelheid (Kenmerk 3024): Sturing controleerde de duur van de stemgegeven segmenten (van 3.96s baseline naar 10.57s bij $\alpha = -50$ en 2.75s bij $\alpha = +50$ ) terwijl de gesproken inhoud behouden bleef.

Betekenis en Claims

Het artikel claimt dat SAE-kenmerken in TTS-modellen een dubbel doel dienen:

Interpretatie-objecten: Ze bieden een granulair overzicht van hoe TTS-backbones tekstsemantiek en akoestische eigenschappen scheiden en combineren.
Controle-richtingen: De kenmerken zijn niet louter beschrijvend; het interveniëren op hun latente activaties maakt causale controle over specifieke perceptuele attributen (lachen, geslacht, snelheid) mogelijk zonder de inputtekst of inhoud te wijzigen.

De auteurs merken op dat dit werk de eerste SAE-analyse is van een generatieve TTS LM ruggengraat, wat een schaalbaar pad biedt naar het begrijpen en controleren van mixed-modality generatie.

Beperkingen

De auteurs erkennen verschillende beperkingen:

Model-specificiteit: Resultaten zijn beperkt tot CosyVoice3-0.5B en mogelijk niet overdraagbaar naar grotere modellen.
Evaluatie-circulariteit: Zowel de labeler als de scorer gebruiken hetzelfde Gemini-model, wat systematische hallucinaties kan veroorzaken en scores kan opblazen; menselijke evaluatie is noodzakelijk.
Partiële Sweep: Detectie-gebaseerde auto-interp scores zijn alleen beschikbaar voor een voltooide subset van lagen.
Temporele Resolutie: Spraak-token timestamps zijn op 25 Hz, wat de lokalisatie van sub-token (40 ms) akoestische onsets bemoeilijkt.
Negatieve Sampling: Negatieven worden getrokken uit andere kenmerken, wat de label-specificiteit test maar niet de robuustheid tegen representatie-naburige confounders.