Discovering and Steering Interpretable Concepts in Large Generative Music Models

Dit paper introduceert een schaalbare methode met behulp van sparse autoencoders om interpreteerbare concepten in autoregressieve muziekmodellen te ontdekken en te sturen, waardoor zowel bekende muziektheorieën als nieuwe, onbekende patronen aan het licht worden gebracht.

De kern

Stel je voor dat je een enorme, magische muziekmachine hebt. Deze machine, een kunstmatige intelligentie (AI), kan prachtige muziek maken die klinkt alsof het door mensen is gecomponeerd. Maar er is een groot mysterie: we weten niet precies hoe deze machine in haar hoofd denkt. Het is een "zwarte doos". We geven haar een opdracht (bijvoorbeeld: "Maak een vrolijk liedje"), en ze doet het, maar we zien niet welke interne knoppen ze omdraait om dat resultaat te bereiken.

Deze paper, geschreven door onderzoekers van Dartmouth College en MIT, probeert die zwarte doos open te maken. Ze willen niet alleen kijken wat de machine doet, maar wat ze eigenlijk begrijpt.

Hier is hoe ze dat doen, vertaald in alledaagse taal:

1. De "Binnenkant" van de Machine inspecteren

Stel je de AI voor als een gigantisch, complex orgel met duizenden pijpen. Als de machine muziek maakt, stromen er signalen door deze pijpen. De onderzoekers hebben een slimme manier bedacht om te kijken welke pijpen er precies oplichten tijdens het maken van muziek.

Ze gebruiken een techniek die ze Sparse Autoencoders noemen. Dat klinkt ingewikkeld, maar het is eigenlijk als een super-slimme filter of een vergrootglas.

• Het probleem: De signalen in de machine zijn een chaotische soep van getallen.
• De oplossing: Ze gebruiken deze filter om de soep te scheiden in losse, duidelijke "deeltjes". Elke "deeltje" (of feature) vertegenwoordigt één specifiek idee dat de machine heeft geleerd.

2. Het "Dolend in het Donker" van de Machine

Vroeger dachten we dat AI's alleen dingen leerden die wij hen vertelden (zoals "dit is een gitaar" of "dit is jazz"). Maar deze onderzoekers ontdekten iets fascinerends: de machine heeft ook dingen geleerd die wij nooit hebben genoemd.

Het is alsof je een kind leert tekenen. Jij leert hem een "boom" te tekenen. Maar het kind ontdekt zelf ook dat er een specifiek soort "schaduwen" zijn die alleen bij zonsondergangen voorkomen, en dat noemen wij niet altijd bij het leren. De machine heeft zulke "schaduwen" ook gevonden.

Voorbeelden van wat ze vonden:

• Dinge die we kennen: De machine heeft duidelijk een knop voor "Rockgitaarsolo's" en een andere voor "Barokke klavecimbel". Dat is logisch.
• Dinge die we niet kennen: Ze vonden ook een knop voor "Elektronische piepjes en boops" (geluiden die in elektronische muziek veel voorkomen, maar waarvoor we geen specifieke theorie hebben). Of een knop voor "Eén instrument, één noot die lang doorgaat". Dit zijn patronen die de machine als één geheel ziet, maar waarvoor muzikanten nog geen officiële naam hebben.

3. De "Naamgever" (Automatisch Labelen)

Hoe weet je nu wat die knoppen betekenen? Je kunt niet 10.000 keer naar een knop luisteren en zelf een naam bedenken. Dat zou eeuwen duren.

Dus hebben ze een tweede AI ingeschakeld: een multimodale taalmodel (een slimme chatbot die ook kan luisteren).

• De onderzoekers geven de chatbot de 10 beste voorbeelden van muziek die een bepaalde knop aanmaakt.
• De chatbot luistert en zegt: "Ah, dit klinkt allemaal als 'Romantische pop-piano'!" of "Dit is 'Taiko-drummen'!".
• Zo krijgen duizenden onbekende knoppen automatisch een menselijke naam.

4. De "Afstandsbediening" (Sturen)

Het coolste deel: nu ze weten welke knop voor wat staat, kunnen ze de machine sturen.

Stel je voor dat je een radio hebt met een knop voor "Meer bas". In plaats van de radio te veranderen, duw je gewoon op die knop.

• De onderzoekers hebben ontdekt dat ze die specifieke "deeltjes" (features) kunnen manipuleren.
• Als ze de knop voor "Aggressieve Metal" een beetje omhoog draaien, verandert de muziek die de machine maakt direct in een metal-nummer, zelfs als ze de opdracht "Maak een simpel liedje" blijven geven.
• Dit betekent dat ze de creatieve intentie van de machine kunnen beïnvloeden zonder de hele machine opnieuw te hoeven programmeren.

Waarom is dit belangrijk?

Vroeger dachten we dat AI's alleen maar "naaien" (nabootsen) van wat ze hebben gehoord. Dit onderzoek laat zien dat deze machines echte theoretici zijn. Ze hebben hun eigen interne regels en concepten ontwikkeld over hoe muziek werkt.

Soms komen die regels overeen met wat wij weten (zoals akkoorden), maar soms vinden ze patronen die wij nog niet hebben bedacht. Het is alsof de machine ons een spiegel voorhoudt en zegt: "Kijk, jullie hebben dit nog nooit zo benoemd, maar het bestaat wel in de muziek."

Kort samengevat:
De onderzoekers hebben een "röntgenfoto" gemaakt van een muziekmachine, hebben de losse onderdelen benoemd met behulp van een slimme chatbot, en hebben ontdekt dat ze met deze kennis de machine kunnen sturen. Het is een stap van "blind vertrouwen" naar "begrijpend samenwerken" met kunstmatige intelligentie.

Technische samenvatting

Probleemstelling

De huidige generatieve modellen voor muziek (zoals MusicGen) zijn in staat om hoogwaardige audio te produceren door middel van statistisch leren, maar hun interne werking blijft grotendeels een "black box". Hoewel deze modellen impliciete theorieën over muziekstructuur lijken te hebben geleerd, ontbreekt het aan methoden om deze interne representaties te ontrafelen. Bestaande interpretatietechnieken (zoals "probing") richten zich vaak op het verifiëren van bekende concepten (bijv. akkoordprogressies of tempo), wat de kans vergroot dat we unieke, door het model geleerde patronen missen die niet in onze bestaande muzikale theorie of taal zijn vastgelegd. Er is een behoefte aan een onbewaakte (unsupervised) aanpak om zowel bekende als nieuwe, coherente muzikale concepten te ontdekken en te begrijpen hoe deze in de residu-stromen van transformer-modellen zijn gecodeerd.

Methodologie

De auteurs introduceren een meerstaps-pijplijn voor het ontdekken en sturen van interpreteerbare concepten in autoregressieve muziekmodellen. De kern van de methode is het gebruik van Sparse Autoencoders (SAE's) op de activaties van het residu van het model.

1. Data en Activatie-extractie:

   • Een groot corpus van muziek (ongeveer 160.000 clips uit MusicSet) wordt doorgegeven aan vooraf getrainde MusicGen-modellen (Small en Large).
   • Activatievectoren worden geëxtraheerd uit meerdere lagen van het residu (van vroege tot late lagen).

2. Training van Sparse Autoencoders (SAE):

   • SAE's worden getraind om de hoge-dimensionale activaties van het model te reconstrueren via een schaarse latente representatie.
   • De architectuur bestaat uit een encoder en decoder (lineaire lagen) met een $k$-sparsiteitsbeperking (k-sparse projection). Dit dwingt het model om "atomaire" concepten te leren in plaats van memorisatie.
   • Er worden verschillende configuraties getest met expansiefactoren ($\epsilon$) van 4 en 32, en sparsiteitsniveaus ($k$) van 32 en 100.

3. Filtering en Selectie:

   • Na training worden duizenden latent features gegenereerd. Een filtering-stap verwijdert features die niet bruikbaar zijn:
     • Inactief: Geen activatie in het validatieset.
     • Te algemeen: Activeert in >25% van de tracks (te diffuus).
     • Te zeldzaam: Activeert in <1% van de tracks (onvoldoende dekking).
   • Dit zorgt voor een set van selectieve en relevante features.

4. Automatische Labeling (Interpretatie):

   • Om de betekenis van een feature te bepalen, worden de top-10 muziekclips geïdentificeerd die het sterkst activeren.
   • Twee strategieën worden gebruikt voor labeling:
     • Generative Labeling: Een multimodaal LLM (Gemini Flash 1.5) analyseert de geluidsfragmenten en genereert conceptlabels, beschrijvingen en betrouwbaarheidsscores.
     • Classifier-based Labeling: Vooraf getrainde audio-classifiers (Essentia) leveren tags op (genre, instrument, stemming).
   • Validatie: De kwaliteit van de labels wordt gemeten met CLAP (Contrastive Language-Audio Pretraining) om de semantische alignatie tussen de label en de audio te beoordelen. Menselijke validatie bevestigt de betrouwbaarheid.

5. Steering (Sturing):

   • Om te testen of de ontdekte concepten causaal zijn, worden ze gebruikt om de modelgeneratie te sturen.
   • Dit gebeurt door de decoder-weights van een specifieke feature toe te voegen aan de residu-stroom tijdens de generatie ($x' = x + \alpha \cdot \beta \cdot W_{d,j}$).

Belangrijkste Bijdragen

1. Eerste toepassing van SAE's in Audio: Dit is, naar weten van de auteurs, de eerste toepassing van Sparse Autoencoders voor het ontdekken van concepten in audio/muziekmodellen, een domein dat complexer is dan tekst of beeld vanwege de hiërarchische tijdsstructuur.
2. Schaalbaar Onbewaakt Ontdekkingsproces: Een geautomatiseerde pijplijn die duizenden potentiële concepten kan labelen en valideren zonder menselijke tussenkomst, wat schaalbaarheid mogelijk maakt.
3. Ontdekking van Nieuwe Patronen: Het bewijs dat modellen niet alleen bekende concepten (zoals instrumenten of genres) coderen, maar ook coherente patronen die nog niet goed zijn beschreven in de muzikale theorie (bijv. specifieke productietechnieken of timbre-variaties).
4. Empirisch Inzicht in Schaal en Diepte: Analyse van hoe de interpretatie en distinctiviteit van features variëren met de modelgrootte (Small vs. Large) en de diepte van de lagen.
5. Demonstratie van Sturing: Bewijs dat deze ontdekte features direct kunnen worden gemanipuleerd om de output van het model te veranderen, wat de praktische bruikbaarheid voor controleerbare generatie aantoont.

Resultaten

• Statistieken: Na filtering bleven duizenden interpreteerbare features over (afhankelijk van model en configuratie). Het Large-model (MGL) produceerde aanzienlijk meer en beter gescheiden features dan het Small-model (MGS), wat suggereert dat schaal de interne organisatie van representaties verbetert.
• Interpreteerbare Concepten:
  • Bekende Concepten: De SAE's slaagden erin klassieke categorieën te vinden zoals "Taiko Drums", "Hardstyle Techno", "Barokke Klavecimbel" en "Rock Gitaarsolo's".
  • Emergente Regulariteiten: Er werden ook unieke patronen gevonden die niet direct in de standaardterminologie passen, zoals "Elektronische Beeps en Boops" (synthetische geluiden/glitches), "Eén instrument, één noot" (atomische texturen), en "Romantische Pop MIDI Piano" (gevoelig voor artefacten zoals rigid quantization).
• Laag-afhankelijkheid: Diepere lagen in het model (vooral bij MGL) leverden over het algemeen meer interpreteerbare features op die beter correleerden met menselijke concepten (hogere CLAP-scores).
• Sturing: Ongeveer 15-35% van de geteste features toonde een verbeterde CLAP-alignatie met het doelconcept na sturing. Luisterstudies bevestigden dat de gestuurde output perceptueel duidelijk verschilde van de baseline en de doelrichting volgde.

Significantie

Dit werk biedt een krachtig empirisch instrument om de "denkwereld" van generatieve muziekmodellen te verkennen. Het bewijst dat deze modellen complexe, menselijke en niet-menselijke muzikale structuren leren die vaak ontgaan aan traditionele analyse. Door de brug te slaan tussen statistische representaties en interpreteerbare concepten, stelt deze methode onderzoekers en artiesten in staat om:

1. De transparantie van generatieve AI te vergroten.
2. Nieuwe muzikale theorieën te vormen op basis van wat modellen daadwerkelijk leren (in plaats van wat we denken dat ze leren).
3. Muziekgeneratie nauwkeuriger te sturen op basis van specifieke, ontdekte concepten in plaats van alleen tekstuele prompts.

De studie markeert een verschuiving van het vragen "encodeert het model X?" naar "welke concepten encodeert het model?", waardoor een nieuw venster op de creatieve processen van AI wordt geopend.