💬 NLP

BMdataset: A Musicologically Curated LilyPond Dataset

Deze paper introduceert BMdataset, een door musicologen samengestelde verzameling van LilyPond-partituren uit de Barok, en LilyBERT, een taalmodel dat aantoont dat een klein, deskundig gecurateerd dataset effectiever is voor muziekbegrip dan grote, ruwe corpora.

Oorspronkelijke auteurs: Matteo Spanio, Ilay Guler, Antonio Rodà

Gepubliceerd 2026-04-14

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Matteo Spanio, Ilay Guler, Antonio Rodà

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat muziek net als een boek is. Tot nu toe hebben onderzoekers die met computerprogramma's muziek analyseren, vooral gekeken naar MIDI-bestanden. MIDI is als een simpele lijst met instructies: "Speel deze noot, dan die, met deze kracht." Het werkt goed, maar het mist de details van de echte bladmuziek: de mooie lettertypes, de specifieke aanwijzingen voor de dirigent, en de complexe structuur van een heel concert.

De auteurs van dit paper zeggen: "Waarom kijken we niet naar LilyPond?"

LilyPond is een manier om bladmuziek te maken die lijkt op computercode. Het is leesbaar voor mensen, maar ook voor computers. Het probleem was alleen: er was geen goede "woordenlijst" of "schoolboek" om een computer te leren begrijpen wat die code betekent.

Hier is wat deze onderzoekers hebben gedaan, vertaald in alledaagse taal:

1. Het Bouwen van een Bibliotheek (BMdataset)

Stel je voor dat je een school wilt bouwen om een computer muziek te leren. Je hebt de beste boeken nodig.

Het oude probleem: De meeste bestanden die ze hadden, waren ofwel simpele MIDI-lijsten, ofwel willekeurige verzamelingen van internet (zoals de 'Mutopia'-bibliotheek), waar de kwaliteit wisselend is.
De oplossing: De onderzoekers hebben een speciale bibliotheek samengesteld genaamd BMdataset. Ze hebben 347 prachtige muziekstukken uit de Barok-periode (denk aan Vivaldi en Bach) gekozen.
Het unieke: Deze stukken zijn niet zomaar ingevoerd. Ze zijn door echte muziekdeskundigen handmatig overgeschreven vanuit de originele, oude manuscripten. Het is alsof je niet zomaar een kopie van een boek neemt, maar een kostbaar, origineel manuscript laat typen door een expert.
De schat: Ze hebben niet alleen de muziek, maar ook alle details erbij gezet: wie de componist is, welk instrument er speelt, en wat de sfeer van het stuk is.

2. De Vertaler (LilyBERT)

Nu hadden ze de boeken, maar de computer sprak de taal van LilyPond nog niet.

De uitdaging: Een standaard computermodel ziet in LilyPond-commando's (zoals \relative of \clef) vaak alleen maar losse letters of rare symbolen. Het is alsof iemand die Nederlands leert, het woord "auto" ziet als "a", "u", "t", "o" en denkt dat het vier verschillende dingen zijn.
De oplossing: Ze hebben een slim computermodel (een soort 'superleesmachine' genaamd CodeBERT) aangepast. Ze hebben de woordenlijst van de computer uitgebreid met 115 speciale muziekwoorden.
Het resultaat: Nu ziet de computer \relative niet meer als losse letters, maar als één heel woord: "relatief". De computer begrijpt nu dat dit een belangrijke muzikale instructie is, net zoals een mens dat doet.

3. Het Grote Experiment: Kwaliteit vs. Kwantiteit

Ze wilden weten: is het beter om een computer te trainen met veel slechte data, of met weinig perfecte data?

Ze stelden vier scenario's op:

De "Stapel Papier" methode: Trainen met een enorme berg automatisch omgezette muziek (15 miljard stukjes tekst), maar zonder dat iemand er echt naar heeft gekeken.
De "Meesterwerk" methode: Trainen met alleen hun nieuwe, perfecte bibliotheek (90 miljoen stukjes tekst), maar dan wel gemaakt door experts.
De "Mix" methode: Eerst de grote berg lezen, en daarna de perfecte bibliotheek.

Het verrassende resultaat:
Het bleek dat de computer met de kleine, perfecte bibliotheek (BMdataset) al veel beter presteerde dan met de enorme, rommelige berg data.

De analogie: Het is alsof je een kind wilt leren pianospelen. Je kunt het 10.000 uur laten luisteren naar slechte radio-uitzendingen (veel data), of je kunt het 100 uur laten oefenen met een meesterpianist (kwaliteit data). Het kind van de meesterpianist wordt sneller en beter.

De beste strategie:
De allerbeste resultaten haalde de computer door eerst de grote berg te lezen (om de basis te leren) en daarna de perfecte bibliotheek te bestuderen (om de fijne kneepjes te leren). Dit gaf een nauwkeurigheid van 84,3% in het herkennen van componisten.

Waarom is dit belangrijk?

Voorheen dachten veel mensen dat je voor slimme AI alleen maar enorme hoeveelheden data nodig had. Dit paper laat zien dat voor muziek kwaliteit en expertise veel belangrijker zijn.

Door deze nieuwe "woordenlijst" en het getrainde model vrij te geven, kunnen andere onderzoekers nu:

Muziek automatisch analyseren op een dieper niveau.
Nieuwe muziekstukken genereren die er echt uitzien als echte bladmuziek.
Software maken die componisten helpt bij het schrijven van muziek (zoals een slimme tekstverwerker voor muziek).

Kortom: Ze hebben de computer niet alleen de taal van muziek geleerd, maar ze hebben hem ook de kunst van muziek laten begrijpen door te werken met de beste docenten die er zijn.

Probleemstelling

Het onderzoek adresseert een significant gat in het veld van de symbolische muziekonderzoek (MIR) en generatieve AI. Hoewel er veel aandacht is voor audio-modellen, blijven tekstgebaseerde partituurformaten onderbelicht.

Dominantie van MIDI: Bestaande grote datasets (zoals Lakh MIDI en PDMX) gebruiken voornamelijk MIDI. MIDI verwijdert echter essentiële notatiedetails zoals engraving-instructies, sectiegrenzen en de hiërarchische structuur van meerdelige werken.
Gebrek aan LilyPond-resources: LilyPond is een krachtige, open-source, tekstgebaseerde notatiesysteem dat zowel muzikale inhoud als typografische structuur in een mensleesbaar formaat codeert. Hoewel er een gemeenschapsverzameling (Mutopia) bestaat, ontbreekt er een musicologisch verzorgde dataset met gestructureerde metadata. Bestaande datasets zijn vaak ongestructureerd, gebaseerd op crowd-sourcing of niet geoptimaliseerd voor representatieleren door taalmodellen.
Kans: De syntaxis van LilyPond deelt structurele eigenschappen met programmeertalen (geneste blokken, backslash-commando's, variabele toewijzingen), wat suggereert dat code-voorgereelde taalmodellen (zoals CodeBERT) beter geschikt zijn dan modellen die alleen op platte tekst zijn getraind.

Methodologie

De auteurs introduceren een tweeledige aanpak: het creëren van een hoogwaardige dataset en het aanpassen van een taalmodel voor deze domein.

1. BMdataset (De Dataset)

Bron: De dataset is afkomstig van BaroqueMusic.it en bevat 347 compileerbare LilyPond-scores (2.646 bewegingen), direct getranscribeerd door experts van originele manuscripten uit de barokperiode.
Metadata: Elke score is voorzien van rijke metadata, waaronder componist, muzikale vorm, instrumentatie, toonsoort, tempo, taktsoort en historisch tijdperk. Secties zijn semantisch geclassificeerd (bijv. snelheid, intentie, dansvormen) in een gerichte acyclische graaf (DAG).
Validatie: Een batch-testpipeline vergeleek het aantal noten in de geparste bestanden met de gerenderde PostScript-uitvoer. 95,7% van de bestanden toonde een perfecte 1:1-match.
Omvang: De dataset bevat ongeveer 90 miljoen tokens.

2. LilyBERT (Het Model)

Architectuur: Gebaseerd op CodeBERT (een RoBERTa-encoder), gekozen omdat LilyPond meer lijkt op een gecompileerde formele taal dan op een simpele markup.
Tokenizer: De standaard CodeBERT-tokenizer (RoBERTa BPE) werd uitgebreid met 115 domeinspecifieke tokens (bijv. \relative, \clef, \key, \time). Dit zorgt ervoor dat muzikaal betekenisvolle commando's als atomaire eenheden worden behandeld in plaats van te worden opgesplitst in zinloze subwoorden.
Training:
1. Continu pre-training: Het model werd voorgeprent op een grote, geautomatiseerd geconverteerde subset van het PDMX-corpus (MusicXML naar LilyPond, ~15 miljard tokens).
2. Fine-tuning: Vervolgens werd het model gefine-tuned op de kleine, expert-gecureerde BMdataset (~90 miljoen tokens) voor 10 epochs.
3. Doel: Masked Language Modeling (MLM).

Belangrijkste Bijdragen

BMdataset: De eerste musicologisch verzorgde, LilyPond-native dataset met gestructureerde metadata, afkomstig van originele manuscripten.
LilyPond Tokenizer: Een aangepaste tokenizer die muzikale commando's als atomaire eenheden behoudt, essentieel voor het begrijpen van de syntaxis.
LilyBERT: Een op CodeBERT gebaseerde encoder die is geoptimaliseerd voor symbolische muziek via vocabulaire-extensie en MLM-pre-training.
Systematische Evaluatie: Een uitgebreide "linear probing" evaluatie op het Mutopia-corpus (out-of-domain) om de effectiviteit van verschillende trainingsstrategieën te testen.

Resultaten

De experimenten vergeleken vier modelvarianten op taken voor componist- en stijlcategorisatie:

CodeBERT + Volledig PDMX (~15B tokens).
CodeBERT + BMdataset (~90M tokens).
CodeBERT + Grootte-gelijk PDMX (~90M tokens).
CodeBERT + PDMX (volledig) $\to$ BMdataset (tweestaps).

Kernbevindingen:

Kwaliteit vs. Kwantiteit: Het fine-tunen op de kleine, expert-gecureerde BMdataset (90M tokens) presteerde beter dan continu pre-training op het enorme, automatisch gegenereerde PDMX-corpus (15B tokens) voor zowel componist- als stijlcategorisatie. Dit bewijst dat expert-curatie en stilistische coherentie waardevoller zijn dan ruwe diversiteit voor fijnmazige muzikale discriminatie.
Complementariteit: De beste resultaten werden behaald met de tweestaps-aanpak (brede pre-training op PDMX gevolgd door domeinspecifieke fine-tuning op BMdataset). Dit leverde een 84,3% nauwkeurigheid op voor componistclassificatie. Dit bevestigt dat beide data-regimes complementair zijn: de grote dataset zorgt voor algemene "geletterdheid" in LilyPond, terwijl de kleine dataset de gevoeligheid voor stijl versterkt.
Embedding Structuur: De t-SNE visualisaties tonen dat het model muzikaal betekenisvolle dimensies leert: stijlen (Barok, Klassiek, Romantiek) vormen duidelijke clusters, en binnen die clusters zijn individuele componisten gescheiden. Fouten in classificatie treden voornamelijk op tussen stilistisch verwante componisten (bijv. Haydn vs. Mozart), wat wijst op echte muzikale verwantschap in plaats van ruis.
Laag-analyse: Componist-informatie wordt het beste vastgelegd in de middelste lagen (6-9), terwijl stijlfactoren (tempo, instrumentatie) al vroeg in het netwerk (lagen 3-6) worden gecodeerd.

Betekenis en Toekomstperspectief

Dit paper is een mijlpaal voor de representatieleren in LilyPond. Het demonstreert dat:

Kleine, hoogwaardige datasets superieur kunnen zijn aan grote, "ruisige" datasets voor specifieke muzikale taken.
Code-gebaseerde modellen een krachtige basis vormen voor tekstgebaseerde muzieknotatie vanwege de syntactische gelijkenis met programmeertalen.
De combinatie van brede pre-training en domeinspecifieke fine-tuning de optimale strategie is.

De auteurs maken de dataset, de tokenizer en het model openbaar beschikbaar om een baseline te stellen voor toekomstig onderzoek. Toekomstig werk richt zich op het uitbreiden van het corpus naar andere periodes, het onderzoeken van structuur-bewuste encoders (zoals AST-gebaseerde modellen) en het toepassen van deze embeddings voor generatieve taken (bijv. LoRA-based generatie) en praktische tools zoals score-linting en automatische aanvulling.