BMdataset: A Musicologically Curated LilyPond Dataset

1. El Problema

La investigación en música simbólica ha dependido casi exclusivamente de conjuntos de datos basados en MIDI. Sin embargo, el formato MIDI descarta información notacional crucial presente en las partituras escritas, como directivas de grabado, límites de secciones y la estructura jerárquica de obras de múltiples movimientos. Aunque formatos como MusicXML abordan parcialmente esta brecha, LilyPond (un sistema de grabado musical de código abierto basado en texto) permanece inexplorado para la comprensión musical automática.

A diferencia de otros formatos, LilyPond utiliza un lenguaje de marcado estructurado que comparte propiedades sintácticas con los lenguajes de programación (bloques anidados, asignaciones de variables, macros). A pesar de su potencial, no existía un conjunto de datos de LilyPond curado musicológicamente con metadatos estructurados, ni se había explorado el uso de modelos de lenguaje preentrenados en código (como CodeBERT) para representar este formato.

2. Metodología

Los autores proponen un enfoque en dos etapas principales: la creación de un nuevo conjunto de datos y el desarrollo de un modelo de lenguaje adaptado.

A. BMdataset (El Conjunto de Datos)

• Origen: Se construyó a partir de 383 proyectos de LilyPond de BaroqueMusic.it, transcritos directamente por musicólogos a partir de manuscritos originales.
• Procesamiento: Se eliminaron 36 proyectos que fallaron en la compilación debido a errores de sintaxis, resultando en 347 partituras compilables que contienen 2,646 movimientos (unidades musicales autocontenidas).
• Metadatos: Cada archivo se enriqueció con metadatos estructurados en JSON, incluyendo:
  • Compositor (71 únicos).
  • Forma musical (16 tipos, ej. concierto, sonata).
  • Instrumentación (25 instrumentos MIDI).
  • Atributos seccionales: clave, escala, tempo, compás y periodo histórico (Barroco Temprano, Alto, Tardío, Clásico Transicional).
• Validación: Se desarrolló un pipeline de prueba masiva que comparó el conteo de notas extraído del código fuente con los glifos renderizados en la salida PostScript, logrando una coincidencia perfecta del 95.7%.
• Tamaño: El corpus totaliza aproximadamente 90 millones de tokens.

B. LilyBERT (El Modelo)

• Arquitectura Base: Se utiliza CodeBERT (basado en RoBERTa), un codificador preentrenado en seis lenguajes de programación, elegido porque la sintaxis de LilyPond se asemeja más a un lenguaje compilado que a un simple texto plano.
• Tokenización: Se extendió el vocabulario de CodeBERT (50,265 tokens) añadiendo 115 tokens específicos de LilyPond (comandos musicales como \relative, \clef, dinámicas, bloques estructurales). Esto evita que comandos semánticamente significativos se fragmenten en subpalabras sin sentido.
• Entrenamiento:
  1. Pre-entrenamiento Continuo: Se entrenó el modelo en un subconjunto masivo del corpus PDMX (convertido de MusicXML a LilyPond, ~15 mil millones de tokens) durante 1 época.
  2. Ajuste Fino (Fine-tuning): Se ajustó el modelo en el conjunto de datos BMdataset (~90M tokens) durante 10 épocas.
  • Se utilizó el objetivo de Modelado de Lenguaje Enmascarado (MLM) para predecir tokens ocultos en contexto.

3. Contribuciones Clave

1. BMdataset: El primer conjunto de datos de LilyPond curado musicológicamente, con transcripciones directas de manuscritos y metadatos estructurados exhaustivos.
2. Tokenizador Especializado: Una extensión del tokenizador de CodeBERT que trata los comandos musicales como unidades atómicas, preservando la semántica musical.
3. LilyBERT: Un modelo de codificador adaptado a la música simbólica mediante la extensión de vocabulario y el pre-entrenamiento en corpora de LilyPond.
4. Evaluación Sistemática: Un estudio de "sondeo" (probing) que compara el impacto de la fuente de datos, el tamaño del corpus y el ajuste fino específico del dominio en tareas de clasificación.

4. Resultados

Los experimentos se realizaron mediante sondeo lineal en el corpus de prueba Mutopia (fuera del dominio de entrenamiento), evaluando la clasificación de compositores y estilos.

• Calidad vs. Cantidad: Un hallazgo crucial es que el ajuste fino en el pequeño conjunto de datos curado (BMdataset, ~90M tokens) superó al pre-entrenamiento continuo en el corpus masivo pero ruidoso (PDMX, ~15B tokens) para ambas tareas.
  • Clasificación de Compositores: BMdataset solo logró un 82.9% de precisión, frente al 80.8% del modelo entrenado solo en PDMX completo.
  • Clasificación de Estilo: BMdataset logró un 83.7% frente al 82.6% de PDMX.
• Complementariedad: La combinación de ambas estrategias (Pre-entrenamiento en PDMX + Ajuste fino en BMdataset) produjo los mejores resultados globales, alcanzando una precisión del 84.3% en la clasificación de compositores. Esto demuestra que el pre-entrenamiento a gran escala establece una "alfabetización" general en LilyPond, mientras que el ajuste fino en datos curados refina la sensibilidad a características estilísticas.
• Análisis de Capas:
  • La información del compositor se captura mejor en las capas medias (6-9), sugiriendo que requiere integrar patrones sintácticos y estructurales superiores.
  • Las características de estilo se capturan mejor en las capas tempranas a medias (3-6) y degradan hacia la salida, indicando que son regularidades distribucionales más superficiales.
• Estructura de Embeddings: Las proyecciones t-SNE muestran que el modelo organiza el espacio latente de manera musicalmente significativa, agrupando compositores por estilo y separando claramente periodos históricos (Barroco, Clásico, Romántico).

5. Significado e Impacto

Este trabajo demuestra que, para la comprensión musical simbólica, conjuntos de datos pequeños pero curados por expertos pueden ser más efectivos que corpora masivos generados automáticamente.

• Nueva Línea Base: Establece un estándar para el aprendizaje de representaciones en LilyPond, un formato rico pero subutilizado en IA.
• Validación de Enfoques Híbridos: Confirma que combinar pre-entrenamiento general con ajuste fino específico del dominio es la estrategia óptima.
• Aplicaciones Prácticas: Dado que LilyPond es un lenguaje estructurado, las representaciones aprendidas por LilyBERT pueden transferirse a tareas prácticas como la corrección de errores en partituras (linting), la autocompletado consciente del estilo y la edición asistida por humanos.
• Reproducibilidad: Los autores liberan el conjunto de datos, el tokenizador y los pesos del modelo, fomentando la investigación futura en la intersección entre musicología y aprendizaje profundo.

En resumen, el artículo valida la hipótesis de que tratar la notación musical como un lenguaje de programación estructurado, apoyado por datos de alta calidad, permite a los modelos de IA capturar matices estilísticos y compositivos que los enfoques basados en MIDI o en grandes volúmenes de datos no curados no pueden lograr.