Named Entity Recognition for Pre-Modern Serbian Cyrillic: Using Transformer-Based Models and Generative Data Augmentation
Este artículo demuestra que el ajuste fino de modelos basados en transformadores, específicamente XLM-RoBERTa, con aumentación de datos generativa mejora significativamente el rendimiento y la generalización del Reconocimiento de Entidades Nombradas para textos en serbio cirílico premoderno de bajos recursos, logrando una puntuación F1 en el dominio de aproximadamente 0,92 y estableciendo un modelo recomendado entrenado con un 50% de datos sintéticos para una investigación histórica más amplia.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En los rincones silenciosos de la historia digital, una rama especializada de la informática conocida como procesamiento de lenguaje natural trabaja para hacer que el pasado sea legible para las máquinas. Este campo enseña a las computadoras a comprender el lenguaje humano, no solo como una cadena de palabras, sino como un sistema estructurado donde nombres específicos —personas, lugares y grupos— poseen un significado distintivo. Para los idiomas modernos, esta tarea se ha vuelto notablemente precisa, permitiendo que el software escanee instantáneamente artículos de noticias o redes sociales y extraiga cada mención de una ciudad o persona específica. Sin embargo, la misma tecnología tiene dificultades cuando se enfrenta a textos históricos. Estos documentos suelen utilizar ortografía y gramática que han desaparecido del habla cotidiana, y existen en cantidades mucho menores que la escritura moderna. Cuando el lenguaje es raro y los datos son escasos, las computadoras que sobresalen con las noticias de hoy suelen tropezar con las palabras de hace siglos. Esto crea una barrera para historiadores y archivistas que desean utilizar herramientas digitales para explorar sus colecciones, ya que el software no puede distinguir de manera confiable el nombre de un rey de un sustantivo común en una carta medieval.
Un equipo de investigadores se propuso cerrar esta brecha enseñando a modelos computacionales avanzados a reconocer nombres en textos de cirílico serbio premodernos. Se centraron en un desafío específico: cómo hacer que estos modelos fueran lo suficientemente robustos para manejar documentos que nunca han visto, los cuales podrían diferir en ortografía, estilo o período de los ejemplos con los que fueron entrenados. Para lograrlo, recurrieron a una técnica llamada aumentación de datos generativa. En lugar de esperar a que los historiadores etiquetaran manualmente miles de nuevos documentos —un proceso lento y costoso—, los investigadores pidieron a una poderosa inteligencia artificial que escribiera nuevos ejemplos de entrenamiento sintéticos. Guiaron a esta IA para que imitara el estilo de las cartas medievales y los documentos legales, creando miles de frases falsas que parecían y sonaban como las reales, completas con etiquetas correctas para nombres y lugares. Luego probaron dos tipos diferentes de modelos de lenguaje modernos, uno especializado para la región y otro entrenado en muchos idiomas, para ver cuál podía aprender mejor de esta mezcla de datos reales y sintéticos.
Los investigadores comenzaron con una colección de documentos medievales genuinos, incluyendo cartas reales y misivas del siglo XIV. Estos textos fueron cuidadosamente anotados por expertos humanos que marcaron cada instancia del nombre de una persona, una ubicación o una referencia a un grupo específico de personas. Esta colección original era pequeña, contenía poco más de tres mil oraciones, una cantidad limitada de material para entrenar un modelo computacional sofisticado. Para expandir esta base, el equipo utilizó un sistema de IA generativa para crear nuevas oraciones que siguieran los patrones de los textos originales. Produjeron tres versiones diferentes de los datos de entrenamiento: una donde las oraciones sintéticas constituían el treinta por ciento del total, otra donde constituían el cincuenta por ciento, y una tercera donde los ejemplos sintéticos duplicaban el tamaño del conjunto de datos original. Esto les permitió probar si alimentar a la computadora con más ejemplos, incluso si algunos eran generados artificialmente, ayudaría a que comprendiera mejor los matices del lenguaje histórico.
Cuando el equipo probó estos modelos en el mismo tipo de documentos con los que habían sido entrenados, los resultados fueron impresionantes. El modelo entrenado con una mezcla de datos reales y sintéticos, específicamente la versión que incluía el treinta por ciento de ejemplos sintéticos, alcanzó un alto nivel de precisión, identificando correctamente nombres y lugares en la gran mayoría de los casos. Este desempeño fue significativamente mejor que el de un modelo computacional de estilo antiguo que dependía de diferentes estructuras matemáticas. Sin embargo, la verdadera prueba llegó cuando los investigadores pidieron a los modelos leer documentos históricos completamente nuevos que no formaban parte de su entrenamiento. Estos nuevos textos incluían un testamento del año 1500, un manuscrito de una iglesia en Viena escrito en 1778 y un conjunto de cartas reales de mediados del siglo XIV. Estos documentos representaban diferentes eras y estilos de escritura, desafiando a los modelos para ver si realmente habían aprendido el lenguaje o simplemente memorizado los ejemplos de entrenamiento.
Los resultados mostraron que los modelos entrenados con datos sintéticos eran mucho más adaptables que los sistemas antiguos. El modelo que utilizó el cincuenta por ciento de datos sintéticos demostró ser el más confiable en todos los nuevos documentos, manteniendo un alto nivel de precisión incluso al enfrentarse a los textos más antiguos y estilísticamente diferentes. Mientras que el modelo entrenado con el treinta por ciento de datos sintéticos funcionó ligeramente mejor en los textos familiares, la versión del cincuenta por ciento manejó los textos desconocidos con mayor consistencia. Esto sugiere que añadir una cantidad moderada de ejemplos sintéticos ayuda a la computadora a construir una comprensión más flexible del lenguaje, permitiéndole reconocer patrones incluso cuando la ortografía o el contexto cambian. Los investigadores encontraron que los modelos eran particularmente buenos identificando nombres de personas, que aparecían frecuentemente en los datos de entrenamiento, pero todavía tenían dificultades ligeras con los nombres de lugares y las referencias a grupos, que eran más raros y variados.
El estudio concluye que generar ejemplos sintéticos es una herramienta poderosa para enseñar a las computadoras a leer textos históricos, pero no es una solución mágica para todo. La cantidad de datos sintéticos importa; demasiado poco podría no ayudar lo suficiente, mientras que demasiado podría introducir ruido que confunda al modelo. Los mejores resultados provinieron de un enfoque equilibrado, donde los datos sintéticos complementaban los registros históricos reales sin abrumarlos. Al poner a disposición del público sus modelos entrenados y los datos que utilizaron, los investigadores han proporcionado una nueva herramienta para las humanidades digitales. Este trabajo demuestra que, con la combinación adecuada de pericia histórica e inteligencia artificial moderna, podemos comenzar a desbloquear los nombres y lugares ocultos dentro de siglos de documentos manuscritos, haciendo el pasado más accesible tanto para los académicos como para el público curioso.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.