Enhancing Scientific Discourse: Machine Translation for the Scientific Domain

Resumen Técnico: Mejora del Discurso Científico mediante Traducción Automática Específica de Dominio

Enunciado del Problema
El crecimiento exponencial de la investigación científica ha creado una necesidad crítica de comunicación interlingüística efectiva. Aunque el inglés domina la publicación científica, un volumen significativo de trabajo académico valioso (casi el 40% de las presentaciones no anglófonas) se produce en otros idiomas. Los modelos de Traducción Automática Neuronal (NMT) de propósito general, a pesar de los avances impulsados por las arquitecturas Transformer, luchan en el dominio científico. Estos modelos a menudo fallan al capturar terminología especializada, estructuras sintácticas complejas y patrones discursivos específicos del dominio, lo que conduce a malas traducciones o a la pérdida de matices científicos. Además, existe una escasez de corpus paralelos de alta calidad específicamente adaptados a subdominios científicos para pares de idiomas europeos.

Metodología
Los autores presentan una pipeline de extremo a extremo para crear corpus específicos de dominio y adaptar modelos NMT para cuatro áreas de investigación específicas: Investigación del Cáncer, Investigación Energética, Neurociencia e Investigación en Transporte. El estudio se centra en tres pares de idiomas: español-inglés (ES-EN), francés-inglés (FR-EN) y portugués-inglés (PT-EN).

1. Creación del Corpus:

   • Fuente de Datos: El equipo procesó aproximadamente 9,3 millones de registros de 62 repositorios académicos (incluyendo tesis de grado/máster, disertaciones doctorales y artículos publicados).
   • Pipeline de Procesamiento: Los registros se descargaron como HTML, se analizaron utilizando configuraciones de regex personalizadas y la biblioteca Beautiful Soup, y se convirtieron en JSON estructurado.
   • Clasificación: Un método basado en palabras clave categorizó los registros en los cuatro dominios objetivo o en una categoría "Académica General".
   • Alineación: Las oraciones paralelas se extrajeron de títulos y resúmenes utilizando incrustaciones LASER con un enfoque de puntuación basado en márgenes. Se aplicó un umbral de 0,98 para asegurar la alineación semántica mientras se retenían los pares basados en títulos.
   • Filtrado: Los datos resultantes pasaron por un filtrado riguroso para eliminar oraciones idénticas, campos vacíos, oraciones excesivamente largas (>250 palabras), cadenas solo de dígitos, pares de idiomas incorrectos y contenido dominado por URLs/correo electrónico.
   • Salida: El proceso produjo un total de 11,7 millones de pares de oraciones paralelas y corpus monolingües sustanciales para los idiomas objetivo.

2. Adaptación del Modelo:

   • Modelos Base: Los autores utilizaron modelos OPUS-MT preentrenados y de código abierto (basados en la arquitectura Transformer) como líneas base. Variantes específicas incluyeron transformer-big para FR-EN y ES-EN, y transformer-align para PT-EN.
   • Estrategia de Ajuste Fino: Los modelos base se ajustaron finamente utilizando el marco MarianMT. Se probaron dos estrategias:
     • Ajuste fino con datos de Dominio Interno (IND) únicamente.
     • Ajuste fino con datos de Dominio Interno combinados con datos Científicos Generales (GSC) para proporcionar un contexto lingüístico más amplio y evitar el sobreajuste a la jerga.
   • Hiperparámetros: Los experimentos utilizaron tasas de aprendizaje específicas (7e-5 para ES/FR, 5e-5 para PT) y tasas de abandono, con detención temprana basada en puntuaciones BLEU/chrF.

3. Evaluación:

   • Puntos de Referencia: Los conjuntos de desarrollo y prueba se construyeron muestreando registros únicos (1.000 pares por conjunto específico de dominio, 3.000 para el conjunto general) con filtros de alineación semántica estrictos (LASER > 1,08).
   • Métricas: El rendimiento se midió utilizando BLEU, chrF2++ y COMET (que utiliza XLM-R Large para estimar la similitud semántica).
   • Comparadores: Los resultados se compararon con los modelos OPUS-MT base originales y Google Translate.

Contribuciones Clave

• Lanzamiento del Conjunto de Datos: La creación y disponibilidad pública de una colección a gran escala de corpus paralelos y monolingües específicamente para investigación científica en los pares ES-EN, FR-EN y PT-EN, cubriendo cuatro subdominios distintos.
• Marco de Adaptación de Dominio: Una metodología demostrada para ajustar finamente modelos NMT de propósito general en datos científicos, mostrando que combinar datos específicos de dominio con texto científico general produce resultados óptimos.
• Evidencia Empírica: Prueba cuantitativa de que la adaptación de dominio mejora significativamente la calidad de la traducción para textos científicos especializados en comparación con las líneas base genéricas.

Resultados
Los modelos ajustados finamente superaron consistentemente a los sistemas OPUS-MT base en todos los pares de idiomas y métricas.

• Ganancias de Rendimiento: En promedio, el ajuste fino con datos de dominio interno únicamente mejoró BLEU en +1,5 y COMET en +0,8. Añadir texto científico general mejoró aún más estas puntuaciones, resultando en una ganancia promedio de +2,4 BLEU y +0,9 COMET sobre la línea base.
• Especificidades de la Métrica: La configuración de mejor rendimiento (IND + GSC) logró mejoras de hasta +2,6 BLEU y +2,4 COMET para el par FR-EN.
• Panorama Competitivo: Si bien los modelos ajustados finamente lograron las puntuaciones más altas en la mayoría de los casos, Google Translate permaneció altamente competitivo, particularmente para el par FR-EN donde superó a todos los demás sistemas en casi todas las métricas. Esto sugiere que los pares de idiomas de alto recurso ya se benefician de capacidades generales sólidas, incluso en dominios de nicho.

Significado y Afirmaciones
El artículo afirma que su contribución principal radica en cerrar la brecha lingüística en la investigación científica proporcionando los recursos de datos necesarios y demostrando que los modelos NMT especializados pueden crearse eficazmente mediante ajuste fino. Los autores afirman que su trabajo permite una traducción más precisa y fluida del contenido científico, lo cual es crítico para la colaboración internacional. Señalan modestamente que, aunque sus modelos mejoran las líneas base genéricas, el campo aún requiere más trabajo. Las direcciones futuras identificadas por los autores incluyen la adaptación multi-dominio, el uso de traducción inversa con etiquetado específico de dominio, y la aplicación de herramientas de filtrado avanzadas como Bicleaner AI para refinar aún más la calidad de los datos de entrenamiento. El trabajo se presenta como un paso hacia la facilitación de una comunicación fluida dentro de la comunidad científica global.