Data Augmentation for Clinical Multilingual Information Extraction

Resumen Técnico: Aumento de Datos para la Extracción de Información Clínica Multilingüe

Planteamiento del Problema
El Procesamiento de Lenguaje Natural (PLN) clínico es fundamental para aplicaciones de informática de la salud como la identificación de cohortes, la farmacovigilancia y el soporte a la decisión clínica. Sin embargo, el despliegue de modelos robustos en diferentes instituciones e idiomas está severamente limitado por la escasez de texto clínico anotado. Aunque los Modelos de Lenguaje Preentrenados (PLM) han avanzado el estado del arte, requieren conjuntos de datos anotados específicos para la tarea de ajuste fino (fine-tuning), los cuales son costosos y requieren muchos recursos para crearse manualmente. Este cuello de botella es particularmente agudo en contextos multilingües, donde los recursos de alta calidad suelen estar disponibles solo en inglés, dejando a otros idiomas con brechas de rendimiento significativas. Las estrategias de aumento de datos existentes a menudo dependen de modelos generativos computacionalmente costosos o requieren léxicos de sinónimos curados, lo que limita su escalabilidad y adaptabilidad a nuevos idiomas y dominios.

Metodología
Los autores proponen una estrategia de aumento de datos de bajo costo y computacionalmente eficiente basada en el reemplazo de palabras vecinas mediante incrustaciones de palabras (word embeddings). El método utiliza incrustaciones de Word2Vec (W2V) y FastText (FT) preentrenadas para identificar palabras semánticamente similares para el reemplazo dentro de las menciones de entidades.

El enfoque difiere ligeramente para las dos tareas objetivo:

• Reconocimiento de Entidades Nombradas (NER): El algoritmo opera oración por oración. Identifica las menciones de entidades dentro de una oración y selecciona aleatoriamente una palabra de cada mención (excluyendo palabras estructurales) para reemplazarla con su vecino más cercano ($v_1$) basado en la similitud de coseno, siempre que la puntuación de similitud supere un umbral predefinido ($\tau$). Este proceso se repite $t$ veces (factor de aumento) para generar variaciones. Para asegurar la diversidad, el algoritmo recorre las palabras en una mención y, si todas las palabras han sido reemplazadas antes de completar las $t$ iteraciones, procede al siguiente vecino más cercano ($v_2$, etc.).
• Vinculación de Entidades (EL): El algoritmo agrupa las menciones de entidades por sus códigos asociados. Para cada código, intenta aumentar cada mención $t$ veces. A diferencia de NER, que reemplaza una palabra con un único vecino más cercano, el aumento de EL utiliza todas las palabras vecinas con puntuaciones de similitud por encima del umbral $\tau$ (hasta las cinco superiores) para generar una mayor variedad de aumentos por ronda.

El estudio evaluó este método en cinco idiomas (español, inglés, francés, italiano, portugués) utilizando tres benchmarks clínicos multilingües: SympTEMIST (reconocimiento de síntomas y normalización), CANTEMIST (morfología tumoral) y MultiCardioNER (reconocimiento de enfermedades y fármacos). Los autores compararon el rendimiento de los PLM ajustados con datos no aumentados frente a datos aumentados con incrustaciones W2V y FT, utilizando varios umbrales de similitud ($0.75$a$0.90$).

Contribuciones Clave

1. Un Algoritmo de Aumento Ligero: Un método simple y escalable para NER y EL clínico multilingüe que no requiere léxicos de sinónimos curados ni grandes modelos generativos, lo que lo hace adaptable a entornos con recursos limitados.
2. Evaluación Multilingüe Exhaustiva: Una evaluación integral a través de tres benchmarks clínicos principales que abarcan cinco idiomas, proporcionando una visión amplia de la eficacia del método en diversos contextos lingüísticos.
3. Análisis de Modelos de Incrustación: Un análisis comparativo de las incrustaciones Word2Vec y FastText, revelando fortalezas distintas para las tareas de NER frente a EL.

Resultados

• Rendimiento de NER: La estrategia de aumento generalmente mejoró el rendimiento de NER, con ganancias en la puntuación F1 que oscilaron entre 0.75 y 5.54 puntos porcentuales.
  • La mejora más significativa se observó en la tarea MultiDrug de italiano, donde la puntuación F1 aumentó en 5.54 puntos.
  • Se logró un nuevo resultado de estado del arte para el reconocimiento de fármacos en inglés en el benchmark MultiCardioNER, superando el mejor puntaje anterior por 0.22 puntos.
  • Word2Vec generalmente superó a FastText para NER. Los autores atribuyen esto a la capacidad de W2V para generar sinónimos más diversos (por ejemplo, reemplazar "riñón" con "hígado" en un contexto funcional) en comparación con FastText, que a menudo produce variaciones morfológicas (por ejemplo, cambiar de singular a plural) que ofrecen menos diversidad de entrenamiento.
• Rendimiento de EL: Las ganancias para la Vinculación de Entidades fueron más modestas pero generalmente positivas en cuatro de cinco idiomas, con mejoras de precisión de hasta 0.77 puntos.
  • FastText superó a WordVec para EL. Los autores sugieren que mientras las sustituciones diversas de W2V benefician a NER, el modelado a nivel de subpalabra de FastText preserva mejor los significados específicos de los conceptos, lo cual es crítico para la vinculación precisa de entidades.
  • Los umbrales de similitud más bajos ($0.75, 0.80$) obstaculizaron consistentemente el rendimiento de EL, mientras que los umbrales más altos ($0.85, 0.90$) produjeron mejoras marginales.

Significancia y Reivindicaciones
El artículo concluye que el reemplazo de vecinos basado en incrustaciones de palabras ofrece un enfoque simple y computacionalmente eficiente para aumentar la diversidad de entrenamiento para el PLN clínico multilingüe. El método es particularmente efectivo para fortalecer el rendimiento de NER en entornos de bajos recursos, donde la escasez de datos etiquetados es un cuello de botella primario.

Para la Vinculación de Entidades (EL), los autores afirman que el método proporciona mejoras modestas pero destacan sus limitaciones: la alta precisión semántica requerida para la normalización de conceptos significa que el simple reemplazo de palabras puede introducir inexactitudes si las palabras sustituidas no se mapean al mismo concepto clínico exacto. En consecuencia, los autores sugieren que las futuras estrategias de aumento para EL deberían enfatizar la preservación del concepto, potencialmente a través de vocabularios controlados o restricciones informadas por ontologías.

En general, el trabajo apoya el desarrollo de flujos de trabajo de informática de la salud más escalables al permitir la extracción de información de documentos clínicos incluso cuando los datos etiquetados son limitados, sin la pesada sobrecarga computacional de los modelos generativos.