Cross-lingual Offensive Language Detection: A Systematic Review of Datasets, Transfer Approaches and Challenges

1. El Problema

La proliferación y rápida evolución del lenguaje ofensivo y los discursos de odio (HS, por sus siglas en inglés) en las redes sociales plantean un desafío crítico para la moderación de contenido. Aunque existen técnicas avanzadas de Procesamiento del Lenguaje Natural (NLP) para detectar este contenido, la mayoría de los enfoques se han centrado en entornos monolingües (principalmente inglés).

El problema central abordado en esta revisión es la escasez de datos etiquetados en idiomas de recursos bajos (low-resource languages) y la alta variabilidad del lenguaje ofensivo entre diferentes culturas e idiomas. El aprendizaje por transferencia multilingüe (CLTL, por sus siglas en inglés) surge como una solución prometedora para mitigar la escasez de datos, transfiriendo conocimiento de idiomas con muchos recursos a aquellos con pocos. Sin embargo, existen brechas significativas en la comprensión de las estrategias de transferencia, los recursos lingüísticos disponibles y los desafíos específicos de la detección cruzada de idiomas, ya que no existía una revisión sistemática exhaustiva centrada exclusivamente en este escenario.

2. Metodología

Los autores adoptaron el marco estructurado PRISMA (Preferred Reporting Items for Systematic Reviews and Meta-Analyses) para garantizar la replicabilidad y la transparencia en la selección de la literatura.

• Fuentes de Datos: Se recuperaron publicaciones de bases de datos académicas como ACL Anthology, Google Scholar y DBLP.
• Criterios de Búsqueda: Se utilizaron 99 combinaciones de palabras clave relacionadas con el lenguaje ofensivo (ej. "hate", "toxic", "abuse") y escenarios multilingües/cruzados (ej. "cross-lingual", "low resource", "transfer learning").
• Proceso de Selección:
  1. Identificación inicial de 648 registros.
  2. Eliminación de duplicados y registros irrelevantes.
  3. Evaluación de texto completo contra criterios de inclusión/exclusión (ej. se excluyeron estudios que no involucraban transferencia de conocimiento entre idiomas o que se centraban en dominios no lingüísticos).
• Cuerpo de Estudio Final: Se seleccionaron 67 artículos relevantes publicados entre 2018 y 2023 para su análisis exhaustivo.

3. Contribuciones Clave

Esta revisión ofrece la primera visión holística y sistemática centrada exclusivamente en la detección de lenguaje ofensivo mediante aprendizaje por transferencia cruzada de idiomas. Sus contribuciones principales incluyen:

1. Taxonomía Detallada de Enfoques CLTL: Clasificación de las técnicas basadas en "qué se transfiere", dividiéndolas en tres niveles:
   • Transferencia de Instancias: Transferencia de datos (texto o etiquetas) entre idiomas (ej. proyección de anotaciones, traducción automática, etiquetado pseudo).
   • Transferencia de Características (Features): Compartición de representaciones lingüísticas en un espacio de características común (ej. incrustaciones de palabras multilingües como MUSE, FastText, o representaciones contextualizadas como mBERT y XLM-R).
   • Transferencia de Parámetros: Transferencia de los valores de los parámetros del modelo (pesos) entre idiomas. Se analizan escenarios como Zero-Shot, Joint Learning (aprendizaje conjunto) y Cascade Learning (aprendizaje en cascada).
2. Inventario de Recursos y Conjuntos de Datos: Se analizan 82 conjuntos de datos multilingües, detallando su origen (redes sociales, foros), tamaño, esquemas de etiquetado (binario, categorías finas, objetivos de ataque) y disponibilidad. Se destaca la predominancia de Twitter (X) y la disparidad en la representación de idiomas (el inglés domina, mientras que lenguas africanas e indígenas están subrepresentadas).
3. Análisis de Desafíos y Direcciones Futuras: Identificación de barreras críticas como la diversidad lingüística, las variaciones culturales, la mezcla de códigos (code-mixing) y los sesgos en los modelos.

4. Resultados y Hallazgos Principales

• Evolución de Modelos: Existe un cambio claro desde métodos basados en características manuales y traducción hacia el uso dominante de Modelos de Lenguaje Pre-entrenados Multilingües (PLMs) como mBERT y XLM-RoBERTa. Recientemente, se observa el surgimiento de Grandes Modelos de Lenguaje (LLMs) capaces de realizar tareas zero-shot mediante prompting.
• Efectividad de las Estrategias:
  • La transferencia de parámetros (especialmente el ajuste fino de PLMs) es actualmente la estrategia más efectiva y flexible.
  • La transferencia de instancias (como la traducción de datos etiquetados) es útil cuando existen herramientas de traducción de alta calidad, pero puede introducir errores semánticos o culturales.
  • La transferencia de características sigue siendo relevante, especialmente al combinar incrustaciones multilingües con arquitecturas profundas.
• Desempeño y Métricas: La métrica más utilizada es el Macro F1 debido al desequilibrio de clases en los conjuntos de datos. Se observa que la transferencia zero-shot (sin datos de entrenamiento en el idioma objetivo) suele tener un rendimiento inferior al ajuste fino con incluso pequeñas cantidades de datos etiquetados en el idioma objetivo.
• Brechas Lingüísticas: El rendimiento decae significativamente en pares de idiomas tipológicamente distantes (ej. inglés-chino) o en idiomas con dialectos complejos (ej. árabe). La transferencia funciona mejor dentro de la misma familia lingüística (ej. lenguas indoeuropeas).
• Disponibilidad de Código: Solo el 38% de los 67 artículos revisados hicieron público su código fuente, lo que limita la reproducibilidad y la transparencia.

5. Significado e Impacto

Esta revisión es fundamental para la comunidad de NLP y el estudio de las redes sociales por varias razones:

• Guía para Investigadores: Proporciona una hoja de ruta clara sobre qué estrategias de transferencia funcionan mejor para diferentes escenarios de recursos y familias lingüísticas.
• Conciencia Cultural: Destaca que la detección de lenguaje ofensivo no es solo un problema técnico, sino sociolingüístico. Las variaciones culturales y la ironía/sarcasmo son barreras que los modelos puramente estadísticos a menudo no superan sin conocimiento contextual.
• Impulso a la Equidad: Al documentar la falta de datos para idiomas de recursos bajos, la revisión aboga por la creación de conjuntos de datos más diversos y equilibrados para evitar que los sistemas de moderación de contenido perpetúen sesgos contra comunidades minoritarias.
• Futuro de la Investigación: Orienta el futuro hacia el uso de LLMs, la integración de características culturales y lingüísticas adicionales, y el desarrollo de estrategias de entrenamiento adaptativo (como meta-learning) para mejorar la generalización en idiomas no vistos.

En resumen, el artículo establece que, aunque el aprendizaje por transferencia cruzada ha avanzado significativamente gracias a los modelos pre-entrenados, persisten desafíos críticos relacionados con la diversidad cultural, la escasez de datos y la interpretabilidad de los modelos, los cuales deben abordarse para crear sistemas de detección de odio más robustos y éticos.