💬 NLP

GemDetox at TextDetox CLEF 2025: Enhancing a Massively Multilingual Model for Text Detoxification on Low-resource Languages

El sistema GemDetox, que aprovecha un modelo Gemma-3 de 12 mil millones de parámetros mejorado con el ajuste fino eficiente en parámetros, la técnica de pocos disparos (few-shot prompting) y el contexto de recuperación aumentada, alcanzó los primeros puestos en el desafío CLEF 2025 TextDetox al reescribir eficazmente textos tóxicos en paráfrasis neutras en lenguas tanto de altos como de bajos recursos.

Autores originales: Trung Duc Anh Dang, Ferdinando Pio D'Elia

Publicado 2026-02-03

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Trung Duc Anh Dang, Ferdinando Pio D'Elia

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina las redes sociales como una plaza de pueblo enorme y bulliciosa. A veces, la gente grita insultos, propaga odio o usa lenguaje vulgar que hace que otros se sientan inseguros. El equipo de "GemDetox" de la Universidad de Copenhague construyó un "mantenedor de la paz" digital para ayudar a limpiar esta plaza sin silenciar a las personas que hablan.

Así es como lo hicieron, explicado de forma sencilla:

La Misión: Limpiar el Desorden Sin Borrar el Mensaje

El desafío era tomar una sola frase llena de palabras tóxicas (como insultos o términos despectivos) y reescribirla para que suene educada y neutral, pero que aún conserve el significado original.

La Analogía: Imagina a alguien gritando: "¡Eres un idiota inútil!". El objetivo no es borrar la frase por completo (lo cual sería censura) ni cambiar el tema. En su lugar, el sistema la reescribe como: "Estoy frustrado con tu desempeño". La ira ha desaparecido, pero la queja permanece.

El Cerebro: Un Súper Traductor con Memoria

El equipo no construyó un nuevo cerebro desde cero. Utilizaron un modelo de IA preexistente y muy inteligente llamado Gemma-3 (que tiene 12 mil millones de "neuronas" o parámetros). Piensa en este modelo como un políglota que ya habla con fluidez 15 idiomas diferentes, desde inglés y español hasta tártaro y hinglish (una mezcla de hindi e inglés).

Sin embargo, este políglota necesitaba aprender un trabajo específico: cómo ser educado.

El Entrenamiento: Enseñando a la IA a Ser Gentil

Para enseñar a la IA, el equipo creó un manual de entrenamiento especial utilizando tres métodos diferentes:

El Manual Humano: Comenzaron con 3,600 ejemplos reales escritos por humanos, mostrando exactamente cómo convertir una frase tóxica en una agradable.
El Traductor Automático: Como no tenían ejemplos humanos para seis de los idiomas, utilizaron un traductor automático para convertir esos 3,600 ejemplos a los idiomas faltantes. Es como fotocopiar un libro de recetas y traducir la lista de ingredientes a un nuevo idioma.
Los Simulacros de Práctica: Generaron frases de práctica adicionales usando la propia IA, pero fueron muy estrictos al filtrarlas. Si la reescritura de la IA era demasiado similar al insulto original (como cambiar solo una letra), la descartaban. Solo conservaron aquellas que eran verdaderamente diferentes pero que aún significaban lo mismo.

El Truco de "Pensar":
El equipo enseñó a la IA una forma especial de pensar llamada Cadena de Pensamiento (Chain-of-Thought). En lugar de solo adivinar la respuesta, se le pidió a la IA que siguiera una lista de verificación de cuatro pasos antes de hablar:

Identificar las malas palabras.
Comprender de qué trata realmente la frase.
Reescribirla usando palabras amables.
Doble verificar que la nueva frase no sea ofensiva.

Los Resultados: Una Victoria para la Mayoría, Pero No para Todos

Cuando probaron su sistema en la competición:

El Ganador: Su sistema quedó en primer lugar en la mayoría de los idiomas, especialmente en aquellos con abundantes datos (como el inglés, el alemán y el francés).
La Lucha: El sistema tuvo más dificultades con los idiomas de "bajos recursos" (idiomas con menos datos disponibles, como el amhárico o el tártaro). En estos casos, la IA a veces producía disparates o pasaba por alto insultos sutiles.
La Brecha: El equipo descubrió que el factor determinante en el rendimiento de la IA era simplemente cuántos datos existían para ese idioma. Si un idioma tenía muchos ejemplos de entrenamiento, la IA funcionaba de maravilla. Si tenía pocos, la IA tropezaba.

El Control de Realidad: No es Perfecto

Los autores son honestos sobre las fallas:

El Desacuerdo del "Juez": Cuando le pidieron a otra IA altamente avanzada que calificara su trabajo (actuando como un juez humano), su sistema cayó del primer al tercer lugar. Esto sugiere que, si bien su sistema es bueno siguiendo reglas, podría pasar por alto el "sentir humano" de lo que es verdamente ofensivo.
Puntos Ciegos Culturales: La IA a veces pasaba por alto el argot o los insultos regionales porque fue entrenada principalmente en un lenguaje estándar. Por ejemplo, no detectó una palabra de argot argentina específica para "inútil" porque no estaba en sus datos de entrenamiento.
El Problema del Sesgo: El modelo de IA subyacente que utilizaron fue entrenado con una cantidad masiva de datos de internet que no podemos ver. Esto significa que la IA ya podría tener sesgos integrados que el equipo no pudo corregir por completo.

La Conclusión

El equipo de GemDetox construyó una herramienta poderosa que puede limpiar automáticamente las publicaciones tóxicas de las redes sociales en 15 idiomas diferentes. Funciona mejor cuando hay muchos datos para aprender y cuando se le enseña a la IA a "pensar paso a paso". Aunque no es perfecta y todavía lucha con los matices culturales complejos, representa un paso significativo para ayudar a los moderadores a mantener los espacios en línea seguros sin silenciar la libertad de expresión.

Resumen Técnico: GemDetox en TextDetox CLEF 2025

Planteamiento del Probleo
El artículo aborda la urgente necesidad de una desintoxicación de texto automatizada en plataformas de redes sociales, específicamente dentro del contexto del desafío PAN 2025 de Desintoxicación de Texto Multilingüe. La tarea consiste en reescribir entradas de una sola oración tóxica en paráfrasis neutrales preservando el significado original en 15 idiomas de diversa tipología. El desafío se limita a la "toxicidad explícita" (léxico obsceno u ofensivo que contiene contenido neutral significativo), excluyendo la toxicidad implícita como el sarcasmo o el discurso de odio codificado. Una dificultad crítica radica en la disparidad entre los idiomas de altos recursos (p. ej., inglés, español) y los de bajos recursos (p. ej., tártaro, hinglish, amhárico), donde la escasez de datos suele obstaculizar el rendimiento del modelo.

Metodología
Los autores proponen "GemDetox", un sistema construido sobre el transformador multilingüe Gemma-3 de 12B parámetros. La metodología se estructura en torno a tres componentes principales:

Construcción y Aumento de Datos:
- Datos de Autoría Humana: El sistema utiliza el corpus ParaDetox-9 proporcionado por los organizadores, que contiene 3,600 pares paralelos tóxico-neutral en nueve idiomas.
- Extensión por Traducción Automática: Para cubrir los seis idiomas ausentes en el corpus original (italiano, francés, hebreo, hinglish, japonés, tártaro), los autores tradujeron los 3,600 pares originales utilizando RLM-Hinglish y NLLB-200, generando 21,600 pares sintéticos (ParaDetox-MT6).
  - Generación Sintética: Se derivó supervisión adicional de un Conjunto de Datos de Toxicidad Multilingüe. El modelo generó candidatos de neutralización para oraciones que solo eran tóxicas, los cuales fueron filtrados basándose en umbrales de similitud de Jaccard (≥0.90 para traducción automática, ≥0.80 para sintéticos) para asegurar la divergencia léxica y la preservación semántica.
- Enriquecimiento Contextual: Durante el entrenamiento e inferencia, las entradas se enriquecieron con tres vecinos semánticos recuperados mediante LaBSE y anotaciones explícitas de segmentos tóxicos extraídas mediante un detector basado en reglas.
Arquitectura del Modelo y Entrenamiento:
- Modelo Base: Gemma-3-12B-Instruct, cuantizado a precisión de 4 bits para ajustarse a 24 GB de VRAM.
- Ajuste Fino Eficiente en Parámetros (PEFT): Los autores emplearon Adaptación de Bajo Rango (LoRA) con un rango de 16, haciendo que solo el 0.55% (≈65M) de los parámetros fueran entrenables. Los adaptadores se insertaron en todos los submódulos de lenguaje, atención y MLP.
- Estrategia de Entrenamiento de Tres Fases:
  - Fase 1: Ajuste fino en los 15 idiomas para establecer una alineación base.
  - Fase 2: Ajuste fino especializado en datos para idiomas que carecen de anotaciones humanas paralelas para prevenir la interferencia catastrófica.
  - Fase 3: Ajuste fino en datos sintéticos de alta calidad (filtrados por Jaccard > 0.9) para refinar aún más el rendimiento.
- Estrategia de Prompting: El sistema utiliza una instrucción de prompting de Cadena de Pensamiento (CoT) de cuatro pasos (identificar toxicidad, recuperar semántica, reescribir neutralmente, verificar no toxicidad) combinada con ejemplos de pocos disparos (few-shot) (tres vecinos semánticamente más cercanos) recuperados del corpus de entrenamiento.
Inferencia:
- El sistema muestrea tres candidatos de reescritura por entrada. La salida final se selecciona basándose en la puntuación conjunta ( $J$ ) más alta, calculada mediante la Precisión de Transferencia de Estilo (STA), la Preservación de Contenido (SIM vía LaBSE) y la Fluidez (xCOMET).

Resultados Clave

Evaluación Automática: El sistema GemDetox ocupó el primer lugar general tanto en el grupo de idiomas de altos recursos como en el de bajos recursos. Logró una puntuación conjunta ( $J$ $J$ ) de 0.685 en idiomas con anotación humana y de 0.643 en aquellos sin ella.
- El rendimiento alcanzó su punto máximo en alemán ( $J=0.798$ ) y francés ( $J=0.802$ ).
- Los estudios de ablación indicaron que los ejemplos de pocos disparos (few-shot) contribuyeron con un aumento de +0.081 en la puntuación conjunta, mientras que el prompting básico de CoT añadió +0.088.
Evaluación de LLM como Juez: Cuando se reevaluó utilizando un Llama-3.1-8B-Instruct ajustado para actuar como juez (entrenado en preferencias humanas), el ranking del sistema cayó al tercer lugar en ambos subgrupos, con un $J$ promedio de 0.7669. Esto fue significativamente inferior a la puntuación de "Anotación Dorada" (0.8233) pero competitivo frente a otros equipos de élite.
Análisis Estadístico: Un análisis ANOVA reveló que el "estado de recursos del idioma" fue el predictor más fuerte de rendimiento ( $\eta^2 = 0.667, p < 0.01$ ), seguido de la afiliación genética ( $\eta^2 = 0.592$ ).

Significancia y Reivindicaciones
El artículo afirma que su contribución principal es demostrar que el ajuste fino eficiente de parámetros de un modelo masivamente multilingüe, combinado con un aumento estratégico de datos y de prompting, puede cerrar eficazmente la brecha de rendimiento entre los idiomas de altos y bajos recursos en tareas de desintoxicación.

Los autores señalan modestamente que, si bien su enfoque logró resultados automáticos sólidos, las ganancias del aumento de datos fueron "especialmente pronunciadas para los idiomas de bajos recursos para los cuales fueron diseñados". Reconocen que el rendimiento del sistema depende fuertmente de las capacidades base del modelo preentrenado Gemma-3, dado que el baseline cero-disparo (zero-shot) mT0 ya alcanzaba puntuaciones competitivas (0.675).

El artículo destaca que, aunque el sistema logra reducir la breza para los idiomas de bajos recursos, el análisis cualitativo reveló desafíos persistentes, incluyendo:

Fallo en la detección de toxicidad compuesta en idiomas de escritura mixta como el hinglish.
Generación de salidas sin sentido en idiomas de muy bajos recursos como el amhárico.
Ambigüedad en las definiciones de toxicidad que conduce a una desintoxicación excesiva o insuficiente en contextos políticamente cargados (p. ej., hebreo).

Los autores concluyen que una desintoxicación robusta requiere adaptaciones conscientes de los sesgos en las etapas de pre-entrenamiento, post-entrenamiento y evaluación, señalando que los sesgos estructurales en el corpus de entrenamiento del modelo fundacional son irreversibles y solo pueden mitigarse aguas abajo. Sugieren que el trabajo futuro debería explorar la optimización basada en preferencias (p. ej., DPO, GRPO) y pipelines de razonamiento de múltiples etapas para abordar la obfuscación creativa y el argot emergente.