A Survey of Toxicity Detection and Mitigation Strategies for Multilingual Language Models

Planteamiento del problema

Los Modelos de Lenguaje Extensos (LLMs) se despliegan cada vez más en entornos multilingües, pero sus comportamientos de seguridad siguen siendo desiguales entre contextos lingüísticos y culturales. Si bien se ha progresado significativamente en la desintoxicación del inglés, la detección y mitigación multilingües siguen siendo menos maduras, particularmente para lenguas de bajos recursos, dialectos, entradas de código conmutado (code-switching) y daños culturalmente específicos. El problema central es que la toxicidad no es una traducción directa de los protocolos de seguridad del inglés; las definiciones de daño varían según la comunidad, y las vulnerabilidades técnicas (como el code-switching, la transliteración y los guiones mixtos) pueden debilitar tanto a los detectores como a los comportamientos de rechazo. Además, las estrategias de mitigación actuales corren el riesgo de suprimir la expresión legítima relacionada con la identidad o el dialecto, lo que conduce a una "homogeneización del modelo".

Metodología y alcance

Este artículo proporciona una encuesta enfocada que sintetiza el trabajo reciente sobre el flujo de desintoxicación para los LLMs multilingües. En lugar de ofrecer una visión general amplia de la seguridad de los LLMs, los autores organizan la literatura en una taxonomía que cubre tres ejes primarios:

1. Modelos de Amenaza: Cómo se inducen las salidas tóxicas en entornos multilingües.
2. Formulaciones de Tareas: Cómo se mide la toxicidad (reescritura, clasificación, evaluación de generación).
3. Estrategias de Mitigación: Mecanismos para detectar y reducir la toxicidad.

La encuesta se basa en una revisión sistemática de conjuntos de datos, modelos y marcos de evaluación existentes, categorizándolos por su enfoque técnico y cobertura lingüística.

Contribuciones clave y taxonomía

1. Modelos de amenaza para inducir toxicidad

Los autores categorizan los procedimientos adversarios que explotan la elección del lenguaje para eludir el alineamiento de seguridad en cuatro ejes diagnósticos: composición del lenguaje, composición del guion (script), mediación por traducción y variación de normas culturales.

• Jailbreaks por cambio de lengua (Language-Shift Jailbreaks): Solicitudes maliciosas o ambiguas reexpresadas en lenguas no inglesas (a menudo de bajos recursos) elicitan tasas de inseguridad más altas que en inglés.
• Ataques mediados por traducción y de pivote: Los prompts de inglés inseguros se traducen a una lengua objetivo para aumentar el cumplimiento, y la respuesta se traduce de vuelta. Esto expone la traducción como un modo de falla central.
• Code-Switching y guiones mixtos: Los ataques que mezclan lenguas, guiones y formas transliteradas (por ejemplo, "ataques sándwich" que intercalan segmentos benignos y adversarios) eluden eficazmente a los detectores monolingües.
• Adaptación post-despliegue: El ajuste fino (fine-tuning) sobre datos tóxicos en un idioma puede causar un colapso de seguridad en otros idiomas (transferencia de ataque translingüe). Por el contrario, incluso el ajuste fino benigno para aprender un nuevo idioma puede degradar el comportamiento de rechazo.

2. Formulaciones de tareas, conjuntos de datos y métricas

La encuesta organiza las tareas de evaluación en tres categorías:

• Reescritura de Tóxico a Neutro: Conjuntos de datos como ParaDetox, MultiParaDetox y TextDetox proporcionan pares paralelos tóxico-neutro para la transferencia de estilo. Los conjuntos de datos sintéticos (por ejemplo, SynthDetox-M) se utilizan cada vez más para aumentar las lenguas de bajos recursos.
• Clasificación de Toxicidad: Los benchmarks incluyen Jigsaw (extensiones multilingües), OffensEval, HateCheck y ToxiGen. Estos van desde la clasificación binaria hasta pruebas funcionales de discurso de odio.
• Evaluación de Generación Tóxica: Conjuntos de datos como RealToxicityPrompts (RTP), RTP-LX (extendido a 28 idiomas) y PolygloToxicityPrompts (PTP) evalúan la probabilidad de continuaciones tóxicas.
• Métricas: La evaluación depende de la Puntuación de Toxicidad (por ejemplo, Perspective API), la Precisión de Transferencia de Estilo (STA), la Preservación de Contenido (BLEURT, BERTScore) y la Fluidez. Una brecha crítica señalada es la falta de protocolos de evaluación humana estandarizados y culturalmente fundamentados.

3. Enfoques de detección

• Transformers Multilingües: Modelos como mBERT y XLM-R aprovechan los vocabularios de subpalabras compartidos para la transferencia translingüe, aunque el rendimiento sigue siendo desigual entre guiones y dialectos.
• Flujos de trabajo de traducción: Traducir texto no inglés a inglés antes de la detección es común, pero introduce propagación de errores, deriva semántica y posible inserción de toxicidad.
• Sondeo a nivel de representación: Trabajos recientes identifican subespacios tóxicos lineales en los embeddings, lo que permite la localización de características de toxicidad tanto para la detección como para la mitigación.
• Detección basada en LLM: Se utilizan LLMs ajustados por instrucciones como detectores zero-shot, aunque sufren de fallas de calibración y desalineación cultural.

4. Estrategias de mitigación

Los autores presentan una taxonomía basada en mecanismos para la desintoxicación:

• Centrada en los Datos: Filtrado de corpus de pre-entrenamiento para eliminar contenido tóxico. Aunque es escalable, conlleva el riesgo de eliminar en exceso variedades de lenguas minoritarias e modismos culturalmente específicos.
• Centrada en el Modelo:
  • Ajuste Fino Supervisado (SFT): Entrenamiento en pares no tóxicos o contrastivos curados.
  • Ajuste de Preferencias/RLHF: Alineación de los modelos con el feedback humano. Sin embargo, la dependencia de datos de preferencia centrados en el inglés conduce a una desalineación transcultural.
• Direccionamiento en el tiempo de decodificación (Decoding-Time Steering): Métodos como PPLM, GeDi y DExperts dirigen la generación durante la inferencia sin reentrenamiento. Son modulares pero requieren expertos multilingües de alta calidad, los cuales son escasos.
• Edición de Representación: Técnicas como la Adición de Activación o la edición basada en ROME modifican las representaciones internas para atenuar las características tóxicas.
• Guardrails Multilingües: Clasificadores de despliegue (por ejemplo, Llama Guard, Aegis, PolyGuard) que controlan los prompts y las respuestas. Estos son vulnerables a ataques de code-switching y transliteración.

Resultados y desafíos abiertos

La encuesta identifica varios desafíos persistentes que limitan la fiabilidad de los sistemas de seguridad multilingües actuales:

• Brechas Translingües: Los métodos efectivos en inglés rinden consistentemente por debajo de su capacidad en lenguas de bajos recursos y de morfología rica.
• Desalineación Cultural: Las definiciones de seguridad son a menudo culturalmente contingentes. El ajuste de "talla única" corre el riesgo de censurar en exceso insultos recuperados o expresiones dialectales benignas, mientras pierde el lenguaje contextualmente ofensivo.
• Fragmentación de la Evaluación: No existe un benchmark multilingüe unificado. Los conjuntos de datos existentes difieren en esquemas de etiquetas, formatos de tareas y cobertura lingüística, lo que dificulta la comparación entre sistemas.
• Compromisos entre Estilo y Diversidad: La desintoxicación a menudo degrada la diversidad de la salida, produciendo un texto genérico que borra la riqueza lingüística y la expresión de la identidad.
• Vulnerabilidades de Code-Switching: Los tokenizadores y los corpus de entrenamiento actuales son escasos para las entradas de lenguas mixtas, creando brechas de seguridad significativas para las comunidades que se comunican mediante el code-switching.

Significancia y Conclusión

El artículo concluye que la transferencia translingüe de la seguridad es poco fiable y que la desintoxicación está en tensión con la diversidad lingüística. Los autores argumentan que la necesidad de investigación más urgente es el desarrollo de infraestructura de evaluación: benchmarks multilingües estandarizados y culturalmente fundamentados que midan no solo la reducción de la toxicidad, sino también la preservación del contenido estilístico y cultural.

La encuesta enfatza que las estrategias híbridas —que combinan filtrado de datos, generación controlada, alineación culturalmente consciente y guardrails— son la dirección más defendible para el despliegue. Sin embargo, sin una supervisión culturalmente fundamentada y prácticas de datos inclusivas, la detección automatizada de toxicidad corre el riesgo de reforzar los sesgos sociales y suprimir el discurso legítimo en las comunidades subrepresentadas. Este documento sirve como una hoja de ruta para construir LLMs globalmente seguros y equitativos, destacando los obstáculos técnicos y sociolingüísticos específicos que aún permanecen sin resolver.