💬 NLP

Who Pays More for Safety? Measuring the Disparate Cost of Safety Alignment across Languages

Este artículo introduce una métrica de "Costo de Seguridad" para demostrar que la alineación de seguridad penaliza desproporcionadamente a los idiomas que no son el inglés con una mayor pérdida de utilidad y una protección más débil en comparación con el inglés, revelando una inequidad sistemática en las prácticas de seguridad actuales.

Autores originales: Chanwoong Yoon, Jungsoo Park, Alan Ritter

Publicado 2026-08-25

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Chanwoong Yoon, Jungsoo Park, Alan Ritter

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo de la inteligencia artificial, los grandes modelos de lenguaje son los motores digitales que impulsan a los chatbots, traductores y asistentes. Antes de que estas máquinas puedan ser útiles para las personas, se someten a un riguroso proceso de entrenamiento llamado alineación. Piense en esto como un periodo de escolarización donde el modelo aprende no solo a responder preguntas, sino a responderlas de forma segura, adhiriéndose a los valores humanos y rechazando la generación de contenido dañino como instrucciones para la violencia o actos ilegales. Este entrenamiento de seguridad es esencial, pero conlleva un precio oculto. Así como un coche con frenos excesivamente sensibles podría detenerse demasiado rápido ante un obstáculo menor, una IA que es demasiado cautelosa puede volverse poco útil, negándose a responder preguntas inofensivas o proporcionando respuestas vagas y edulcoradas. Esta pérdida de utilidad se conoce como coste de utilidad. Durante años, los investigadores han sabido que el entrenamiento de seguridad reduce el rendimiento general de un modelo, pero una pregunta crítica permanecía sin respuesta: ¿este coste recae por igual en todos, o algunos idiomas sufren más que otros?

Un equipo de investigadores se propuso investigar si la carga de la alineación de seguridad se comparte de manera justa entre las lenguas del mundo. Se centraron en un fenómeno específico en el que los modelos podrían rechazar peticiones seguras simplemente porque suenan ligeramente riesgosas, un comportamiento conocido como sobre-rechazo. Para medir el verdadero coste de la seguridad, el equipo ideó un ingenioso método de comparación. Tomaron modelos potentes y alineados con la seguridad y crearon versiones "no alineadas" del mismo software. Estas versiones no alineadas no fueron entrenadas para ser peligrosas; más bien, los investigadores eliminaron quirúrgicamente los mecanismos de seguridad específicos que causaban que los modelos rechazaran las peticiones, dejando intactos el resto del conocimiento y la capacidad de habla del modelo. Al comparar las respuestas del modelo alineado con la seguridad frente a las de su gemelo no alineado para la misma pregunta, los investigadores pudieron aislar exactamente cuánta utilidad se perdió debido únicamente al entrenamiento de seguridad. Probaron esto en inglés y otros cinco idiomas, incluyendo el chino, árabe, coreano, vietnamita y tailandés, utilizando un conjunto de preguntas diseñadas para ser inofensivas pero con alta probabilidad de activar una alarma de seguridad.

Los resultados revelaron una desigualdad marcada y sistemática. Los investigadores descubrieron que los usuarios de lenguas distintas al inglés pagan consistentemente un precio más alto por la seguridad que los angloparlantes. En muchos casos, los filtros de seguridad eran menos efectivos para proteger a los hablantes de otras lenguas de daños reales, y aun así, estos usuarios recibían respuestas significativamente peores y menos útiles a sus preguntas inofensivas. El estudio identificó tres patrones distintos detrás de esta disparidad. Primero, muchos idiomas caían en una zona de "doble penalización": recibían una protección más débil contra peligros reales y, simultáneamente, sufrían una caída mucho mayor en la calidad de sus respuestas. Segundo, en algunos casos, un idioma parecía tener un coste de seguridad bajo solo porque los filtros de seguridad no habían llegado a activarse en absoluto, dejando a los usuarios expuestos a contenido dañino sin que el modelo siquiera se diera cuenta. Tercero, incluso para idiomas de altos recursos como el chino, que cuentan con vastas cantidades de datos de entrenamiento, el coste de lograr el mismo nivel de seguridad que el inglés era sustancialmente mayor. La pérdida de utilidad no consistía solo en que el modelo dijera "no" cuando debería haber dicho "sí". Los investigadores descubrieron que, incluso cuando el modelo respondía, la respuesta solía ser más delgada, menos detallada y menos precisa fácticamente. El entrenamiento de seguridad había despojado silenciosamente la profundidad y el matiz, haciendo que la IA fuera menos útil sin que el usuario necesariamente se diera cuenta de por qué.

Este trabajo sugiere que los métodos actuales para hacer que la IA sea segura no están calibrados de manera justa entre diferentes culturas e idiomas. El entrenamiento de seguridad, que está fuertemente influenciado por los datos y las normas de la lengua inglesa, crea inadvertidamente una brecha estructural donde los hablantes de otras lenguas reciben una experiencia peor. Los investigadores sostienen que esto no es un efecto secundario inevitable de hacer que la IA sea segura, sino un fallo en cómo se implementa la seguridad actualmente. Al medir el coste específico de la seguridad en cada idioma, el estudio expone una inequidad fundamental en la tecnología. Muestra que, mientras que los angloparlantes pueden obtener una respuesta segura y útil, un hablante de otra lengua puede obtener una respuesta que es o bien insegura o bien inútilmente vaga, todo porque los mecanismos de seguridad no están sintonizados con su contexto lingüístico específico. Los hallazgos exigen un nuevo enfoque para la alineación de la seguridad, uno que garantice que el coste de ser seguro se distribuya de manera uniforme, de modo que los beneficios de la inteligencia artificial no se vean disminuidos por el idioma en el que se habla.

Resumen Técnico: ¿Quién paga más por la seguridad? Midiendo el costo dispar del alineamiento de seguridad entre lenguajes

Planteamiento del problema

El alineamiento de seguridad en los Modelos de Lenguaje Extensos (LLM) está diseñado para prevenir salidas dañinas, pero a menudo incurre en un "costo de utilidad", degradando la capacidad de ayuda e información del modelo. Si bien investigaciones previas han establecido la existencia de este compromiso (por ejemplo, sobre-rechazo o degradación de capacidades), una pregunta crítica permanece sin respuesta: ¿Impone el alineamiento de seguridad este costo de utilidad de manera equitativa entre los diferentes idiomas?

Los métodos de evaluación existentes suelen comparar el rendimiento absoluto entre lenguajes utilizando un único modelo alineado con seguridad. Este enfoque no logra distinguir si las disparidades de rendimiento se deben a brechas de capacidad preexistentes (por ejemplo, menor competencia en lenguas de bajos recursos) o al proceso de alineamiento de seguridad en sí mismo. Además, el costo de utilidad suele ser implícito; los modelos pueden parecer útiles mientras retienen información silenciosamente, una degradación que las métricas de evaluación estándar tienen dificultades para capturar.

Metodología

Para aislar el impacto específico del alineamiento de seguridad, los autores introducen un protocolo de evaluación riguroso centrado en el concepto de Costo de Seguridad.

1. Definición de Costo de Seguridad

El Costo de Seguridad se define como la pérdida de utilidad directamente atribuible al alineamiento de seguridad en consultas benignas donde se espera una respuesta útil y complaciente. Se cuantifica como la probabilidad de que un modelo no alineado ( $M_{unaligned}$ ) sea preferido sobre un modelo alineado con seguridad ( $M_{aligned}$ ) en una evaluación de utilidad pareada:
$Cost_L = P(M_{unaligned} \succ M_{aligned} | L)$
donde $L$ representa un lenguaje específico.

2. Configuración Experimental

Emparejamiento de Modelos: El estudio utiliza modelos alineados con seguridad de cuatro familias principales (Llama-3.3-70B, Qwen2.5-72B, Gemma-3-27B, Qwen3-32B) y sus correspondientes contrapartes no alineadas. Los modelos no alineados se generan mediante ablación de la dirección de rechazo (ablateración), una técnica que proyecta los pesos del modelo ortogonalmente a una única dirección de rechazo, eliminando las defensas de seguridad mientras se preservan el conocimiento base y las capacidades de seguimiento de instrucciones.
Selección de Benchmarks: La evaluación se centra en conjuntos de datos de sobre-rechazo (XSTest, OR-Bench, OR-Bench-Hard). Estos conjuntos contienen prompts benignos que son léxica o tópicamente similares a consultas inseguras, diseñados para activar los mecanismos de seguridad sin ser realmente dañinos. Esto asegura que el filtro de seguridad esté activo permitiendo, al mismo tiempo, la medición de la pérdida de utilidad.
Métrica de Evaluación: El estudio emplea un marco de comparación pareada (inspirado en Chatbot Arena) utilizando un LLM como juez (GPT-5-mini) para determinar qué respuesta es más útil. El Costo de Seguridad Marginal (MSC) se calcula como la diferencia entre el Costo de Seguridad de un lenguaje y la línea base de inglés ( $MSC_L = Cost_L - Cost_{English}$ ).
Variables Controladas: Para asegurar que las disparidades observadas no sean artefactos del proceso de ablación o de la calidad de la traducción, los autores realizaron controles extensos, incluyendo:
- Comparación de las "Diferencias de Brecha de Alineamiento" en tareas benignas para descartar déficits lingüísticos preexistentes.
- Validación de la calidad de la traducción mediante hablantes nativos y traducción inversa.
- Replicación de resultados utilizando checkpoints emparejados entrenados desde cero (Qwen3-8B) con y sin datos de seguridad, evitando la ablación por completo.

Principales Contribuciones

Inequidad Sistemática: El artículo proporciona evidencia empírica de que los usuarios no angloparlantes soportan consistentemente un Costo de Seguridad más alto que los usuarios de inglés. Esta disparidad persiste incluso en modelos que enfatizan un amplio soporte multilingüe y un riguroso entrenamiento de seguridad.
Identificación de Tres Patrones de Disparidad:
- Zona de Doble Penalización: Muchos idiomas no ingleses caen en un cuadrante donde sufren tanto una protección de seguridad más débil (menor Ganancia de Seguridad) como una mayor pérdida de utilidad (mayor Costo de Seguridad).
- Bajo Costo Falso: En algunos casos (por ejemplo, Qwen3), un aparente bajo Costo de Seguridad es en realidad una consecuencia de que los filtros de seguridad no logran activarse para entradas en otros idiomas, dejando a los usuarios expuestos a salidas dañinas en lugar de proporcionar un equilibrio.
- Disparidad de Altos Recursos: Incluso los idiomas de altos recursos (por ejemplo, el chino) incurren en un Costo de Seguridad significativamente mayor que el inglés para lograr niveles de seguridad comparables.
Mecanismo de Degradación: El estudio revela que el Costo de Seguridad no es impulsado únicamente por rechazos explícitos. Una parte sustancial de la pérdida de utilidad proviene de la degradación cualitativa implícita, donde los modelos alineados proporcionan respuestas que son menos informativas, menos accionables y menos precisas que sus contrapartes no alineadas, incluso cuando no rechazan la consulta.
Marco Metodológico: Los autores proponen un protocolo controlado para medir el Costo de Seguridad que aísla el efecto de alineamiento de las capacidades preexistentes del modelo, ofreciendo una lente más precisa para evaluar la seguridad multilingüe.

Resultados

Hallazgos Cuantitativos: A través de múltiples familias de modelos, los idiomas no ingleses exhiben un Costo de Seguridad Marginal positivo, lo que indica una penalización de utilidad desproporcionada. Por ejemplo, en las familias Gemma-3 y Qwen2.5, los idiomas no ingleses mostraron costos significativamente más altos que el inglés.
Rechazo vs. Costo Implícito: El análisis muestra que, si bien las tasas de rechazo explícito contribuyen al costo (especialmente en benchmarks "difíciles"), estas no explican completamente la disparidad. En muchos casos, el modelo no alineado proporciona una respuesta más completa y accionable que el modelo alineado, incluso cuando ambos cumplen con la solicitud.
Pruebas de Robustez: Los hallazgos se mantienen constantes cuando se utilizan checkpoints emparejados entrenados desde cero, confirmando que la disparidad surge del propio objetivo de alineamiento de seguridad y no de artefactos de la técnica de ablación.

Significado

El artículo argumenta que las prácticas actuales de alineamiento de seguridad contienen un defecto fundamental: imponen una penalización estructural dependiente del lenguaje que degrada la experiencia del usuario para los no angloparlantes. Al exponer que los mecanismos de seguridad a menudo están mal calibrados para entradas en otros idiomas —resultando ya sea en una pérdida excesiva de utilidad o en una protección insuficiente—, los autores instan al desarrollo de mecanismos de seguridad equitativos.

El estudio concluye que el alineamiento de seguridad no debe verse como un proceso uniforme. En su lugar, los desarrolladores deben medir y abordar el Costo de Seguridad en todos los idiomas soportados para asegurar que el compromiso entre seguridad y utilidad se distribuya de manera justa, en lugar de cargar desproporcionadamente a los usuarios no angloparlantes. Este trabajo destaca la necesidad de ir más allá de los paradigmas de seguridad centrados en el inglés para lograr sistemas de IA verdaderamente inclusivos y útiles.