💬 NLP

LoRA for Gender-Inclusive Rewriting and Activation Steering for Counter-Narrative Generation

Este artículo presenta el sistema IHLC para la Tarea Compartida LT-EDI 2026, el cual combina el ajuste fino mediante LoRA para la reescritura de género inclusivo y una técnica de direccionamiento de activación computacionalmente eficiente utilizando direcciones principales derivadas de PCA para la generación de contranarrativas, logrando puntuaciones altas mientras analiza limitaciones clave como la deriva semántica y la filtración de sesgos.

Autores originales: Akhil Rajeev P, Manoj Balaji J

Publicado 2026-07-28

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Akhil Rajeev P, Manoj Balaji J

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás hablando con un robot muy inteligente y muy culto que ha leído casi todos los libros de internet. Este robot es excelente escribiendo historias y respondiendo preguntas, pero tiene un problema: aprendió de los libros humanos, y a veces esos libros contienen ideas anticuadas e injustas sobre los niños y las niñas. Si le pides al robot que escriba una historia sobre un "bombero" (fireman), podría insistir obstinadamente en usar esa palabra, aunque "bombero/a" (firefighter) sea mejor. Si le pides que argumente en contra de una afirmación cruel como "las niñas son malas en matemáticas", podría accidentalmente estar de acuerdo con la idea cruel o sonar demasiado robótico. Este es el mundo de la Inteligencia Artificial (IA) y el Procesamiento de Lenguaje Natural (PLN), donde los científicos intentan enseñar a las computadoras a hablar de manera más justa e inclusiva. El gran desafío es descubrir cómo ajustar el cerebro del robot para que elija naturalmente palabras amables y neutrales sin tener que reconstruir todo su cerebro desde cero.

En este artículo, un equipo de investigadores llamado IHLC intentó resolver este problema para un concurso especial llamado LT-EDI 2026. Se centraron en dos tareas principales: primero, simplemente reescribir oraciones sesgadas para que sean justas (como cambiar "fireman" por "firefighter"), y segundo, crear una "contra-narrativa": una respuesta cortés y persuasiva ante una afirmación cruel o sesgada. Para la primera tarea, utilizaron un método estándar llamado LoRA, que es como darle al robot una pequeña hoja de trucos especializada para ayudarlo a aprender nuevas reglas rápidamente. Pero para la segunda tarea, probaron algo mucho más experimental e ingenioso llamado Direccionamiento de Activación (Activation Steering).

Piensa en el cerebro del robot como una máquina gigante y compleja con miles de engranajes girando en su interior. Normalmente, para cambiar cómo funciona la máquina, tienes que desarmarla y reemplazar los engranajes (esto se llama "ajuste fino" o fine-tuning). Pero los investigadores se preguntaron: "¿Qué pasaría si solo pudiéramos darle un pequeño empujón mientras está funcionando?". Encontraron una dirección de "empujón" específica comparando cómo reacciona el cerebro del robot ante una oración cruel frente a una amable. Calcularon la diferencia entre estas dos reacciones y crearon un "vector de dirección" (steering vector): imagina que es una fuerza magnética que empuja los pensamientos del robot hacia la amabilidad y la inclusión. Inyectaron esta fuerza en el cerebro del robot mientras escribía, sin cambiar ninguno de sus engranajes originales.

Los resultados fueron una mezcla de éxito y fallos interesantes. Para la tarea de reescritura simple, su sistema lo hizo muy bien, obteniendo un 80.00% y ocupando el 3er lugar de 9 equipos. Para la tarea más difícil de escribir contra-narrativas, obtuvieron un 78.12% y ocuparon el 6to lugar de 7 equipos. El sistema fue excelente para ser cortés y comprender el contexto, pero a veces se emocionaba demasiado con el "empujón". Cuando empujaban la dirección con demasiada fuerza, el robot empezaba a repetirse a sí mismo, a fusionar palabras (como "exhibitimpulsiveness"), o a alejarse del significado original para dar un largo discurso en lugar de una respuesta directa.

Los investigadores descubrieron que, si bien este método de "empujón" es una forma poderosa y eficiente de hacer que la IA sea más inclusiva, no es perfecto. A veces deja tras de sí pequeños restos del sesgo original, o cambia la oración tanto que pierde su sabor original. Sugieren que en el futuro podrían necesitar combinar este "empujón" con otras herramientas para mantener las respuestas del robot tanto justas como fieles a la pregunta original. Es un paso prometedor hacia la creación de una IA que sea un conversador más amable, pero demuestra que incluso con un empujón suave, el robot todavía necesita una guía cuidadosa para lograrlo de la manera correcta.

Resumen Técnico: IHLC en LT-EDI 2026

Planteamiento del Problema
El artículo aborda el desafío de generar lenguaje inclusivo de género y contranarrativas ante declaraciones sesgadas, un objetivo central de la tarea compartida LT-EDI 2026. La tarea se divide en dos subtareas: (A) reescribir oraciones con género o sesgadas en variantes de género neutro preservando el significado, y (B) generar contranarrativas empáticas y persuasivas ante declaraciones abiertamente sesgadas. Los autores señalan que, si bien el ajuste fino (fine-tuning) estándar es efectivo, existe la necesidad de métodos computacionalmente eficientes para ajustar el comportamiento del modelo sin actualizaciones de pesos costosas, particularmente para la generación de contranarrativas, donde equilibrar la cortesía, la coherencia y la corrección fáctica es complejo.

Metodología
La propuesta de IHLC emplea estrategias distintas para las dos subtareas, utilizando el modelo Gemma-3-4B-it como base.

Subtarea A (Reescritura de Género Inclusivo): El equipo utilizó el ajuste fino de Adaptación de Bajo Rango (LoRA) estándar. Este enfoque implicó entrenar el modelo en conjuntos de datos paralelos de pares de oraciones con género y neutras para aprender el mapeo directo entre la terminología sesgada e inclusiva.
Subtarea B (Generación de Contranarrativa): La contribución principal de este artículo es un enfoque de dirección de activación (activation-steering) computacionalmente eficiente combinado con un prompting restringido.
- Dirección de Activación (Activation Steering): Basándose en protocolos de ingeniería de representación (Zou et al., 2023; Turner et al., 2023), los autores derivaron una dirección de dirección realizando un Análisis de Componentes Principales (PCA) sobre los vectores de diferencia de las activaciones ocultas entre las oraciones sesgadas y sus contrafactuales neutros. Este vector de dirección se inyectó en una capa intermedia específica (Capa 16) del modelo durante la inferencia mediante un forward hook. La fuerza de la inyección se controló mediante un coeficiente $\alpha$ .
- Ingeniería de Prompts (Prompt Engineering): Para asegurar que la salida cumpliera con los criterios de evaluación, el sistema empleó dos plantillas de prompt: un "prompt DEI" para salidas flexibles y explicativas, y un "prompt Estricto" para salidas deterministas de una sola línea para evitar penalizaciones por parte de jueces automatizados.
- Decodificación: El sistema utilizó una mezcla de decodificación codiciosa (greedy decoding) y muestreo de baja temperatura con penalizaciones de repetición para mitigar la degeneración de texto y el bucle (looping), que se observaron cuando los coeficientes de dirección eran demasiado altos.

Resultados Clave
El sistema fue evaluado mediante un marco híbrido que involucró un LLM como juez y supervisión humana.

Subtarea A: El enfoque basado en LoRA logró una puntuación promedio del 80.00%, ocupando el 3er lugar entre los 9 equipos participantes. La puntuación fue consistente en la eliminación de Suposiciones de Género (GA), Neutralidad de Género (GN) y Calidad y Relevancia (QR).
Subtarea B: El método de dirección de activación logró una puntuación promedio del 78.12%, ocupando el 6to lugar entre los 7 participantes.
- Fortalezas: El sistema destacó en Cortesía y Respetuosidad (PR: 84.89%) y Coherencia de la Contranarrativa Contextual (CCNC: 84.79%).
- Debilidades: La puntuación de Calidad y Relevancia (QR) fue significativamente más baja (64.68%), lo que indica problemas con la preservación semántica.

Análisis de Modos de Fallo
A través de la evaluación manual de 47 salidas, los autores identificaron cinco modos de fallo primarios inherentes al enfoque de dirección de activación:

Compromiso entre Fidelidad y Edición (53%): El modelo a menudo reemplazaba las estructuras de las oraciones originales de forma rígida (por ejemplo, recurriendo por defecto a "Las personas de todas las identidades de género...") en lugar de realizar ediciones mínimas, alterando el dominio semántico (por ejemplo, cambiando "ciencia" por "campos STEM").
Sensibilidad/Entrelazamiento Específico de la Capa (23%): La dirección en una sola capa no logró neutralizar los conceptos de forma limpia, transformando a menudo rasgos negativos en conceptos relacionados pero aún sesgados (por ejemplo, "ingenuidad" convirtiéndose en "inocencia y vulnerabilidad").
Fuga de Sesgo Residual (11%): Debido a que la dirección dependía de las representaciones de los tokens finales, el sesgo codificado en los tokens de contexto anteriores a veces persistía, lo que llevaba a la neutralización del sujeto pero la retención de la premisa perjudicial.
Inestabilidad por Exceso de Dirección (Over-Steering) (9%): Los coeficientes de dirección altos causaron que el modelo abandonara por completo la estructura sintáctica de la entrada, desplazándose hacia comentarios sociales generalizados en lugar de contranarrativas específicas.
Repetición y Degeneración (4%): Las perturbaciones fuertes ocasionalmente interrumpieron los límites de los tokens, causando palabras fusionadas o texto en bucle.

Significancia y Reivindicaciones
El artículo posiciona su trabajo como una demostración tanto de la promesa como de las limitaciones de la dirección de activación para la generación de lenguaje inclusivo de género.

Promesa: El método genera con éxito contranarrativas corteses y conscientes del contexto sin el costo computacional de un ajuste fino completo, logrando resultados competitivos en métricas de equidad (PR y CCNC).
Limitaciones: Los autores afirman modestamente que, si bien la dirección de activación es una alternativa viable a las actualizaciones de pesos, actualmente tiene dificultades con la preservación semántica (QR) y requiere un ajuste preciso para evitar la inestabilidad. Observan que la dirección en una sola capa conlleva el riesgo de fuga de sesgo residual y que el enfoque está limitado actualmente al inglés, lo que restringe la generalizabilidad cultural.
Dirección Futura: Los autores sugieren que las mejoras futuras requieren la integración de restricciones de preservación semántica (como la pérdida contrastiva), la calibración de la dirección mediante el humano en el bucle (human-in-the-loop) y la extensión a las pistas multilingües.

El artículo concluye que, si bien la dirección de activación ofrece un mecanismo ligero para la mitigación del sesgo, aún no es un reemplazo completo para los métodos de actualización de pesos como el Ajuste Fino de Instrucción (Instruction Finetuning), particularmente cuando se requiere una alta fidelidad a la estructura del texto original.

Resumen Técnico: IHLC en LT-EDI 2026

Más como este