Neuron-Level Interventions for Gendered and Gender-Neutral Generation in Language Models

Resumen Técnico: Intervenciones a Nivel de Neurona para la Generación de Género Masculino, Femenino y Neutro en Modelos de Lenguaje

Declaración del Problema
Los Grandes Modelos de Lenguaje (LM) frecuentemente generan lenguaje con género y refuerzan estereotipos, incluso cuando se les proporcionan entradas neutras. Mientras que investigaciones previas han examinado extensamente el sesgo de género a través de una lente binaria (femenino vs. masculino), existe una comprensión limitada de cómo se codifican las formas de género neutro (por ejemplo, el "they" singular, títulos de profesiones neutros) dentro de las representaciones del modelo. Además, las estrategias de mitigación existentes suelen operar al nivel de la inferencia (por ejemplo, prompting de pocos disparos, restricciones estructuradas) sin localizar explícitamente los mecanismos internos responsables del comportamiento de género. La pregunta específica abordada es si las señales relacionadas con el género pueden localizarse en neuronas específicas dentro de las redes de alimentación hacia adelante (FFN) de los Transformers y si estas neuronas pueden manipularse causalmente para dirigir la generación hacia formas femeninas, masculinas o neutras preservando el significado semántico.

Metodología
Los autores proponen un marco de intervención a nivel de neurona que involucra tres etapas principales:

1. Activación e Identificación de Neuronas:
   El estudio se centra en las neuronas intermedias dentro de los bloques de Perceptrón Multicapa (MLP) de los modelos Transformer. Para tres categorías de género ($g \in \{masculino, femenino, neutro\}$), los autores calculan estadísticas de activación para cada neurona a través de corpora de texto específicos de género. Para identificar neuronas fuertemente ligadas a un género específico minimizando el solapamiento, introducen una Puntuación de Exclusividad Combinada. Esta puntuación agrega tres medidas complementarias para cada neurona $j$ en la capa $l$:

   • Tamaño del Efecto (Cohen's $d$): La diferencia estandarizada en las activaciones medias entre el género objetivo y todos los demás géneros.
   • Diferencia de Log-Odds ($\Delta$): La probabilidad relativa de activación positiva para el género objetivo frente a otros.
   • Diferencia de Media Relativa ($r$): La diferencia proporcional en la magnitud de la activación.
     Una neurona se selecciona para un género específico solo si alcanza la puntuación de exclusividad más alta para esa categoría y cumple con umbrales predefinidos en las tres métricas.

2. Generación Controlada mediante Enmascaramiento:
   Para validar la causalidad, los autores realizan intervenciones en el tiempo de inferencia. Generan salidas "base" y salidas "enmascaradas". En la condición de enmascaramiento, aplican una estrategia de "mantener solo": para un género objetivo $g$, las neuronas identificadas para $g$ permanecen activas, mientras que las neuronas identificadas para los otros dos géneros son enmascaradas (desactivadas). Esto pone a prueba si las neuronas identificadas son suficientes para dirigir el modelo hacia la forma de género objetivo.

3. Protocolo de Evaluación:
   La efectividad de la intervención se evalúa utilizando dos conjuntos de datos: GCGender (derivado de conjuntos de datos binarios existentes con versiones neutras añadidas) e InclusiveGender (curado mediante diccionarios de lenguaje inclusivo). Las métricas de evaluación incluyen:

   • Análisis Basado en Palabras Clave: Medición del cambio en la proporción de términos específicos de género (masculino, femenino, neutro) en la salida en relación con la base.
   • Evaluación Humana: Evaluación de la "Preservación de la Idea General" (retención semántica) y la "Realización del Género Objetivo" (corrección de la terminología de género).

Contribuciones Clave

• Análisis de Género Tripartito: El trabajo extiende los estudios previos de género binario al identificar y controlar explícitamente las neuronas para tres categorías: femenino, masculino y neutro.
• Métrica de Identificación Novedosa: La introducción de un sistema de puntuación de exclusividad combinada para aislar neuronas que están inequívocamente ligadas a una sola categoría de género, abordando el desafío de las activaciones superpuestas.
• Nuevos Conjuntos de Datos: La curación de InclusiveGender (8,600 oraciones por categoría) y la expansión de GCGender para incluir variantes de género neutro, validadas mediante anotación humana para alta calidad y baja ambigüedad.
• Validación Causal: Un protocolo riguroso que demuestra que el enmascaramiento de neuronas específicas altera causalmente la salida de género mientras mantiene la integridad semántica.

Resultados
Los experimentos realizados en Llama-3.1-8B y Qwen2.5-7B arrojaron los siguientes hallazgos:

• Distribución de Capas: Las neuronas específicas de género no están distribuidas uniformemente. Se concentran fuertemente en las capas iniciales (típicamente capas 0–3) de los modelos, con contribuciones significativamente menores de las capas medias y posteriores. Esto contrasta con métodos competidores (LAPE, sNeuron-TST), que tienden a identificar neuronas en capas posteriores.
• Precisión de Control: El método propuesto logra un control de género más preciso que las bases de comparación existentes. Al apuntar a un género específico, el método logra preservar o aumentar la proporción de términos del género objetivo mientras suprime los términos no deseados. Los métodos competidores exhibieron mayor "filtración", a menudo inflando proporciones de géneros no relacionados (por ejemplo, aumentando términos neutros al apuntar a masculino).
• Compromisos de Calidad: La evaluación humana mostró que el método de intervención mejora significativamente la "Realización del Género Objetivo" en comparación con las bases de comparación. Aunque hubo una disminución menor, dependiente del anotador, en la "Preservación de la Idea General" (atribuida a juicios subjetivos sobre cambios de fraseo), el significado central se mantuvo en gran medida.
• Sensibilidad del Conjunto de Datos: El estudio observó que los conjuntos de entrenamiento más pequeños (como en GCGender) pueden llevar a una identificación de neuronas más ruidosa, particularmente para la categoría neutra, lo que sugiere que el volumen de datos impacta la precisión del filtrado de exclusividad.

Significancia y Reivindicaciones
El artículo afirma proporcionar un enfoque simple pero efectivo para comprender cómo se codifica el género en los LM. Al demostrar que las representaciones de género se localizan en una pequeña fracción de neuronas (a menudo <0.5% del total de parámetros) concentradas en las capas iniciales, el trabajo ofrece una explicación mecánica para la generación de género. Los autores sostienen que su intervención a nivel de neurona proporciona una comprensión más clara del comportamiento interno del modelo que las estrategias de mitigación basadas solo en la salida. Posicionan este trabajo como un paso fundacional hacia la intervención de género controlada, ofreciendo una herramienta tanto para evaluar la mitigación de sesgos basada en neuronas como para reducir potencialmente el sesgo de género en futuros despliegues de modelos. Los autores mantienen la modestia respecto a las limitaciones, reconociendo que sus hallazgos están actualmente restringidos a modelos de 7–8 mil millones de parámetros y que los conjuntos de datos más pequeños pueden introducir ruido en la selección de neuronas.