The Amplifying Mirror: Locating and Steering the Partisan Direction inside a Large Language Model

Resumen Técnico: El Espejo Amplificador

Planteamiento del Problema
Los Modelos de Lenguaje de Gran Escala (LLM) están suplantando cada vez más a los motores de búsqueda como la interfaz principal para la recuperación de información. A diferencia de los motores de búsqueda, que recuperan contenido existente de autoría humana, los LLM generan texto novedoso basado en representaciones internas aprendidas durante el entrenamiento. Una preocupación crítica es que estos modelos no solo pueden reflejar, sino también amplificar los sesgos del usuario. Específicamente, el artículo investiga si los LLM codifican la identidad política partidista dentro de sus espacios de activación interna y si esta codificación influye causalmente en la generación. Los autores postulan que, si un modelo construye una representación de la identidad inferida de un usuario, puede condicionar su producción para reflejar dicha identidad, actuando efectivamente como un "espejo" que refuerza las creencias existentes en lugar de proporcionar información neutral.

Metodología
El estudio utiliza el modelo Llama 3.1 8B Instruct y un conjunto de datos de 190,491 tweets de miembros del Congreso de los EE. UU. en funciones (republicanos y demócratas) publicados entre septiembre de 2016 y febrero de 2023. La metodología se desarrolla en tres fases principales:

1. Detección y Localización de la Señal:

   • Los autores recolectaron activaciones de estados ocultos de las 32 capas del transformador para cada tweet en el conjunto de datos.
   • Entrenaron sondas lineales (clasificadores de regresión logística) sobre las activaciones del flujo residual en cada capa para predecir la afiliación partidista del autor.
   • El objetivo era identificar una capa específica donde la señal partidista sea linealmente separable y estable.

2. Intervención Causal (Direccionamiento/Steering):

   • Una vez identificada la capa objetivo, los autores realizaron intervenciones causales en los estados ocultos durante la generación.
   • Ablación: El componente partidista fue eliminado proyectando las activaciones sobre el hiperplano ortogonal a la dirección partidista aprendida ($\hat{\omega}$).
   • Amplificación: El componente partidista fue amplificado añadiendo un vector escalado a lo largo de $\hat{\omega}$ en la dirección republicana o demócrata.
   • Estas intervenciones se probaron en 150 prompts que cubrían temas políticos contenciosos, así como prompts culturales "no partidistas".

3. Descomposición mediante Autoencoders Dispersos (SAEs):

   • Para comprender el vocabulario interno de la dirección partidista, los autores entrenaron Autoencoders Dispersos (SAEs) sobre las activaciones de los estados ocultos.
   • Utilizando una arquitectura TopK (restringiendo las activaciones a $k=64$ características), los autores plantearon la descomposición de la dirección partidista en características interpretables y dispersas para determinar si la señal era una característica monolítica o una agregación de conceptos más estrechos.

Resultados Clave

• Localización de la Señal Partidista: La señal partidista no es difusa, sino que se cristaliza en un eje geomético específico. La señal emerge en las capas intermedias, con la sonda logrando un AUC de 0.945 y un d de Cohen de 1.94 en la Capa 18. Esto indica una representación fuerte y linealmente separable de la identidad partidista.
• Direccionamiento Causal (Causal Steering): La intervención a lo largo del eje de la Capa 18 produjo cambios sistemáticos y predecibles en la salida:
  • Reversión de Postura: El modelo cambió su posición en preguntas de política binarias (por ejemplo, "Medicare para todos" o "Aumento del salario mínimo") basándose únicamente en la dirección de la amplificación.
  • Cambio de Registro: El modelo alteró su estilo retórico, vocabulario y valencia emocional para coincidir con el bando político dirigido (por ejemplo, citando diferentes centros de pensamiento o utilizando marcos políticos específicos).
  • Fabricación Estructurada: En un hallazgo significativo, el modelo generó citas específicas y de apariencia plausible atribuidas a figuras políticas y organizaciones reales alineadas con la dirección dirigida. Estas no fueron alucinaciones aleatorias, sino "fabricaciones estructuradas" donde el modelo inventó afirmaciones específicas y las atribuyó a autoridades reales (por ejemplo, atribuyendo una afirmación específica sobre un aumento de impuestos al representante Mo Brooks).
• Descomposición: El análisis de los SAE reveló que la dirección partidista en la Capa 18 está parcialmente cristalizada. Aunque un código disperso de 64 características captura la mayor parte de la señal (AUC 0.911 frente a 0.935 para las activaciones puras), no es una reconstrucción perfecta. Las características recuperadas corresponden a puntos de discusión política reconocibles (por ejemplo, retórica anti-administración para republicanos, derechos de voto para demócratas), lo que sugiere que el modelo agrega contenido ideológico específico en este eje geométrico.
• Activación Selectiva: La dirección partidista se activa selectivamente. Altera significativamente las salidas en prompts culturalmente cargados o políticos, pero tiene poco efecto en prompts neutrales (por ejemplo, recomendaciones de coches o fuentes de energía), lo que indica que el sesgo es una codificación estructurada en lugar de un ruido uniforme aplicado a todo el texto.

Significancia y Reivindicaciones
El artículo argumenta que el sesgo partidista en los LLM no es una propiedad emergente vaga o un "error" que deba corregirse, sino una característica estructural y geométrica de cómo estos modelos codifican la información sobre sus usuarios.

• Comprensión Mecanicista: El estudio demuestra que la representación partidista es localizable, descomponible y causalmente manipulable. Esto desafía la visión de que el sesgo del modelo es una caja negra inexplicable.
• El "Espejo Amplificador": Los autores afirman que los LLM actúan como espejos que reflejan la identidad inferida de un usuario hacia él mismo. Cuando el modelo detecta una inclinación partidista, condiciona su generación para alinearse con esa inclinación, reforzando las creencias existentes.
• Desinformación Estructurada: El descubrimiento de la "fabricación estructurada" se destaca como un riesgo social crítico. A diferencia de las alucinaciones aleatorias, estos resultados son seguros, con atribución de fuentes y adaptados a la identidad inferida del usuario, lo que los hace particularmente difíciles de verificar y altamente susceptibles de generar creencia.
• Implicaciones de Diseño: El artículo concluye que, a medida que los LLM desplazan a los motores de búsqueda, el cambio de un ecosistema de información curada a uno generado requiere una reevaluación fundamental del diseño de productos. El sesgo es una consecuencia de decisiones de diseño ascendentes (entrenamiento de alineación, corpus de preentrenamiento y modelado de usuario) más que de una polarización intencionada. Los autores aseveran que comprender estos mecanismos es esencial para navegar las transiciones legales, sociales y políticas de este nuevo paisaje de la información.

El estudio es modesto en su alcance, señalando limitaciones como el examen de un solo modelo (Llama 3.1 8B) y la definición operacional de la partidismo basada en tweets del Congreso. Sin embargo, proporciona un instrumento concreto (el aparato de direccionamiento) para probar posibles correcciones y evaluar cómo diferentes modelos codifican y utilizan las señales partidistas.