Resumen Técnico: Localización de las Vías de Anclaje en Modelos de Lenguaje

Declaración del Problema

Los Grandes Modelos de Lenguaje (LLMs), al igual que los humanos, exhiben un sesgo de anclaje, donde un valor numérico irrelevante en un prompt desplaza los juicios posteriores hacia ese valor, incluso cuando el modelo posee el conocimiento fáctico correcto. Si bien trabajos previos han establecido la existencia de este fenómeno conductual, lo han tratado mayoritariamente como una caja negra, midiendo la magnitud del desplazamiento sin explicar los mecanismos internos. Este artículo aborda la brecha en la interpretabilidad mecánica: específicamente, la identificación de qué vías internas dentro de un LLM transportan la señal que causa que un ancla irrelevante compita con la respuesta correcta durante la predicción.

Metodología

1. Configuración de Tarea Controlada

Los autores adaptaron 100 preguntas de estimación numérica del Open Anchoring Question Dataset (OpAQ) a un formato de opción múltiple controlado.

• Estructura del Prompt: Cada ítem incluye una pregunta fáctica, una respuesta de verdad fundamental (ground-truth) y una oración de "máquina tragamonedas" irrelevante que contiene un ancla baja, un ancla alta, o un control de tokens coincidentes (cadena no numérica).
• Espacio de Respuesta: Se utiliza un conjunto fijo de nueve opciones en todas las condiciones, que contienen la verdad fundamental, los anclajes y valores intermedios. Se instruye al modelo para que emita únicamente la letra de la respuesta.
• Modelos Evaluados: Cuatro modelos de decodificación solo de pesos abiertos de las familias Qwen2.5 y Llama-3.1:
  • Modelos base: Qwen2.5-7B, Llama-3.1-8B.
  • Variantes ajustadas por instrucciones (instruct-tuned): Qwen2.5-7B-Instruct, Llama-3.1-8B-Instruct.

2. Métricas

• Métrica Conductual: El desplazamiento del Valor Esperado (EV) normalizado mide la dirección y magnitud del desplazamiento en la distribución de probabilidad del modelo hacia el ancla.
• Métrica de Atribución: Se define una métrica de diferencia de logits ($m$) como la diferencia entre el logit de la respuesta correcta y el logit de la respuesta del ancla activa ($m = \text{logit}(y_{correct}) - \text{logit}(y_{anchor})$).
  • Una disminución en $m$ indica que el ancla se está volviendo más competitiva.
  • El cambio en esta métrica ($\Delta m$) entre los prompts con anclaje y el control sirve como objetivo para la localización del circuito.
  • La validación confirmó que $\Delta m$ se correlaciona fuertemente con los desplazamientos de EV conductuales.

3. Marco de Localización de Circuitos

El estudio emplea la localización de circuitos basada en atribución para identificar el subgrafo mínimo del modelo responsable del efecto de anclaje.

• Representación de Grafo: El transformador es tratado como un grafo de computación donde los nodos son componentes (cabezales de atención, MLPs) y las aristas son vías dirigidas.
• Métodos Comparados:
  • Parcheo de Atribución de Nodos (NAP/NAP-IG): Califica componentes individuales.
  • Parcheo de Atribución de Aristas (EAP/EAP-IG): Califica vías dirigidas entre componentes.
  • Gradientes Integrados (IG): Las variantes (NAP-IG, EAP-IG) promedian los gradientes a lo largo de un camino de interpolación para mejorar la calidad de la atribución.
• Evaluación de Fidelidad: Los autores miden la Recuperación del Rendimiento del Circuito (CPR). Retienen el top-$k\%$ de las aristas/nodos clasificados del experimento "limpio" (control) y parchean el resto con las activaciones del experimento "corrupto" (anclado). Un alto puntaje de CPR indica que el subgrafo retenido recupera con éxito el comportamiento no anclado del modelo.

Principales Contribuciones

1. Validación de Métrica: El artículo establece una métrica validada a nivel de respuesta (diferencia de logits) que rastrea el anclaje conductual, permitiendo el uso de atribución basada en gradientes para la localización de circuitos.
2. Localización de Aristas vs. Nodos: El estudio demuestra que los métodos a nivel de arista (EAP, EAP-IG) recuperan la señal de anclaje de manera significativamente más fiel que los métodos a nivel de nodo (NAP, NAP-IG). Esto sugiere que el sesgo se entiende mejor como una propiedad de las vías entre componentes en lugar de componentes aislados "sesgados".
3. Análisis Estructural de los Circuitos:
   • Patrones por Capas: Los modelos Qwen concentran la atribución en capas medias a tardías, mientras que los modelos Llama la concentran en las capas iniciales.
   • Tipos de Componentes: Los circuitos con mayor rango están dominados por aristas de atención-a-atención (aprox. 68–80% de las aristas seleccionadas), con una participación significativa de las conexiones atención-MLP, lo que sugiere que los MLPs participan a través de vías mediadas por la atención.
4. Hallazgos de Transferibilidad:
   • Intra-Modelo: Los circuitos de ancla baja y de ancla alta comparten una estructura sustancial (aprox. 66–71% de las aristas compartidas) y se transfieren bien a través de contrastes de anclaje dentro del mismo modelo.
   • Inter-Variante: Aunque los modelos base y los ajustados por instrucciones comparten patrones generales de atribución por capas, las aristas dispersas específicas que más importan cambian tras el ajuste por instrucciones. La transferencia entre variantes es menos fiable, particularmente para los contrastes de ancla baja y circuitos dispersos.

Resultados

• Fidelidad: EAP-IG (Parcheo de Atribución de Aristas con Gradientes Integrados) surgió como el método de localización más fiel, logrando puntajes de CPR que a menudo superan el 0.90 en modelos y condiciones. En contraste, los métodos a nivel de nodo (NAP) obtuvieron puntajes significativamente menores (por ejemplo, 0.36–0.67).
• Estructura de Anclaje:
  • Los circuitos de ancla baja y alta dentro de un mismo modelo son casi idénticos en su distribución de profundidad por capas (correlación de Pearson > 0.99) y comparten aproximadamente dos tercios de sus aristas de mayor rango.
  • El ajuste por instrucciones preserva la profundidad general de la atribución pero altera las aristas dispersas específicas que impulsan el efecto. Por ejemplo, en Qwen-7B, la fidelidad inter-variante para contrastes de ancla baja cayó de 0.917 (emparejado) a 0.291 al usar el ranking del modelo ajustado por instrucciones.
• Diferencias entre Modelos: Los modelos Qwen exhiben un anclaje conductual más fuerte y una atribución en capas más tardías en comparación con los modelos Llama, que muestran una concentración en las capas iniciales.

Significado y Reivindicaciones

El artículo afirma proporcionar una explicación mecánica de cómo las señales de decisión relacionadas con el anclaje son transportadas dentro de los modelos de lenguaje. Al enmarcar el anclaje como un problema de localización de circuitos, los autores van más allá de medir que ocurre un sesgo para entender cómo se computa.

Las implicaciones clave extraídas por los autores incluyen:

• Vía vs. Componente: El anclaje es un fenómeno a nivel de vía; aislar nodos específicos "sesgados" es menos efectivo que identificar el flujo de información entre componentes.
• Mecanismos Compartidos: La fuerte transferencia entre anclajes bajos y altos sugiere un mecanismo interno compartido para la sensibilidad al ancla, en lugar de modos de falla distintos para diferentes direcciones de anclaje.
• Sensibilidad Post-Entrenamiento: La reducida transferibilidad entre los modelos base y los ajustados por instrucciones indica que el post-entrenamiento cambia qué vías específicas son críticas para este sesgo, lo que implica que las estrategias de mitigación pueden necesitar ser reevaluadas tras el ajuste fino.
• Contribución Metodológica: El trabajo demuestra la utilidad de aplicar la localización de circuitos a los sesgos cognitivos, ofreciendo un marco para pasar de la observación conductual a la comprensión mecánica de los sesgos inducidos por el prompt.

Los autores se mantienen modestos, señalando que sus hallazgos son específicos para la formulación de opción múltiple y un conjunto de datos específico (OpAQ), y que los circuitos identificados representan el mecanismo para la métrica validada de diferencia de logits, más que cada manifestación posible del anclaje en la generación de texto abierto.