Resumen Técnico: Causalidad Dimensional de las Representaciones de Transformadores

Enunciado del Problema

Los Autoencoders Dispersos (SAE) se han convertido en la herramienta estándar para descomponer los flujos residuales de los transformadores en diccionarios de características interpretables y monosémicos. Una suposición predominante en el campo es que la capacidad representacional (el número de características que se activan en cualquier entrada) escala linealmente con la capacidad causal (el número de características cuya perturbación realmente cambia el comportamiento del modelo). Si esto fuera cierto, simplemente aumentar el ancho del SAE expandiría proporcionalmente el conjunto de características causalmente relevantes disponibles para la interpretación mecánica.

Este trabajo desafía dicha suposición, argumentando que las capacidades representacional y causal divergen significativamente a medida que los SAE escalan. Los autores postulan que el campo carece de una caracterización sistemática de la relación entre el ancho del SAE y la influencia causal, lo que hace necesaria una nueva métrica para cuantificar la estructura causal intrínseca de las capas de los transformadores.

Metodología

1. Definición de la Dimensionalidad Causal ($\kappa$)

Los autores introducen la dimensionalidad causal, denotada como $\kappa(L, M, T)$, definida como el rango efectivo del producto externo esperado del Jacobiano en la capa $L$:
$$\kappa(L, M, T) = \text{rango-ef}(\Sigma_L), \quad \text{donde } \Sigma_L = \mathbb{E}_{x \sim T} [J_L(x)^\top J_L(x)]$$
Aquí, $J_L(x)$ es el Jacobiano de la salida del modelo con respecto al flujo residual en la capa $L$. $\kappa$ representa el número efectivo de direcciones en el flujo residual que influyen causalmente en la salida. Los autores demuestran que $\kappa \le \min(d, |V|)$, donde $d$ es la dimensión del modelo y $|V|$ es el tamaño del vocabulario.

2. Estimación mediante Barrido de Ancho de SAE y Parcheo de Atribución

Dado que calcular $\Sigma_L$ exactamente es intratable (requiriendo $d$ pasadas hacia atrás por entrada), los autores proponen un estimador consistente utilizando Parcheo de Atribución (AtP) emparejado con un barrido de ancho de SAE:

• Parcheo de Atribución: Utilizado como un proxy de primer orden para la influencia causal. La puntuación para una característica $i$ es $AtP_i = \mathbb{E} [|\frac{\partial \mathcal{L}}{\partial f_i} \cdot f_i(x)|]$, midiendo el impacto de la característica en la pérdida.
• Barrido de Ancho: Los autores entrenan SAEs en Gemma-2-2B (Capa 12) a través de siete anchos que van desde 16,384 hasta 1,048,576 características.
• Métrica: Cuentan el número de características $N_{causal}(m)$ que superan un umbral absoluto calibrado $\epsilon$ (establecido en el percentil 98 de las puntuaciones de AtP en el ancho de referencia).
• Consistencia: Bajo suposiciones de cobertura, fidelidad y ausencia de características muertas, $N_{causal}(m)$ converge a un conteo espectral que proporciona una cota inferior para $\kappa$.

3. Controles Experimentales

El estudio emplea controles rigurosos para aislar la señal causal:

• $\ell_0$ Emparejado: Controlando el número promedio de características activas a través de los anchos para evitar la confusión por la deriva de la dispersión.
• Invarianza de Escala: Comparando Gemma-2-2B y Gemma-2-9B en profundidades relativas emparejadas.
• Invarianza de Arquitectura: Probando SAEs TopK, JumpReLU y ReLU estándar.
• Ablaciones: Una ablación de codificador/decodificador de cuatro celdas para distinguir entre la selección de características y el filtrado de dispersión.
• Verdad Terrena Sintética: Probando la recuperación de direcciones causales conocidas en un modelo de juguete.

Resultados Clave

1. La Cuña Representacional-Causal

En la Capa 12 de Gemma-2-2B, aumentar el ancho del SAE en 64× (de 16k a 1M) resultó en:

• Crecimiento Representacional: El conteo de características activas ($N_{repr}$) aumentó en 15.6×.
• Crecimiento Causal: El conteo de características causalmente activas ($N_{causal}$) aumentó solo en 4.35×.
  Esta divergencia, denominada cuña representacional-causal, demuestra que la capacidad representacional crece linealmente mientras que la capacidad causal se satura de forma sub-lineal.

2. Estimación de $\kappa$

Ajustar una curva de saturación a la trayectoria de $N_{causal}(m)$ produce una estimación de la dimensionalidad causal:

• $\hat{\kappa} \approx 1,990$ (con un intervalo de confianza amplio debido a los límites de hardware en el ancho del SAE, pero una relación robusta).
• $\hat{\kappa} / d_{modelo} \approx 0.86$: El modelo utiliza casi todas sus dimensiones representacionales causalmente en texto genérico, pero este número está acotado y no crece con el ancho del SAE.
• Relación de Participación: Una cota inferior $\kappa_{PR} \approx 280$ indica un espectro de influencia causal de cola pesada.

3. Invarianza y Estructura

• Invarianza de Escala: A pesar de un aumento de 3.46× en los parámetros (Gemma-2-2B vs. 9B), el conteo causal a la profundidad relativa emparejada permaneció idéntico ($N_{causal} = 328$). Esto sugiere que $\kappa$ está determinado por la diversidad de tareas, no por la cantidad de parámetros.
• Atenuación por Profundidad: A través de ocho capas, el umbral absoluto de atribución requerido para identificar el 2% superior de características cayó 20× desde la Capa 1 hasta la Capa 23, indicando que la fuerza de la señal causal se atenúa con la profundidad.
• Invarianza de Arquitectura: El crecimiento sub-lineal de $N_{causal}$ se mantuvo en arquitecturas TopK, JumpReLU y ReLU estándar.

4. Perspectiva Mecánica: El Codificador como Filtro

Un hallazgo crítico de la ablación de cuatro celdas es que reemplazar el codificador entrenado con una proyección ortogonal aleatoria infló $N_{causal}$ en 9.27×.

• Implicación: El codificador entrenado actúa principalmente como un filtro de dispersión (suprimiendo características de fondo) en lugar de un selector de características.
• Consecuencia: El trabajo de interpretabilidad centrado en las etiquetas de características del codificador podría estar mal dirigido; la estructura del decodificador y el enrutamiento de las características suprimidas son probablemente más críticos.

5. Validación y Controles

• Privilegio Geométrico: Las características causales no mostraron distinción geométrica (magnitud o similitud del coseno) de las características no causales en el espacio del decodificador.
• Recuperación Sintética: AtP falló en recuperar las direcciones causales de verdad terrena en un modelo de juguete (Recall = 0), confirmando que AtP mide patrones de activación enrutados a través del decodificador, no una recuperación directa de una base causal.
• Recuperación Específica de Tareas: En circuitos de tareas específicas (Marks et al., 2025), el 5% superior de características de AtP recuperó el 98.2% de la verdad terrena, apoyando una "estructura en capas" donde un núcleo de alto AtP se comparte entre tareas, rodeado por un halo específico de la tarea.

Significado y Afirmaciones

El trabajo establece $\kappa$ como una propiedad medible e intrínseca al modelo de las capas de los transformadores. Sus contribuciones principales son:

1. Definición Teórica: Definir la dimensionalidad causal como el rango efectivo del Jacobiano causal y demostrar sus cotas superiores.
2. Caracterización Empírica: Demostrar que la capacidad causal es recuperable de forma sub-lineal por el ancho del SAE e invariante a la escalabilidad del modelo, contradiciendo la suposición de que los SAE más anchos expanden linealmente la interpretabilidad causal.
3. Replanteamiento Mecánico: Identificar al codificador entrenado como un filtro de dispersión, sugiriendo que el "conjunto causal" está definido por la supresión de ruido por parte del codificador en lugar de la selección de conceptos específicos.
4. Implicación Práctica: Los anchos actuales de SAE (por ejemplo, 1M) capturan solo ~72% de la dimensionalidad causal estimada ($\hat{\kappa}$), lo que implica que para una enumeración causal completa se requerirían SAEs significativamente más anchos (aprox. 2.6M), lo cual es actualmente prohibitivo computacionalmente.

Los autores concluyen que la "cuña" es una propiedad fundamental de las representaciones de los transformadores, impulsada por la saturación de las dimensiones del subespacio causal, y que los esfuerzos de interpretabilidad deben tener en cuenta esta escalabilidad no lineal y el papel específico del codificador en el filtrado de características de fondo.