From Geometric Recovery to Causal Validation: A Reproducible Audit of Sparse Autoencoder Features, from Superposition Geometry to Causal Inertness

Resumen Técnico: De la Recuperación Geométrica a la Validación Causal

Planteamiento del Problema
El campo de la interpretabilidad mecánica depende fuertemente de los Autoencoders Dispersos (SAEs, por sus siglas en inglés) para descomponer las representaciones neuronales en superposición en características interpretables. Las prácticas actuales de evaluación dependen predominantemente de métricas de recuperación correlacional, específicamente la similitud de coseno sin signo entre la dirección de una característica (verdadera o sondeada) y el átomo del decodificador con mejor coincidencia. Este artículo identifica una brecha crítica de evaluación: una alta similitud de coseno mide la alineación de la geometría del decodificador (qué tan bien el átomo reconstruye la característica) pero no garantiza el comportamiento de activación del codificador (si el átomo realmente se dispara cuando la característica está presente). Los autores argumentan que estas son afirmaciones empíricas distintas, y que una característica puede ser geométricamente perfecta pero causalmente inerte.

Metodología
Los autores llevan a cabo una auditoría totalmente controlada utilizando un modelo de juguete sintético pequeño donde la verdad fundamental es conocida y totalmente controlable. La metodología procede en tres etapas:

1. Reproducción de Diagramas de Fase: Reproducen el diagrama de fase de superposición de Elhage et al. (2022) y la comparación TopK-versus-L1 de Gao et al. (2024). Esto implica entrenar SAEs en entradas sintéticas con variaciones en la dispersión y en las proporciones de sobrecompletitud.
2. Batería de Validación Causal: Para cada característica que supera un umbral de recuperación correlacional estándar (coseno $\ge$ 0.90), los autores aplican dos intervenciones propagadas a través de la etapa de salida real del modelo:
   • Ablación: Poner a cero la entrada del átomo correspondiente cuando la característica está presente para medir la caída en la salida reconstruida de la característica (dirección de lectura o Read-direction).
   • Direccionamiento (Steering): Forzar el átomo correspondiente a un valor fijo con el signo correcto cuando la característica está ausente para medir el aumento en la salida de la característica (dirección de escritura o Write-direction).
3. Desarrollo de Instrumento: Los autores empaquetan esta metodología en sae-causal-audit, una herramienta agnóstica al modelo que impone un tipado de protocolo estricto (requiriendo exposición de encode, decode y diccionario) e implementa un pipeline de reproducción determinista y verificado mediante hash para asegurar la reproducibilidad.

Contribuciones Clave y Resultados

• Artefactos del Diagrama de Fase y Nuevos Regímenes:

  • Identificaron un artefacto de convergencia en alta dispersión donde el subentrenamiento se hace pasar por superposición; lo resolvieron ajustando los presupuestos de pasos (step budgets).
  • Descubrieron un régimen de compartición difusa previamente subdescrito en sobrecompletitud extrema (proporción 8, dispersión 0.99), donde las características están representadas sustancialmente ($\|W_i\|_2 \approx 1.40$) pero exhiben baja dimensionalidad de característica ($D_i \approx 0.08$) debido a una superposición simétrica y multidireccional.

• L1 vs. TopK y Contracción (Shrinkage):

  • Reprodujeron la dominancia de Pareto de los SAEs TopK sobre los L1.
  • Provinieron evidencia cuantitativa directa de la contracción L1: El refinamiento de las magnitudes de los átomos seleccionados por L1 (congelando el soporte) recuperó el 91.2% de la brecha de reconstrucción e incrementó las magnitudes medias en un 22.5%, mientras que TopK mostró un cambio de magnitud insignificante. Esto confirma que las penalizaciones L1 sesgan sistemáticamente las fuerzas de activación hacia cero.

• Inercia Causal:

  • Hallazgo Principal: La recuperación correlacional no implica eficacia causal. En un SAE TopK degradado, el 77% de las características que superaron el umbral de coseno $\ge$ 0.90 eran causalmente inertes (el átomo correspondiente nunca se disparó). Incluso en un SAE bien entrenado, el 9% de las características coincidentes fueron inertes, incluyendo coincidencias con un coseno $\approx$ 1.000.
  • Mecanismo: La inercia surge porque la geometría del decodificador (usada para la reconstrucción) puede alinearse perfectamente con una dirección de característica mientras que la no linealidad de selección del codificador (TopK/ReLU) nunca selecciona ese átomo.

• Taxonomía de la Inercia Causal:
  Los autores descomponen la inercia por causa y dirección:

  • Por Causa:
    • Inercia Estructural: Causada por la geometría de superposición de pares antipodales (dos características que comparten una dirección con signos opuestos) bajo un codificador de paso positivo. Esto ocurre tanto en SAEs buenos como malos y es estable/predecible.
    • Inercia Competitiva: Causada por la patología de selección TopK en diccionarios degradados donde un átomo pierde la competencia por un margen mínimo. Esto es inestable y está vinculado a la sensibilidad de los límites numéricos.
  • Por Dirección:
    • Inercia de Lectura (Read-Inertness): El átomo nunca se dispara, haciendo que el monitoreo basado en ablación sea ciego.
    • Inercia de Escritura (Write-Inertness): Las intervenciones a lo largo del átomo fallan en mover la característica.
    • Disociación: Los autores encontraron cinco pares antipodales que son inertes en lectura pero direccionables en escritura. Un átomo puede ser inmonitorizable (nunca se dispara) pero altamente direccionable (especificidad 143–310) cuando se fuerza.

• La Reproducibilidad como un Pila de Reclamaciones:
  El documento documenta que la reproducibilidad exacta a nivel de bytes no está disponible por construcción para cargas de trabajo de entrenamiento de punto flotante debido a diferencias en compiladores y BLAS. Proponen una garantía de dos niveles: exactitud de bytes mediante SHA-256 dentro de un entorno fijado, y igualdad semántica (basada en tolerancia) a través de plataformas.

• Censo de Modelos Reales:
  Al aplicar el instrumento a un SAE de producción (GPT-2-small, 83 conceptos), se reprodujo el patrón cualitativo: el 14% de las características recuperadas eran causalmente inertes. Crucialmente, la auditoría sacó a la luz colisiones de átomos, donde un único átomo del decodificador servía como la coincidencia más cercana para docenas de conceptos semánticamente no relacionados a través de lotes independientes, sugiriendo una subdivisión insuficiente del diccionario en modelos reales.

Significancia y Reclamaciones
El artículo sostiene que la dependencia del campo en métricas correlacionales crea un espacio de soluciones "geométricamente plausible, causalmente engañoso". La significancia radica en:

1. Redefinición de la Validación: Establecer que una característica no está "recuperada" hasta que pasa pruebas de intervención causal (ablación y direccionamiento), no solo de alineación geométrica.
2. Instrumentalización: Proporcionar sae-causal-audit como una herramienta para detectar estos fallos, destacando específicamente que los matches de coseno "perfectos" pueden ser causalmente inútiles.
3. Perspectiva Estructural: Demostrar que la superposición antipodal crea un modo de fallo sistemático (inercia estructural) que persiste incluso en SAEs de alta calidad, lo que requiere un emparejamiento consciente del signo y una validación específica de la dirección (lectura vs. escritura).
4. Estándares de Reproducibilidad: Argumentar que la reproducibilidad debe declararse como una pila de reclamaciones con alcances explícitos en lugar de una insignia binaria de "totalmente reproducible".

Los autores mantienen la modestia respecto a los números absolutos, señalando que el entorno de juguete sirve como punto de calibración para el "caso fácil" y que las tasas de modelos reales no son directamente transferibles, aunque la divergencia cualitativa entre correlación y causalidad es robusta.