Resumen Técnico: Escaso pero Incorrecto: Un $L_0$ Incorrecto Conduce a Características Incorrectas en Autoencoders Dispersos

Planteamiento del Problema

Los Autoencoders Dispersos (SAEs) están diseñados para revertir la "superposición" en los Modelos de Lenguaje de Gran Escala (LLMs), extrayendo características latentes monosemánticas e interpretables de las activaciones internas del modelo. Un hiperparámetro crítico en el entrenamiento de un SAE es el $L_0$, definido como el número promedio de características latentes que se activan por token.

La literatura actual suele tratar el $L_0$ como una elección de diseño neutral, evaluando los SAEs mediante gráficos de "compromiso entre dispersión y reconstrucción". La suposición prevalente es que cualquier $L_0$ suficientemente bajo es válido, siempre que produzca un buen error de reconstrucción, y que los valores de $L_0$ más altos solo son problemáticos si causan que las representaciones se vuelvan demasiado densas. Sin embargo, observaciones empíricas recientes sugieren que los SAEs con un $L_0$ bajo funcionan mal en tareas de seguimiento como el sondeo disperso (sparse probing). Este artículo investiga si existe un $L_0$ inherentemente "correcto" para una distribución de datos dada y si desviarse de este compromete fundamentalmente la interpretabilidad de las características aprendidas.

Metodología

Los autores emplean una combinación de modelos de juguete sintéticos y experimentos en LLMs reales (Gemma-2-2b y Llama-3.2-1b) para analizar la relación entre $L_0$ y la calidad de las características.

1. Experimentos con Modelos de Juguete:

   • Los autores construyen un entorno sintético basado en la Hipótesis de la Representación Lineal (LRH), donde las entradas son combinaciones lineales de "características verdaderas" ortogonales.
   • Introducen correlaciones controladas entre características (tanto positivas como negativas) para simular patrones de coocurrencia realistas en el lenguaje.
   • Entrenan SAEs (específicamente arquitecturas BatchTopK y JumpReLU) con diversos valores de $L_0$ objetivo: demasiado bajo, exactamente correcto (coincidiendo con la tasa de activación verdadera de las características) y demasiado alto.
   • Comparan las latentes aprendidas contra las características de verdad de campo (ground-truth) utilizando la similitud de coseno y analizan el Error Cuadrático Medio (MSE) de la pérdida de reconstrucción.

2. Análisis Teórico:

   • El artículo proporciona pruebas teóricas (Teoremas F.1 y F.2) que demuestran que cuando $L_0$ está restringido por debajo del $L_0$ real de los datos, el diccionario desentrelazado (correcto) no es el minimizador del MSE esperado. En su lugar, el paisaje de optimización incentiva al SAE a "mezclar" características correlacionadas para lograr un menor error de reconstrucción.
   • Los autores demuestran que la solución desentrelazada correcta ni siquiera es un mínimo local bajo estas restricciones; el descenso de gradiente mueve sistemáticamente al SAE hacia latentes mixtos y polisemánticos.

3. Desarrollo de Métricas Proxy:

   • Los autores proponen una nueva métrica, la similitud de coseno de pares del decodificador ($c_{dec}$), definida como la similitud de coseno absoluta promedio entre todos los pares de vectores del decodificador.
   • La hipótesis es que cuando el $L_0$ es incorrecto (demasiado bajo o demasiado alto), las latentes mezclan componentes de múltiples características, aumentando su similitud de coseno mutua. Cuando el $L_0$ es correcto, las latentes deberían ser más ortogonales (menor $c_{dec}$).

4. Validación con LLM:

   • Los SAEs fueron entrenados en Gemma-2-2b y Llama-3.2-1b a través de un barrido de valores de $L_0$.
   • Los autores correlacionaron la métrica $c_{dec}$ con el rendimiento del "sondeo disperso" (la capacidad de las latentes del SAE para predecir la presencia de conceptos específicos).

Resultados Clave

1. Un $L_0$ Incorrecto Conduce a la Mezcla de Características

• $L_0$ Bajo: Cuando el $L_0$ se establece demasiado bajo, el SAE no puede representar todas las características activas simultáneamente. Para minimizar el error de reconstrucción, "hace trampa" mezclando características correlacionadas en latentes individuales.
  • Correlación Positiva: Las latentes que rastrean la característica $A$ incluirán componentes positivos de la característica correlacionada $B$.
  • Correlación Negativa: Las latentes que rastrean la característica $A$ incluirán componentes negativos de la característica anti-correlacionada $B$.
  • Esto resulta en latentes altamente polisemánticos y ruidosos, incluso si el error de reconstrucción es bajo.
• $L_0$ Alto: Cuando el $L_0$ es demasiado alto, el SAE encuentra soluciones degeneradas que también mezclan características, aunque el efecto es menos generalizado que con un $L_0$ bajo. Algunas características correctas aún pueden aprenderse, pero la calidad general se degrada a medida que el $L_0$ se desvía más de la verdad.
• Asimetría: El artículo señala que comenzar el entrenamiento con un $L_0$ demasiado bajo crea un "mínimo local" del que el SAE no puede escapar incluso si el $L_0$ se aumenta posteriormente. Por el contrario, comenzar con un $L_0$ demasiado alto permite al SAE recuperar las características correctas a medida que el $L_0$ se ajusta hacia abajo.

2. Fallo de los Gráficos de Compromiso entre Dispersión y Reconstrucción

Los autores demuestran que los gráficos estándar de dispersión–reconstrucción son engañosos. En sus modelos de juguete, un SAE con un $L_0$ correcto (y, por lo tanto, características correctas y desentrelazadas) a menudo logra una peor reconstrucción (mayor MSE) que un SAE con un $L_0$ demasiado bajo que mezcla características. En consecuencia, confiar únicamente en el error de reconstrucción para seleccionar el $L_0$ llevaría a los profesionales a rechazar el SAE correcto en favor de uno incorrecto y polisemántico.

3. Efectividad de la Métrica $c_{dec}$

• En los modelos de juguete, $c_{dec}$ se minimiza exactamente en el $L_0$ verdadero.
• En los experimentos con LLM, $c de c$ exhibe un "codo" claro o una región mínima que se correlaciona fuertemente con el rendimiento máximo en tareas de sondeo disperso.
• Para Gemma-2-2b, el $L_0$ óptimo (indicado por el mínimo de $c_{dec}$ y el pico de sondeo) es significativamente más alto (alrededor de 200–250) que los valores comúnmente utilizados en los SAEs de código abierto existentes (frecuentemente < 100).

4. Diferencias de Arquitectura (JumpReLU vs. BatchTopK)

• BatchTopK: Muestra un aumento brusco de $c_{dec}$ con un $L_0$ bajo y un mínimo global.
• JumpReLU: Exhibe un comportamiento de "adherencia" donde el $L_0$ efectivo permanece cerca del valor correcto a través de un amplio rango de coeficientes de dispersión ($\lambda_s$). Los SAEs JumpReLU también funcionan mejor que los BatchTopK con un $L_0$ alto, probablemente porque pueden ajustar los umbrales de disparo por cada latente, mientras que BatchTopK utiliza un umbral global.

Significancia y Reivindicaciones

El artículo afirma que la suposición de que "cualquier $L_0$ suficientemente bajo es válido" es incorrecta. La principal significancia de este trabajo es triple:

1. Corrección de un Concepto Erróneo Fundamental: Establece que el $L_0$ no es un parámetro libre, sino un hiperparámetro crítico que debe coincidir con la dispersión subyacente de las características verdaderas en el LLM. Configurar el $L_0$ incorrectamente (específicamente demasiado bajo) provoca que el SAE aprenda características polisemánticas y corruptas en lugar de monosemánticas.
2. Redefinición de la Evaluación: Argumenta que los gráficos de compromiso entre dispersión y reconstrucción son un método inválido para seleccionar los hiperparámetros de un SAE porque favorecen soluciones incorrectas de mezcla de características sobre las soluciones correctas y desentrelazadas.
3. Implicaciones Prácticas: Los autores afirman que la mayoría de los SAEs utilizados actualmente en la comunidad de investigación tienen un $L_0$ demasiado bajo. Esto sugiere que muchas de las características "interpretables" actuales podrían ser en realidad mezclas de conceptos, lo que podría explicar los resultados impredecibles observados en la dirección (steering) y la edición de modelos basados en SAE.
4. Herramienta de Diagnóstico: El artículo introduce $c_{dec}$ como una métrica proxy práctica y no supervisada para guiar la búsqueda del $L_0$ correcto, particularmente en escenarios donde no se dispone de bancos de pruebas de sondeo etiquetados.

Los autores concluyen que los profesionales deben configurar el $L_0$ correctamente para entrenar SAEs con características monosemánticas, y que el campo debe alejarse de depender únicamente del error de reconstrucción para la evaluación de los SAE.