Resumen Técnico: De Características Dispersas a Proxies Confiables

1. Planteamiento del Problema

Los Autoencoders Dispersos (SAE, por sus siglas en inglés) se utilizan ampliamente para extraer características interpretables e inspeccionables por humanos de los Modelos de Lenguaje (LM) congelados, con el fin de abordar problemas de superposición y polisemanticidad. Sin embargo, persiste una brecha fundamental: no existe un criterio riguroso para determinar cuándo una explicación basada en SAE constituye una visión fiel del LM congelado subyacente. El uso actual a menudo trata a los SAE como herramientas interpretativas informales sin certificar si el proxy disperso retiene suficiente información predictiva o si permanece conductualmente cercano a la red original.

Este artículo aborda la pregunta: ¿Cuándo puede una explicación basada en SAE tratarse como un lente fiel sobre el LM congelado subyacente? Los autores proponen que la confianza debe definirse operativamente como la conjunción de utilidad (el proxy certifica que el modelo es no trivial respecto a un baseline) y fidelidad conductual (el proxy permanece cercano a las salidas de la red original).

2. Metodología

2.1. El Proxy Disperso Inducido por SAE

Los autores definen un predictor proxy $(S \circ M)$ modificando un LM congelado ($M$) en una capa oculta específica. En lugar de utilizar la activación densa nativa $h(x)$, el proxy la reemplaza con la reconstrucción del SAE $\hat{h}(x) = S(h(x))$. Las capas descendentes de $M$ permanecen sin cambios. Esto crea un predictor que depende de una representación de características dispersas derivada del SAE.

2.2. Marco de Certificación Post-hoc

La contribución central es un marco de generalización post-hoc que deriva un límite superior sobre el riesgo esperado del modelo base ($R(M)$) utilizando cuatro cantidades mensurables. El marco trata al SAE y al modelo base como oráculos fijos y construye una clase de hipótesis finita basada en las características dispersas observadas durante una fase de calibración.

El límite de generalización derivado (Eq. 15) es:
$$R(M) \leq \hat{R}_S(h_{G^*}) + \hat{\epsilon}_{loss} + B\left(\hat{\eta} + \sqrt{\frac{\log(2/\delta)}{2N}}\right) + B\sqrt{\frac{P \log(em/P) + \log(2/\delta)}{2N}} + B\sqrt{\frac{\log(4/\delta)}{2N}}$$

Los cuatro componentes clave son:

1. Riesgo del Proxy ($\hat{R}_S$): El riesgo empírico del predictor proxy disperso.
2. Brecha de Reconstrucción ($\hat{\epsilon}_{loss}$): La discrepancia esperada en la pérdida entre el modelo original y el proxy de SAE sin restricciones.
3. Desajuste del Pool de Conceptos ($\hat{\eta}$): La probabilidad de que las características activas (soporte Top-$k$) requeridas para la predicción en los datos de evaluación caigan fuera del pool de conceptos ($G^*$) construido a partir de los datos de calibración.
4. Complejidad Dispersa: Un término gobernado por el tamaño del pool de características activas ($P$) en lugar del recuento total de parámetros del LM, derivado mediante un límite tipo Occam sobre la clase finita de predictores restringidos por el pool.

2.3. Definición Operativa de Confianza

El artículo define un certificado como no vacuo si el límite superior cae por debajo del riesgo de un baseline no informado (adivinación aleatoria, $\log_2(V/\alpha)$). Un límite no vacuo indica que el proxy disperso es lo suficientemente informativo como para certificar la no trivialidad del modelo congelado. Simultáneamente, valores pequeños para la brecha de reconstrucción y los términos de desajuste indican que el proxy es conductualmente fiel.

3. Contribuciones Clave

1. Criterio de Confianza Principiado: Los autores introducen un marco de certificación post-hoc que descompone la confiabilidad de las explicaciones basadas en SAE en cuatro términos mensurables: riesgo del proxy, brecha de reconstrucción, desajuste del pool de conceptos y complejidad dispersa.
2. Certificados No Vacuos: Demuestran que este marco produce límites de generalización no vacuos para GPT-2 Small, Gemma-2B y Llama-3-8B en tamaños de muestra prácticos, probando que la métrica relevante para la complejidad es el proxy disperso, no el recuento bruto de parámetros del LM.
3. Análisis por Capas: A través de un estudio de caso en Llama-3-8B, el artículo revela una fuerte dependencia de la profundidad. Las capas posteriores son significativamente más fáciles de certificar que las capas iniciales o medias. Esto se atribuye a dos factores:
   • Mayor Fidelidad Local: Las capas posteriores exhiben una mejor calidad de reconstrucción del SAE local.
   • Menor Amplificación de Errores: Los errores introducidos por el cuello de botella del SAE en las capas posteriores son menos amplificados por la computación descendente en comparación con los errores en las capas iniciales.
4. Sparsidad Semántica vs. Estadística: A través de ablaciones de permutación de características, los autores muestran que el certificado distingue la alineación semántica genuina de la mera dispersión estadística. Permutar aleatoriamente los índices de las características (preservando los conteos de dispersión pero destruyendo el significado semántico) infla catastróficamente la brecha de reconstrucción, causando que el certificado falle.

4. Resultados Experimentales

• Límites de Generalización: En GPT-2 Small, Gemma-2B y Llama-3-8B, los límites se vuelven no vacuos en tamaños de muestra que van desde ~25k hasta ~223k tokens. Gemma-2B alcanza este régimen antes que GPT-2 Small a pesar de tener más parámetros, y Llama-3-8B requiere muestras más grandes pero aun así logra la no vacuidad.
• Dependencia por Capas (Llama-3-8B):
  • Capas Tempranas (ej., 4, 8, 12): Los límites permanecen vacuos incluso con muestras infinitas porque el suelo asintótico (riesgo del proxy + brecha de reconstrucción) excede el baseline aleatorio.
  • Capas Tardías (ej., 24, 28, 30): Los límites se vuelven no vacuos. El tamaño del pool de conceptos activos ($P$) aumenta de hecho con la profundidad, pero el límite se ajusta porque la brecha de reconstrucción y el riesgo del proxy disminuyen drásticamente.
  • Métricas de Fidelidad: La divergencia KL entre el modelo base y el proxy cae significativamente en las capas posteriores (ej., de ~8.35 en la Capa 4 a ~0.77 en la Capa 30), y el acuerdo top-1 aumenta de ~0.8% a ~67%.
• Tareas de Abajo (Downstream): El patrón por capas se correlaciona con el rendimiento en tareas descendentes (WinoGrande, PIQA, HellaSwag). Las capas que son más fáciles de certificar (capas tardías) incurren en caídas de precisión significativamente menores cuando se usan como proxies.
• Especificidad Semántica: En la ablación de permutación de características, preservar los patrones de dispersión mientras se aleatorizaban las identidades de las características aumentó la brecha de reconstrucción en aproximadamente 6.5–9.5 bits a través de los modelos, volviendo el certificado vacuo. Esto confirma que el límite depende de la utilidad semántica de las características, no solo de su dispersión.

5. Significancia y Reivindicaciones

El artículo afirma proporcionar un marco de certificación estructural y diagnósticos asociados para la interpretabilidad basada en SAE, en lugar de una teoría completa del aprendizaje de modelos de lenguaje.

• Confianza Operacional: Los autores enfatizan que la "confianza" aquí es un concepto mínimo de riesgo-fidelidad. No pretenden que las características activas de SAE constituyan una explicación semántica o causal completa. En cambio, establecen que el proxy disperso es suficientemente informativo y de baja distorsión para soportar una interpretación fiable bajo condiciones específicas.
• Utilidad Diagnóstica: El marco sirve como una herramienta diagnóstica para determinar cuándo y dónde (qué capas) las explicaciones basadas en SAE son confiables. Los resultados sugieren que la ubicación del parche es consecuente; las capas posteriores en modelos como Llama-3-8B ofrecen un lente disperso más confiable debido a una mejor representación local y una reducción en la propagación de errores.
• Limitaciones: El artículo señala explícitamente que el certificado depende de la distribución. Bajo corrupción de entrada sintética (reemplazo aleatorio de tokens), el límite se degrada y se vuelve no informativo, indicando que las interpretaciones derivadas de SAE carecen de garantías formales fuera de la distribución de entrenamiento. Además, la fuerte dependencia de la profundidad observada en Llama-3-8B no fue universal en todos los modelos (ej., GPT-2 Small mostró una débil sensibilidad de capa), lo que sugiere que el fenómeno es específico del modelo.

En resumen, el trabajo desplaza el discurso de un análisis cualitativo de SAE hacia una certificación cuantitativa basada en el riesgo, ofreciendo un criterio concreto para cuándo un proxy disperso puede ser confiado como un lente fiel sobre un modelo de lenguaje congelado.