Beyond Semantics: Disentangling Information Scope in Sparse Autoencoders for CLIP

Resumen Técnico: Más allá de la Semántica: Desentrañando el Alcance de la Información en Autoencoders Escasos para CLIP

1. Planteamiento del Problema

Los Autoencoders Escasos (SAEs, por sus siglas en inglés) se han convertido en una herramienta fundamental para interpretar las representaciones internas de los modelos de visión por computadora, específicamente los codificadores visuales de CLIP. Sin embargo, el análisis existente se centra casi exclusivamente en el significado semántico de las características individuales (por ejemplo, identificar si una característica representa "un perro" o "textura de piel").

Los autores identifican una limitación crítica en este enfoque centrado en la semántica:

• Fragilidad funcional: A medida que los diccionarios de SAE crecen y las características se vuelven más finas, la interpretación semántica por sí sola es insuficiente para caracterizar consistentemente el papel funcional de una característica.
• Ambigüedad espacial: Una característica etiquetada como "perro" podría activarse por evidencia integrada en todo el objeto (alcance global) o responder únicamente a una textura local como el pelaje (alcance local).
• Falta de métrica de alcance: No existe una dimensión clara para cuantificar sobre qué extensión espacial una característica agrega evidencia visual.

El problema central es la necesidad de una nueva dimensión de interpretabilidad que capture el alcance de la información (information scope) de las características, distinguiendo entre señales locales estables y señales globales dependientes del contexto.

2. Metodología

Para abordar este problema, los autores proponen un marco basado en la dependencia contextual y desarrollan una métrica cuantitativa.

A. Definición de Tokens Outlier (Anómalos)
Se basan en la observación previa de que ciertos tokens de parche en Vision Transformers (ViT) tienen normas de incrustación excepcionalmente altas. Estos "tokens outlier" se asocian con la agregación de información global en lugar de contenido local.

B. Recorte de Contexto Desplazado (Shifted Context Crop - SCC)
Para probar la estabilidad espacial, diseñan un experimento controlado:

1. Se toma una imagen original y se generan dos recortes superpuestos ($I_1$ y $I_2$) desplazados exactamente un paso de parche (stride) en ambas direcciones.
2. Estos recortes comparten una gran región de superposición con contenido de píxeles idéntico, pero difieren en:
   • Sus posiciones absolutas (embeddings posicionales).
   • Su contexto global (los parches no superpuestos que rodean la región).
3. Si un token es verdaderamente local, su activación debería permanecer estable en la región superpuesta. Si es global, debería cambiar drásticamente debido a la alteración del contexto.

C. Puntuación de Dependencia Contextual (Contextual Dependency Score - CDS)
Los autores introducen el CDS como una métrica continua para cuantificar la estabilidad espacial de cada característica del SAE:

• Proceso: Se seleccionan las imágenes donde una característica $f_j$ se activa fuertemente. Se aplica SCC a estas imágenes para obtener dos mapas de activación ($M_1$ y $M_2$) en la región superpuesta.
• Cálculo: Se calcula la Distancia del Movimiento de la Tierra (EMD) entre los mapas de activación normalizados.
• Interpretación:
  • CDS Bajo: La característica es espacialmente estable a través de los desplazamientos de contexto. Corresponde a información de alcance local (detalles finos, objetos específicos).
  • CDS Alto: La característica varía significativamente con pequeños cambios de contexto. Corresponde a información de alcance global (estructura de la escena, contexto general).

D. Experimentos de Ablación
Para validar la utilidad funcional de esta partición, los autores eliminan selectivamente las características de bajo CDS o de alto CDS de las incrustaciones de CLIP y evalúan el rendimiento en tareas de aprendizaje lineal (linear probing) en:

• Clasificación de imágenes (ImageNet).
• Segmentación semántica (ADE20K).
• Estimación de profundidad monoculular (NYUd).

3. Contribuciones Clave

1. Nueva Dimensión de Interpretabilidad: Introducen el "alcance de la información" como un eje crítico para entender las representaciones de CLIP, complementando el análisis semántico tradicional.
2. Métrica CDS: Proponen el Contextual Dependency Score, una métrica robusta y agnóstica a la arquitectura que cuantifica la dependencia contextual de las características de los SAE.
3. Partición Estructurada: Demuestran que el CDS divide naturalmente las características del SAE en dos grupos distintos (bajo CDS y alto CDS) que corresponden a roles funcionales diferentes.
4. Análisis de Tokens Outlier: Vinculan la inestabilidad espacial de los tokens outlier observada en ViTs con la presencia de características de alto CDS, revelando que estos tokens son agregadores de contexto global.

4. Resultados Principales

• Inestabilidad de Tokens Outlier: Los experimentos SCC muestran que los tokens outlier son altamente inestables bajo desplazamientos de contexto (alta EMD), mientras que los tokens no outlier permanecen estables. Esto confirma que el estatus de "outlier" no es intrínseco al parche, sino dependiente del contexto.
• Correlación CDS-Tipo de Token:
  • Las características de alto CDS se activan predominantemente en tokens outlier.
  • Las características de bajo CDS se activan predominantemente en tokens no outlier.
• Impacto en Tareas de Predicción Densa (Segmentación y Profundidad):
  • La eliminación de características de bajo CDS causa una degradación masiva en el rendimiento. Esto confirma que estas características son esenciales para capturar información espacial local y detalles finos necesarios para tareas densas.
  • La eliminación de características de alto CDS tiene un impacto mínimo o incluso mejora ligeramente el rendimiento en estas tareas, indicando que la información global es complementaria pero no crítica para la precisión a nivel de píxel.
• Impacto en Clasificación (ImageNet):
  • La eliminación de características de alto CDS a menudo mejora la precisión de clasificación lineal en todos los modelos probados. Esto sugiere que, para un clasificador lineal simple, la información local (bajo CDS) es más discriminativa y fácil de explotar que la información global ruidosa o redundante.
  • La eliminación de características de bajo CDS degrada el rendimiento en modelos más pequeños, pero en modelos más grandes (ej. CLIP-L/14-336px), la brecha se reduce, sugiriendo que los modelos a gran escala codifican contexto global de manera más útil para la clasificación.
• Visualización: Las características de bajo CDS muestran activaciones espacialmente localizadas y consistentes semánticamente (ej. ojos de un perro). Las de alto CDS muestran activaciones difusas y menos consistentes, reflejando el contexto general de la imagen.

5. Significado e Impacto

Este trabajo cambia el paradigma de la interpretación de modelos de visión al demostrar que la semántica no es la única propiedad relevante de una característica.

• Diagnóstico Profundo: Proporciona una herramienta para diagnosticar qué tipo de información (local vs. global) está siendo utilizada por un modelo en diferentes capas y tareas.
• Optimización de Modelos: Sugiere que para tareas de alta precisión espacial (como segmentación), es crucial preservar las características de bajo CDS. Para tareas de clasificación, la información global (alto CDS) podría ser redundante o incluso perjudicial para clasificadores lineales simples.
• Generalización: Los hallazgos se validan no solo en CLIP, sino también en otras arquitecturas ViT (DINOv2, SigLIP, DeiT), indicando que la distinción entre alcance local y global es una propiedad fundamental de los Transformers de visión modernos.

En conclusión, el artículo establece que entender dónde y cómo se agrega la información (su alcance) es tan importante como entender qué representa semánticamente, ofreciendo una visión más completa y matizada de la mecánica interna de los modelos de visión.