Resumen Técnico: Una Perspectiva Distribucional para la Interpretabilidad Mecanicista Visual

1. Enunciado del Problema

Los paradigmas actuales en la interpretación mecanicista visual (MI) luchan por equilibrar la fidelidad (reflejar con precisión cómo un modelo activa características específicas) y la interpretabilidad (producir visualizaciones comprensibles para humanos). Los métodos existentes dependen típicamente de enfoques heurísticos que enfrentan una compensación fundamental:

• Búsqueda en Conjuntos de Datos: Recupera ejemplos de alta activación de conjuntos de datos finitos. Aunque son perceptualmente plausibles, este enfoque sufre de sesgo de frontera e inestabilidad de umbrales, a menudo fallando en capturar la distribución completa de la semántica de una característica.
• Optimización con Regularización (Maximización de Activación): Sintetiza entradas para maximizar la activación de una característica. Aunque son altamente fieles a la puntuación de activación, estos métodos a menudo producen "super-estímulos" o artefactos de alta frecuencia que se desvían significativamente de la distribución de imágenes naturales, volviéndolos perceptualmente ininterpretables.
• Generación Guiada por Proxies (ej. Difusión basada en Prompts): Utiliza prompts de texto para dirigir modelos de difusión. Esto introduce un cuello de botella de información y una brecha semántica, ya que los prompts de texto no pueden capturar completamente características internas finas, no verbales o polisémicas (ej. características de SAE).

El problema central es que estos métodos tratan la interpretación de características como una tarea de reconocimiento de patrones por muestra en lugar de un problema de inferencia distribucional, lo que conduce a explicaciones que son o bien mecánicamente infieles o perceptualmente ininterpretables.

2. Metodología

2.1. La Perspectiva Distribucional

Los autores proponen reformular la MI visual como un problema de optimización mínima de Kullback-Leibler (KL). En lugar de encontrar una única imagen "mejor", el objetivo es identificar una distribución inducida $q$ que satisfaga dos objetivos competitivos:

1. Fidelidad: $q$ debe concentrarse en entradas que activen fuertemente la puntuación intrínseca $s(x)$ (ej. una activación de característica de SAE).
2. Interpretabilidad: $q$ debe permanecer cerca del prior de imagen natural $p(x)$ para asegurar la perceptibilidad humana.

Esta visión descompone los paradigmas de MI en tres dimensiones ortogonales:

• Objeto de Estudio: Qué se está interpretando (ej. neuronas vs. características de SAE).
• Formulación de Restricciones: Cómo se hace cumplir la fidelidad (restricciones duras vs. suaves).
• Metodología de Muestreo: Cómo se instancia la distribución inducida (recuperación, optimización o difusión).

2.2. El Principio de Restricción Suave Mínima-KL (KLSC)

Para resolver los sesgos de los métodos anteriores, el artículo introduce el Principio KLSC. A diferencia de los métodos de restricción dura (que truncan la distribución en un umbral $m$, es decir, $s(x) > m$), KLSC emplea una restricción suave que requiere que la activación esperada cumpla un nivel objetivo: $\mathbb{E}_{q}[s(X)] \geq m$.

Teóricamente, la solución única para minimizar $KL(q \| p)$ bajo esta restricción suave es una distribución exponencialmente inclinada:
$$q_{\beta}(x) \propto p(x) \exp(\beta s(x))$$
donde $\beta$ es un multiplicador de Lagrange que controla la fuerza de la guía.

Ventajas Teóricas de KLSC sobre Restricciones Duras:

• Reducción del Sesgo de Frontera: Las restricciones duras concentran la masa de probabilidad en una capa delgada cerca del umbral (la región "justo-bastante-activada"), mientras que KLSC distribuye la masa de manera más suave, reduciendo la sensibilidad a pequeños cambios de umbral.
• Estabilidad del Umbral: Las restricciones duras inducen saltos discontinuos en la divergencia KL y la distancia de Variación Total (TV) cuando el umbral se perturba. KLSC forma una familia exponencial suave, asegurando continuidad local.
• Brecha de Interpretabilidad: Incluso cuando se igualan para la fidelidad esperada, la solución KLSC minimiza la desviación del prior de imagen natural $p$ más efectivamente que las soluciones truncadas duras.

2.3. Evitar la Inyección de Tareas y Cuellos de Botella de Proxies

El artículo argumenta en contra de inyectar objetivos de tareas externos (ej. etiquetas de clasificación o prompts de texto) en el proceso de interpretación.

• Deriva del Objeto: Inyectar una puntuación de tarea $f_c(x)$ (ej. alineación con CLIP) distorsiona la distribución inducida intrínseca. El artículo demuestra que lograr una demanda de tarea incurre en un costo KL estrictamente positivo, lo que lleva a explicaciones que reflejan la tarea en lugar del mecanismo intrínseco.
• Cuello de Botella de Prompts: Los métodos guiados por proxies restringen el espacio de búsqueda a una familia parametrizada por prompts $Q_{prompt}$. El artículo demuestra que esta familia a menudo no puede representar características finas o polisémicas, lo que conduce a muestras infieles.

2.4. Muestreo Posterior de Difusión Guiado por Energía (EnergyDPS)

Para realizar el principio KLSC de manera práctica, los autores proponen EnergyDPS.

• Mecanismo: Trata la puntuación intrínseca $s(x)$ (ej. activación de característica de SAE) como una función de energía.
• Proceso: Aprovecha el Muestreo Posterior de Difusión (DPS). En lugar de optimizar un prompt de texto, EnergyDPS inyecta el gradiente de la puntuación intrínseca, $\nabla_x s(\hat{x}_0)$, directamente en el proceso de difusión inversa en cada paso.
• Ventaja: Esto permite muestrear directamente de la distribución inducida por KLSC sin la pérdida de información asociada con los prompts de texto o el sesgo de búsqueda de modos de la optimización punto a punto. Es libre de entrenamiento y aplicable a cualquier puntuación intrínseca diferenciable.

3. Contribuciones Clave

1. Perspectiva Distribucional para MI Visual: El artículo establece un marco teórico que modela la interpretación de características como un problema de inferencia distribucional mínima-KL, identificando sesgos estadísticos sistemáticos (sesgo de frontera, inestabilidad de umbrales y brechas de interpretabilidad) en los paradigmas existentes.
2. Principio de Restricción Suave Mínima-KL (KLSC): Una nueva formulación de restricción que equilibra teóricamente la fidelidad y la interpretabilidad buscando la distribución más cercana al prior natural mientras satisface una restricción de activación esperada.
3. Algoritmo EnergyDPS: Un muestreador práctico y libre de entrenamiento que realiza el principio KLSC utilizando modelos de difusión. Evita los cuellos de botella de información de los métodos basados en prompts y los artefactos de los métodos basados en optimización.
4. Taxonomía Unificada: Una categorización sistemática de los métodos de MI visual basada en su objeto de estudio, formulación de restricciones y metodología de muestreo, aclarando por qué los métodos anteriores fallan en lograr simultáneamente fidelidad e interpretabilidad.

4. Resultados Experimentales

Los autores evaluaron EnergyDPS en características de DINOv3 ResNeXt Large utilizando un transcodificador (una variante de SAE).

• Métricas Cuantitativas:
  • Fidelidad: EnergyDPS alcanzó niveles de activación comparables a las líneas base (MACO, DiffExplainer) cuando se calibró.
  • Interpretabilidad: EnergyDPS superó significativamente a las líneas base en QualiCLIP (interpretabilidad perceptual) y NRQM (métrica de calidad sin referencia). Por ejemplo, en características aleatorias, EnergyDPS obtuvo una puntuación QualiCLIP de 0.5791 en comparación con 0.4228 para MACO y 0.3259 para DiffExplainer.
• Estudio Ciego de Interpretabilidad:
  • Evaluadores humanos e IA (GPT-5.4, Gemini-3-flash-lite) evaluaron conjuntos de imágenes generadas para conceptos semánticos compartidos.
  • EnergyDPS recibió las puntuaciones de interpretabilidad más altas (ej. 2.92 de humanos vs. 1.92 para MACO) y la varianza ponderada más baja en las descripciones semánticas, indicando conceptos compartidos más consistentes y claros.
• Validación con Modelo de Juguete:
  • Experimentos en un Modelo de Mezcla Gaussiana 2D (GMM) confirmaron las predicciones teóricas: las restricciones duras exhibieron mayor masa de frontera e inestabilidad de TV en comparación con la trayectoria suave de KLSC.
• Estudios de Ablación:
  • Robustez de Capa: EnergyDPS permaneció efectivo a través de diferentes capas de la red.
  • Dependencia del Prior: El uso de un prior sesgado (rostros FFHQ) degradó los resultados, confirmando la importancia de un prior de imagen natural alineado con la distribución de entrenamiento del modelo.
  • Deriva del Objeto: Los experimentos mostraron que añadir inyección de tareas (prompts de CLIP o referencias a nivel de píxel) causó cambios semánticos significativos incluso cuando la activación intrínseca se igualó, validando la necesidad de objetivos puramente intrínsecos.

5. Significado y Afirmaciones

El artículo afirma que su contribución principal es un cambio fundamental de perspectiva desde la visualización heurística hacia la inferencia distribucional.

• Solidez Teórica: Los autores argumentan que los fracasos anteriores en la MI visual provienen de sesgos estructurales en la formulación de restricciones (duras vs. suaves) y el muestreo (recuperación/optimización vs. muestreo distribucional). El principio KLSC proporciona una base matemática rigurosa para equilibrar la fidelidad y la interpretabilidad.
• Efectividad Práctica: EnergyDPS demuestra que es posible generar visualizaciones que son tanto altamente fieles a los mecanismos internos del modelo como perceptualmente naturales, superando a los métodos más avanzados en características de DINOv3.
• Limitaciones: Los autores reconocen modestamente que, aunque las imágenes naturales proporcionan un espacio de referencia mínimamente con pérdida, podrían no capturar completamente todos los conceptos comprensibles para humanos (ej. evidencia no natural pero relevante para el modelo). Además, EnergyDPS incurre en un costo computacional debido al proceso de muestreo de difusión, lo que lo hace más lento que las líneas base basadas en optimización.

En resumen, el artículo postula que comprender las características visuales requiere modelar cómo remodelan la distribución de imágenes naturales, y que el principio KLSC combinado con EnergyDPS ofrece una solución teóricamente fundamentada y prácticamente efectiva para este desafío.