Resumen Técnico: Sobre la Fidelidad de los Modelos de Cuello de Botella de Conceptos Post-Hoc

Declaración del Problema

Los Modelos de Cuello de Botella de Conceptos post-hoc (post-hoc CBMs) pretenden cerrar la brecha entre las representaciones opacas del aprendizaje profundo y la comprensión humana mediante la proyección de características latentes sobre espacios de conceptos interpretables. A diferencia de los CBM estándar, las variantes post-hoc no requieren anotaciones densas de conceptos para la tarea objetivo; en su lugar, dependen de (1) conjuntos de datos de conceptos auxiliares (p. ej., Broden) o (2) etiquetas de conceptos sustitutas generadas por Modelos de Lenguaje-Visión (VLMs).

El problema central abordado es que las prácticas de evaluación actuales dependen excesivamente de la precisión de la tarea descendente para juzgar el éxito de estos modelos. Los autores argumentan que una alta precisión es una métrica insuficiente para la fidelidad de los conceptos —el grado en que la proyección aprendida $\pi_\theta$ extrae realmente los conceptos semánticos pretendidos. La evidencia empírica sugiere que las proyecciones aleatorias y carentes de significado semántico pueden lograr precisiones descendentes competitivas debido a las propiedades de preservación de información (relacionadas con el lema de Johnson-Lindenstrauss), lo que oculta si el modelo está razonando verdaderamente a través de conceptos o simplemente explotando artefactos predictivos.

Metodología

Marco Teórico

El artículo formaliza la fidelidad como la minimización del riesgo esperado sobre la verdadera distribución de la tarea $P_{task}(x, c)$, donde la proyección $\pi_\theta$ recupera los conceptos de verdad fundamental (ground-truth) $c$ a partir de las activaciones $f(x)$. Los autores identifican dos fuentes primarias de infidelidad:

1. Desplazamiento de Covariables en Conjuntos de Datos Auxiliares: Cuando se entrena $\pi_\theta$ en un conjunto de datos auxiliar $X_{aux}$ distinto de la tarea objetivo $X_{task}$, un desplazamiento geométrico en el espacio de características puede invalidar la proyección. Los autores derivan un límite superior para el error de generalización de la tarea basado en la teoría de adaptación de dominio [8]:
   $$J_{task}(\theta; L_1) \leq J_{aux}(\theta; L_1) + \frac{1}{2}\hat{d}_{\mathcal{H}\Delta\mathcal{H}}(\mathbb{X}_{task}, \mathbb{X}_{aux}) + \Omega + \lambda_{ideal}$$
   Proponen el uso de la divergencia empírica $\mathcal{H}\Delta\mathcal{H}$ (aproximada mediante un discriminador de dominio) como una métrica práctica para la fidelidad, asumiendo un desplazamiento de covariable (donde $P(c|x)$ permanece constante pero $P(x)$ cambia).

2. Ruido de Etiqueta Sistemático en la Supervisión Sustituta: Al utilizar VLMs para generar etiquetas sustitutas $\tilde{c}$, la infidelidad surge no solo de la magnitud de los errores, sino de errores sistemáticos. Al modelar la proyección como un Modelo Lineal Generalizado Multivariante (GLM), los autores muestran que el gradiente del objetivo real en el óptimo sustituto es proporcional al producto exterior del error sustituto $\delta(x) = \tilde{c}(x) - c^*(x)$ y las activaciones del backbone $f(x)$.

   • Condición de Fidelidad: El modelo permanece fiel si los errores sustitutos son precisos ($\delta \approx 0$) o ortogonales al espacio de activación en expectativa ($\mathbb{E}[\delta(x) \otimes f(x)] = 0$).
   • Modo de Fallo: Los errores sistemáticos (por ejemplo, un VLM que predice consistentemente "cielo" siempre que hay "nubes" presentes) crean componentes de error no ortogonales, lo que conduce a proyecciones infieles incluso si las etiquetas sustitutas parecen precisas en promedio.

Métricas Propuestas

Para desacoplar la fidelidad de la precisión predictiva, los autores introducen:

• Divergencia $\hat{d}_{\mathcal{H}\Delta\mathcal{H}}$: Un proxy para el error introducido por desplazamientos de covariable al usar conjuntos de datos auxiliares.
• Ortogonalidad del Error Sustituto: La correlación de Pearson absoluta $|\rho|$ entre los errores de las etiquetas sustitutas y las activaciones del backbone. Una alta correlación indica un fallo sistemático.

Configuración Experimental

Los autores validan sus hallazgos en:

• Benchmarks del Mundo Real: CUB-200 (aves) y CIFAR-10/100.
• Conjunto de Datos Sintético: Elements [48], que proporciona anotaciones de conceptos de verdad fundamental (forma, color, textura) para medir la alineación directamente.
• Modelos: Varias implementaciones de CBM post-hoc, incluyendo PCBM (datos auxiliares), LFCBM (embeddings de texto de CLIP) y VLG-CBM (detección de objetos fundamentada).

Resultados Clave

1. La Precisión es Engañosa: Los experimentos confirman que las proyecciones de conceptos aleatorias pueden lograr una precisión descendente comparable a la de los modelos entrenados con fuentes de conceptos significativas (p. ej., Broden, CLIP). A medida que la dimensión del cuello de botella $K$ aumenta, las proyecciones aleatorias preservan suficiente información geométrica para permitir que el clasificador descendente reconstruya las activaciones originales, lo que convierte a la precisión en un proxy poco fiable.
2. Impacto del Desplazamiento de Covariables: Los modelos entrenados con datos auxiliares fuera de la distribución (p. ej., patrones abstractos) exhiben una fidelidad de concepto significativamente menor (medida por la similitud de coseno con la verdad fundamental) en comparación con el entrenamiento dentro de la distribución, a pesar de mantener una alta precisión descendente. La métrica propuesta $\hat{d}_{\mathcal{H}\Delta\mathcal{H}}$ se correlaciona fuertemente con esta caída en la fidelidad.
3. Ruido Sistemático vs. Aleatorio:
   • Ruido Aleatorio: Añadir un 25% de ruido de etiqueta aleatorio a los datos de verdad fundamental resulta en proyecciones fieles porque los errores se compensan (la ortogonalidad se mantiene).
   • Ruido Sistemático: Los VLMs (CLIP, DINOv3, Grounding DINO) introducen errores sistemáticos correlacionados con características específicas. Por ejemplo, Grounding DINO tiene dificultades con formas geométricas sobre fondos blancos, creando errores correlacionados que conducen a proyecciones infieles. La métrica de correlación propuesta identifica con éxito estos fallos donde las métricas de precisión estándar fallan.

Significación y Reivindicaciones

El artículo afirma proporcionar el primer marco teórico y empírico riguroso para evaluar la fidelidad de los CBM post-hoc independientemente del rendimiento predictivo.

• Contribución Teórica: Formaliza las condiciones bajo las cuales las proyecciones aleatorias pueden imitar el razonamiento semántico (a través del lema de la variedad de Johnson-Lindenstrauss) y deriva las condiciones específicas (ortogonalidad del error) bajo las cuales la supervisión sustituta falla.
• Contribución Práctica: Introduce métricas novedosas que permiten a los profesionales detectar comportamientos infieles —específicamente desplazamientos de covariable y sesgos sistemáticos de los VLM— que son invisibles para la evaluación estándar basada en la precisión.
• Implicación: Los autores argumentan que confiar únicamente en la precisión descendente crea una "ilusión" de interpretabilidad. La verdadera interpretabilidad requiere la inspección directa de la proyección de conceptos $\pi_\theta$ para asegurar que se alinea con la semántica humana, necesitando el uso de las métricas de fidelidad propuestas.

El trabajo no propone nuevos algoritmos de entrenamiento, sino más bien un marco de evaluación crítica para asegurar que el "cuello de botella" en los Modelos de Cuello de Botella de Conceptos sea verdaderamente un cuello de botella de conceptos comprensibles para el humano y no una representación comprimida de características puras.