Resumen Técnico: Guía Libre de Clasificadores Factorizada

Enunciado del Problema

La generación contrafactual tiene como objetivo simular resultados hipotéticos realistas bajo intervenciones causales (por ejemplo, "¿Cómo se vería la progresión de la enfermedad de este paciente si recibiera el tratamiento A en lugar del B?"). Aunque los modelos de difusión combinados con la inversión DDIM y la Guía Libre de Clasificadores (CFG) se han convertido en el estado del arte para esta tarea, los autores identifican una limitación crítica en la CFG estándar: la amplificación de atributos.

La CFG estándar aplica un único peso de guía global ($\omega$) a toda la incrustación de condicionamiento. En la generación contrafactual, este fortalecimiento uniforme amplifica inadvertidamente no solo los atributos intervenidos, sino también los atributos que deberían permanecer invariantes bajo la intervención causal. Esta amplificación "fuera de objetivo" viola el grafo causal pretendido, modifica atributos fuera de la vía causal y hace que la trayectoria de generación se desvíe de la variedad de datos original, degradando así la preservación de la identidad y la solidez axiomática de los contrafactuales inferidos.

Metodología: Guía Libre de Clasificadores Factorizada (FCFG)

Para mitigar la amplificación espuria de atributos sin alterar el modelo de difusión subyacente, los autores proponen la Guía Libre de Clasificadores Factorizada (FCFG). Esta es una técnica flexible, agnóstica al modelo y aplicada en tiempo de inferencia que permite un control por atributo siguiendo un grafo causal.

1. Incrustación de Condicionamiento Dividida por Atributos

El método introduce un cambio estructural en el mecanismo de condicionamiento. En lugar de entrelazar múltiples atributos en un único vector, la FCFG emplea un incrustador dividido por atributos. Cada atributo padre semántico $pa_i$ se incrusta de forma independiente mediante una Percepción Multicapa (MLP) dedicada, $E_i$. El vector de condicionamiento final $c$ se forma concatenando estas incrustaciones independientes:
$$c = \text{concat}(E_1(pa_1), E_2(pa_2), \dots, E_K(pa_K))$$
Esta arquitectura preserva la identidad de cada atributo en el espacio de incrustación, permitiendo la tokenización nula selectiva o la modulación de atributos individuales durante la inferencia.

2. Formulación de Guía por Grupos

La FCFG particiona los atributos semánticos en $M$ grupos disjuntos (por ejemplo, un grupo "afectado" que contiene los atributos intervenidos y sus descendientes, y un grupo "invariante" que contiene los atributos que se espera que permanezcan sin cambios). Bajo la suposición de que estos grupos son condicionalmente independientes dado la variable latente $x_t$, los autores derivan una posterior proxy factorizada:
$$p_\omega(x_t | pa) \propto p(x_t) \prod_{m=1}^M p(pa^{(m)} | x_t)^{\omega_m}$$
donde $\omega_m$ es un peso de guía distinto para el grupo $m$.

La predicción de ruido guiada $\epsilon_{\text{FCFG}}$ se calcula sumando la predicción incondicional con las diferencias ponderadas para cada grupo:
$$\epsilon_{\text{FCFG}}(x_t, t, c) = \epsilon_\theta(x_t, t, \emptyset) + \sum_{m=1}^M \omega_m \left( \epsilon_\theta(x_t, t, c^{(m)}) - \epsilon_\theta(x_t, t, \emptyset) \right)$$
Aquí, $c^{(m)}$ es una incrustación enmascarada donde solo se retienen los atributos pertenecientes al grupo $m$, y los demás se reemplazan con tokens nulos.

3. Integración con Inferencia Contrafactual

La FCFG se integra en la tubería estándar de tres pasos de inferencia contrafactual (Abducción, Acción, Predicción):

• Abducción: Utiliza la inversión DDIM para estimar el ruido exógeno $u$ a partir de la imagen observada y los atributos factuales.
• Acción: Aplica la intervención causal para generar atributos contrafactuales.
• Predicción: Utiliza la trayectoria inversa DDIM guiada por FCFG. Críticamente, el paso de predicción aplica pesos distintos ($\omega_{\text{aff}}$ para atributos afectados, $\omega_{\text{inv}}$ para atributos invariantes) para dirigir la generación hacia la intervención mientras se preservan los factores invariantes.

El marco está diseñado para ser compatible con esquemas de guía avanzados, incluidos CFG++ y Guía Proyectada Adaptativa (APG), aplicando la misma descomposición por grupos a sus respectivas formulaciones de puntuación.

Contribuciones Clave

1. Identificación del Fallo Inducido por CFG: Los autores analizan y demuestran que el mecanismo de guía global en la CFG estándar es una fuente principal de amplificación de atributos, causando cambios espurios en atributos invariantes incluso cuando el grafo causal es conocido.
2. Propuesta de FCFG: Introducen la Guía Libre de Clasificadores Factorizada, una extensión simple que asigna pesos de guía separados a grupos de atributos. Esto permite un control fino e interpretable sobre el proceso generativo sin requerir cambios en la arquitectura del modelo ni reentrenamiento.
3. Validación Empírica: A través de experimentos extensos en conjuntos de datos de imágenes naturales (CelebA-HQ) y médicas (EMBED, MIMIC-CXR), el documento demuestra que la FCFG reduce significativamente la amplificación fuera de objetivo mientras mantiene o mejora la efectividad de la intervención.

Resultados Experimentales

Los autores evalúan la FCFG frente a la CFG estándar y otros métodos de generación contrafactual (HVAE, HVAE-soft, SA-DCG) en tres conjuntos de datos:

• CelebA-HQ: En intervenciones dirigidas a atributos como "Sonriendo", "Hombre" o "Joven", la CFG global con pesos de guía altos ($\omega \ge 2.0$) causó cambios no deseados significativos en atributos no intervenidos (por ejemplo, cambiar la edad o la identidad cuando solo se apuntaba a sonreír). La FCFG, utilizando un peso más bajo para atributos invariantes ($\omega_{\text{inv}} \approx 1.0-1.2$) y un peso más alto para atributos afectados ($\omega_{\text{aff}} \ge 2.0$), logró cambios comparables en el atributo objetivo mientras mantenía estables los atributos invariantes. Esto resultó en menores errores absolutos medios (MAE) y puntuaciones LPIPS para la reversibilidad, indicando una mejor preservación de la identidad.
• EMBED (Mamografía de Mama): Al intervenir sobre la densidad mamaria, la CFG global amplificó inadvertidamente la presencia de marcadores cutáneos circulares. La FCFG suprimió este desplazamiento espurio, manteniendo un rendimiento estable en el atributo no intervenido.
• MIMIC-CXR (Radiografías de Tórax): Las intervenciones sobre hallazgos de enfermedades ("finding") con CFG global condujeron a cambios no deseados en los atributos de raza y sexo. La FCFG localizó con éxito los cambios en el hallazgo de la enfermedad, reduciendo los cambios de AUC fuera de objetivo de valores positivos grandes (que indican amplificación) a valores cercanos a cero o negativos.

En todos los casos, la FCFG mejoró la compensación entre la efectividad de la intervención y la amplificación fuera de objetivo. Además, la FCFG demostró compatibilidad con CFG++ y APG, mitigando la amplificación de atributos inherente a esos métodos avanzados también.

Significado y Afirmaciones

El documento afirma que la FCFG aborda una limitación fundamental en los modelos de difusión guiados para el razonamiento causal. Al desacoplar la señal de guía a través de grupos definidos semánticamente o causalmente, la FCFG permite la generación de contrafactuales que son axiomáticamente más sólidos (adherentes al grafo causal) y más reversibles (preservando fielmente la identidad).

Los autores enfatizan que la FCFG es un remedio simple en tiempo de inferencia que no requiere:

• Objetivos de entrenamiento adicionales basados en predictores (a diferencia de las variantes HVAE).
• Marcos complejos de difusión-autoencoder (a diferencia de SA-DCG).
• Descubrimiento causal (asume el acceso a un grafo causal preespecificado o agrupación semántica).

El trabajo sugiere que la naturaleza "global" de la CFG estándar es un cuello de botella para la inferencia contrafactual fiable y que factorizar la señal de guía es un paso necesario para la edición de imágenes precisa y controlada en contextos causales. Los autores señalan limitaciones, específicamente que la FCFG depende de variables de condicionamiento estructuradas y agrupaciones preespecificadas, y que los pesos de guía se eligen actualmente de forma empírica en lugar de adaptativa.