Resumo Técnico: Guia Livre de Classificador Fatorado

Declaração do Problema

A geração contrafactual visa simular resultados hipotéticos realistas sob intervenções causais (por exemplo, "Como seria a progressão da doença deste paciente se recebesse o tratamento A em vez do B?"). Embora os modelos de difusão combinados com a inversão DDIM e o Guia Livre de Classificador (CFG) tenham se tornado o estado da arte para essa tarefa, os autores identificam uma limitação crítica no CFG padrão: amplificação de atributos.

O CFG padrão aplica um único peso de guia global ($\omega$) a todo o embedding de condicionamento. Na geração contrafactual, esse fortalecimento uniforme amplifica inadvertidamente não apenas os atributos intervencionados, mas também atributos que deveriam permanecer invariantes sob a intervenção causal. Essa amplificação "fora do alvo" viola o grafo causal pretendido, modifica atributos fora da via causal e faz com que a trajetória de geração se desvie da variedade de dados original, degradando assim a preservação da identidade e a solidez axiomática dos contrafactuais inferidos.

Metodologia: Guia Livre de Classificador Fatorado (FCFG)

Para mitigar a amplificação espúria de atributos sem alterar o modelo de difusão subjacente, os autores propõem o Guia Livre de Classificador Fatorado (FCFG). Trata-se de uma técnica flexível, agnóstica ao modelo, executada no momento da inferência, que permite o controle por atributo seguindo um grafo causal.

1. Embedding de Condicionamento com Divisão de Atributos

O método introduz uma mudança estrutural no mecanismo de condicionamento. Em vez de entrelaçar múltiplos atributos em um único vetor, o FCFG emprega um embedder com divisão de atributos. Cada atributo pai semântico $pa_i$ é embutido independentemente por meio de uma Rede Neural Multicamadas (MLP) dedicada, $E_i$. O vetor de condicionamento final $c$ é formado pela concatenação desses embeddings independentes:
$$c = \text{concat}(E_1(pa_1), E_2(pa_2), \dots, E_K(pa_K))$$
Essa arquitetura preserva a identidade de cada atributo no espaço de embedding, permitindo a tokenização nula seletiva ou a modulação de atributos individuais durante a inferência.

2. Formulação de Guia por Grupos

O FCFG particiona os atributos semânticos em $M$ grupos disjuntos (por exemplo, um grupo "afetado" contendo atributos intervencionados e seus descendentes, e um grupo "invariante" contendo atributos esperados para permanecerem inalterados). Sob a suposição de que esses grupos são condicionalmente independentes dada a variável latente $x_t$, os autores derivam uma posterior proxy fatorada:
$$p_\omega(x_t | pa) \propto p(x_t) \prod_{m=1}^M p(pa^{(m)} | x_t)^{\omega_m}$$
onde $\omega_m$ é um peso de guia distinto para o grupo $m$.

A previsão de ruído guiada $\epsilon_{\text{FCFG}}$ é calculada somando a previsão incondicional com as diferenças ponderadas para cada grupo:
$$\epsilon_{\text{FCFG}}(x_t, t, c) = \epsilon_\theta(x_t, t, \emptyset) + \sum_{m=1}^M \omega_m \left( \epsilon_\theta(x_t, t, c^{(m)}) - \epsilon_\theta(x_t, t, \emptyset) \right)$$
Aqui, $c^{(m)}$ é um embedding mascarado onde apenas os atributos pertencentes ao grupo $m$ são retidos, e os demais são substituídos por tokens nulos.

3. Integração com Inferência Contrafactual

O FCFG é integrado ao pipeline padrão de três etapas de inferência contrafactual (Abdução, Ação, Previsão):

• Abdução: Utiliza a inversão DDIM para estimar o ruído exógeno $u$ a partir da imagem observada e dos atributos factuais.
• Ação: Aplica a intervenção causal para gerar atributos contrafactuais.
• Previsão: Utiliza a trajetória reversa DDIM guiada pelo FCFG. Crucialmente, a etapa de previsão aplica pesos distintos ($\omega_{\text{aff}}$ para atributos afetados, $\omega_{\text{inv}}$ para atributos invariantes) para direcionar a geração em direção à intervenção, preservando fatores invariantes.

O framework é projetado para ser compatível com esquemas de guia avançados, incluindo CFG++ e Guia Projetado Adaptativo (APG), aplicando a mesma decomposição por grupos às suas respectivas formulações de pontuação.

Contribuições Principais

1. Identificação da Falha Induzida pelo CFG: Os autores analisam e demonstram que o mecanismo de guia global no CFG padrão é uma fonte primária de amplificação de atributos, causando mudanças espúrias em atributos invariantes mesmo quando o grafo causal é conhecido.
2. Proposta do FCFG: Introduzem o Guia Livre de Classificador Fatorado, uma extensão simples que atribui pesos de guia separados a grupos de atributos. Isso permite um controle fino e interpretável sobre o processo generativo sem exigir alterações na arquitetura do modelo ou re-treinamento.
3. Validação Empírica: Através de experimentos extensivos em conjuntos de dados de imagens naturais (CelebA-HQ) e médicas (EMBED, MIMIC-CXR), o artigo demonstra que o FCFG reduz significativamente a amplificação fora do alvo, mantendo ou melhorando a eficácia da intervenção.

Resultados Experimentais

Os autores avaliam o FCFG contra o CFG padrão e outros métodos de geração contrafactual (HVAE, HVAE-soft, SA-DCG) em três conjuntos de dados:

• CelebA-HQ: Em intervenções direcionadas a atributos como "Sorrindo", "Masculino" ou "Jovem", o CFG global com pesos de guia altos ($\omega \ge 2.0$) causou mudanças não intencionais significativas em atributos não intervencionados (por exemplo, alterar a idade ou a identidade quando apenas o sorriso era o alvo). O FCFG, usando um peso mais baixo para atributos invariantes ($\omega_{\text{inv}} \approx 1.0-1.2$) e um peso mais alto para atributos afetados ($\omega_{\text{aff}} \ge 2.0$), alcançou mudanças comparáveis no atributo alvo, mantendo os atributos invariantes estáveis. Isso resultou em menores erros absolutos médios (MAE) e pontuações LPIPS para reversibilidade, indicando melhor preservação da identidade.
• EMBED (Mamografia de Mama): Ao intervir na densidade mamária, o CFG global amplificou inadvertidamente a presença de marcadores de pele circulares. O FCFG suprimiu essa mudança espúria, mantendo desempenho estável no atributo não intervencionado.
• MIMIC-CXR (Radiografias de Tórax): Intervenções em achados de doenças ("finding") com CFG global levaram a mudanças não intencionais nos atributos de raça e sexo. O FCFG localizou com sucesso as mudanças no achado da doença, reduzindo as alterações de AUC fora do alvo de valores positivos grandes (indicando amplificação) para valores próximos de zero ou negativos.

Em todos os casos, o FCFG melhorou o compromisso entre a eficácia da intervenção e a amplificação fora do alvo. Além disso, o FCFG demonstrou compatibilidade com CFG++ e APG, mitigando a amplificação de atributos inerente a esses métodos avançados também.

Significado e Alegações

O artigo afirma que o FCFG aborda uma limitação fundamental em modelos de difusão guiados para raciocínio causal. Ao desacoplar o sinal de guia através de grupos definidos semanticamente ou causalmente, o FCFG permite a geração de contrafactuais que são axiomaticamente mais sólidos (aderindo ao grafo causal) e mais reversíveis (preservando fielmente a identidade).

Os autores enfatizam que o FCFG é um remédio simples, executado no momento da inferência, que não requer:

• Objetivos de treinamento adicionais baseados em preditores (ao contrário das variantes HVAE).
• Estruturas complexas de difusão-autoencoder (ao contrário do SA-DCG).
• Descoberta causal (assume acesso a um grafo causal pré-especificado ou agrupamento semântico).

O trabalho sugere que a natureza "global" do CFG padrão é um gargalo para a inferência contrafactual confiável e que fatorar o sinal de guia é um passo necessário para a edição de imagens precisa e controlada em contextos causais. Os autores notam limitações, especificamente que o FCFG depende de variáveis de condicionamento estruturadas e agrupamentos pré-especificados, e que os pesos de guia são atualmente escolhidos empiricamente em vez de adaptativamente.