Resumo Técnico: ProDG – Protótipos para Explicabilidade Pós-Hoc Generativa Livre de Dados

Declaração do Problema

Redes neurais profundas alcançaram desempenho notável em visão computacional, mas permanecem "caixas pretas", levantando questões críticas de confiança e segurança. Embora métodos de explicabilidade pós-hoc (por exemplo, Grad-CAM, LRP) ofereçam explicações eficientes para imagens individuais sem retreinamento, eles tipicamente produzem mapas de calor em nível de pixel que carecem de significado semântico claro, forçando os usuários a inferir o raciocínio do modelo. Por outro lado, métodos baseados em protótipos pré-hoc (por exemplo, ProtoPNet) fornecem raciocínios compreensíveis por humanos do tipo "isto parece aquilo", mas exigem arquiteturas especializadas e extenso retreinamento.

Abordagens híbridas recentes, como EPIC, tentam preencher essa lacuna extraindo explicações semelhantes a protótipos de classificadores congelados sem retreinamento. No entanto, esses métodos enfrentam uma limitação fundamental: exigem acesso a um subconjunto de dados do mundo real (por exemplo, um conjunto de validação ou teste) para buscar, recortar e extrair protótipos visuais. Essa dependência torna-os inutilizáveis em domínios sensíveis à privacidade (por exemplo, saúde, finanças), onde os conjuntos de dados originais são estritamente restritos ou inacessíveis.

Metodologia: Framework ProDG

O ProDG (Protótipos Generativos para Explicabilidade Pós-Hoc Livre de Dados) aborda o problema da dependência de dados sintetizando protótipos visuais puros e de alta fidelidade diretamente a partir dos pesos de um classificador congelado, eliminando a necessidade de qualquer dado externo. O framework consiste em três componentes principais:

1. Módulo de Desemaranhamento de Características Ortogonais

Em redes padrão, características visuais estão frequentemente entrelaçadas em múltiplos canais. O ProDG introduz uma matriz de mudança de base ortogonal $U \in \mathbb{R}^{C \times C}$ para mapear as ativações entrelaçadas originais $\Phi(x)$ em um novo espaço $Z = U \Phi(x)$.

• Objetivo: Alinhar novas representações de canal com conceitos visuais distintos e semanticamente significativos, de modo que cada canal se ative fortemente para exatamente uma característica específica.
• Garantia de Fidedignidade: Como $U$ é restrito a ser ortogonal, seu inverso é simplesmente sua transposta ($U^{-1} = U^T$). Ao modificar o cabeçalho de classificação linear para incorporar esse mapeamento inverso (multiplicando os pesos do classificador por $U^T$), a mudança de base é matematicamente cancelada durante a passagem direta. Isso garante que a rede modificada retenha a precisão preditiva exata e as previsões de logit do modelo base original.

2. Banco de Prompts de Conceito

Para gerar protótipos sem dados reais, o ProDG aproveita um modelo generativo congelado (especificamente FLUX.1-schnell) condicionado a embeddings de texto.

• Parametrização: Um "Banco de Prompts de Conceito" $\mathcal{P} = \{P_c\}_{c=1}^C$ é definido para cada canal. Cada $P_c$ inclui embeddings de âncora congelados (derivados de nomes de classes durante uma fase inicial de descoberta) e parâmetros distribucionais aprendíveis.
• Otimização: Os parâmetros aprendíveis incluem deslocamentos e variâncias para os embeddings de texto. Para embeddings T5 de alta dimensão, é usada Adaptação de Baixo Rank (LoRA); para embeddings CLIP, deslocamentos diretos são aprendidos.
• Diversidade: Os embeddings são formulados como distribuições probabilísticas. Usando o truque de reparametrização, o sistema amostra dessas distribuições para gerar imagens de protótipos diversas, em vez de uma única imagem estática por conceito.

3. Esquema de Otimização Alternada

O framework otimiza conjuntamente a matriz de transformação $U$ e os parâmetros do banco de prompts $\Theta_c$ usando uma estratégia alternada:

• Fase 1 (Atualizar $U$): Congelar parâmetros de prompts, amostrar imagens para canais-alvo e atualizar $U$ para maximizar a métrica de pureza (a razão entre a ativação máxima em um canal específico e a norma do vetor de características naquela localização espacial).
• Fase 2 (Atualizar Prompts): Congelar $U$, gerar imagens e atualizar embeddings para maximizar a pureza enquanto aplicam duas perdas de regularização:
  • Perda de Regularização ($L_{reg}$): Penaliza grandes desvios dos embeddings aprendidos em relação a âncoras de linguagem natural significativas para manter o alinhamento semântico.
  • Perda de Diversidade ($L_{div}$): Incentiva a geração de imagens diferentes para o mesmo canal para evitar colapso de modo, calculada via similaridade cosseno em pares de vetores de características.

Geração de Explicação

Durante a inferência, o sistema identifica os $k$ canais mais influentes para uma classe prevista. Em seguida, amostra do banco de prompts otimizado para gerar imagens correspondentes. Explicações visuais são derivadas calculando mapas de calor de ativação baseados no produto da Pureza Espacial (dominância do canal) e da Magnitude Relativa (ativação normalizada), resultando em caixas delimitadoras localizadas que destacam regiões prototípicas.

Contribuições Principais

1. Framework Livre de Dados: O ProDG é o primeiro método baseado em protótipos que sintetiza explicações de protótipos sem exigir acesso a conjuntos de dados originais ou de validação.
2. Condicionamento Otimizado por Pureza: A introdução de um mecanismo que utiliza modelos generativos para criar conceitos visuais de alta fidelidade e interpretáveis diretamente a partir dos pesos de um classificador congelado.
3. Interpretabilidade Preservadora de Privacidade: O método oferece uma alternativa segura à extração dependente de dados tradicional, oferecendo representações conceituais mais limpas, livres de ruído de fundo irrelevante, adequadas para ambientes restritos.

Resultados e Avaliação

Os autores avaliaram o ProDG em quatro benchmarks (CUB-200-2011, Stanford Cars, Stanford Dogs e ImageNet) usando várias arquiteturas base (ResNet, DenseNet, ConvNeXt, SwinTransformer).

• Fidedignidade Preditiva: Como garantido teoricamente, o ProDG mantém a precisão do modelo de base exatamente (0% de diferença) em todos os conjuntos de dados e arquiteturas, igualando o desempenho do EPIC e do InfoDisent.
• Desempenho Qualitativo: Comparações visuais mostram que o ProDG produz pistas semanticamente ricas (por exemplo, estrutura do objeto, textura) comparáveis a métodos dependentes de dados como EPIC, capturando regiões discriminativas de forma eficaz.
• Diversidade Intra-Conceito: Usando a métrica Learned Perceptual Image Patch Similarity (LPIPS), o ProDG demonstrou pontuações altas ($\geq 0.61$), indicando que o framework evita com sucesso o colapso de modo e gera variações visuais diversas para o mesmo conceito.
• Estudo com Usuários: Em um estudo no ImageNet, os participantes alcançaram uma precisão significativamente maior que o acaso (73% vs. seleção aleatória) ao identificar classes com base nas explicações do ProDG. Em uma comparação tripla (ProDG vs. InfoDisent vs. EPIC), o ProDG alcançou a maior classificação média (1,85), com diferenças estatisticamente significativas encontradas contra o InfoDisent.

Significado e Limitações

O artigo afirma que o ProDG estabelece uma nova fronteira em XAI Livre de Dados, desbloqueando interpretabilidade visual robusta para ambientes altamente restritos onde o acesso a dados é impossível. Ao desacoplar a descoberta de protótipos da disponibilidade de dados, ele permite transparência em domínios sensíveis à privacidade.

Os autores reconhecem modestamente limitações inerentes à abordagem generativa:

• Viés de Prior Generativo: Se conceitos-alvo estiverem totalmente fora da distribuição para o modelo generativo subjacente (por exemplo, FLUX), a otimização de prompts pode ter dificuldade em sintetizar protótipos válidos.
• Adaptação de Domínio: A aplicação do framework a domínios especializados pode exigir a substituição do prior generativo por um modelo específico do domínio.
• Inicialização: Embora a inicialização de âncoras de texto ajude na convergência, estratégias de inicialização mais avançadas poderiam potencialmente melhorar a captura de características visuais altamente abstratas.