Unsupervised Causal Prototypical Networks for De-biased Interpretable Dermoscopy Diagnosis

O artigo apresenta o CausalProto, uma Rede Prototípica Causal Não Supervisionada que utiliza um Modelo Causal Estrutural e um gargalo de informação para desconectar características patológicas de confusores ambientais em imagens de dermatoscopia, permitindo diagnósticos mais precisos, interpretáveis e livres de viés sem comprometer a acurácia.

O essencial

Imagine que você está tentando ensinar um computador a diagnosticar doenças de pele olhando para fotos de pintas (dermoscopia). O problema é que os computadores modernos, embora muito inteligentes, são como "caixas pretas": eles dão a resposta certa, mas ninguém sabe exatamente por que chegaram lá. Além disso, eles têm um defeito perigoso: eles são preguiçosos e aprendem "atalhos".

Por exemplo, se a maioria das fotos de um tipo de câncer na base de dados foi tirada em um hospital com uma luz azulada, o computador pode aprender que "luz azul = câncer", em vez de olhar para a própria pinta. Isso é perigoso! Se ele vir uma pinta com luz azul em uma foto de um paciente saudável, ele pode errar o diagnóstico.

Os autores deste artigo criaram uma solução chamada CausalProto. Vamos explicar como funciona usando uma analogia simples:

1. O Problema: O Detetive Preguiçoso

Imagine um detetive (o computador) tentando resolver um crime (diagnosticar a doença).

• O jeito antigo: O detetive olha para a cena do crime e diz: "Ah, tem uma sombra azul aqui, então o suspeito é o Sr. Azul!" Ele não olhou para a arma ou as pegadas (a doença real), ele apenas associou a sombra (um detalhe do ambiente) ao crime. Isso é o que chamamos de "viés" ou "atalho".
• O resultado: O detetive acerta às vezes, mas falha feio quando a sombra muda, e ninguém confia nele porque ele não explica o raciocínio.

2. A Solução: O Detetive Causal (CausalProto)

Os pesquisadores criaram um novo sistema que força o computador a separar o que é real (a doença) do que é ruído (a luz, a cor da pele, o fundo da foto). Eles fazem isso em três etapas mágicas:

Passo A: A Filtro de Café (Desemaranhar os dados)

Imagine que você tem uma xícara de café com leite e açúcar misturados. Você quer separar o café puro do açúcar e do leite.
O CausalProto usa um "filtro" especial (chamado de Information Bottleneck) que força o computador a criar duas caixas separadas:

1. Caixa da Doença Real: Contém apenas as características médicas importantes da pinta.
2. Caixa do Ruído: Contém tudo o resto (luz, sombras, artefatos da câmera).
   O segredo é que o sistema é treinado para garantir que essas duas caixas nunca se misturem. Se o computador tentar usar o ruído para adivinhar a doença, ele é punido.

Passo B: O Livro de Casos (Protótipos)

Em vez de apenas dar uma resposta, o sistema funciona como um médico experiente que diz: "Esta pinta parece muito com aquela que vi no caso X, e aquela parecia com o caso Y".
O CausalProto cria dois "livros de casos":

• Um livro com exemplos puros de doenças (protótipos causais).
• Um livro com exemplos de ruídos (protótipos espúrios).
  Isso torna o diagnóstico transparente: você pode ver exatamente qual "caso antigo" o computador está usando para tomar a decisão.

Passo C: O "Botão de Reset" (Ajuste de Backdoor)

Aqui está a parte genial. Mesmo com os filtros, o computador ainda pode ter visto o ruído na foto. Para corrigir isso, o sistema usa uma técnica matemática chamada do-cálculo (que soa complicado, mas é simples na prática).
Imagine que você quer saber se a chuva causa o chão molhado. Mas e se alguém tivesse jogado água no chão?
O CausalProto faz um "experimento mental": ele pergunta: "Se eu ignorar completamente o ruído (a água jogada) e olhar apenas para a chuva (a doença), qual seria o resultado?"
Ele faz isso calculando a média de todas as possibilidades de ruído e removendo o efeito delas. Assim, ele chega à verdade pura, independentemente de como a foto foi tirada.

Por que isso é incrível?

1. Precisão: O sistema acerta mais do que os modelos antigos, porque não se distrai com detalhes irrelevantes.
2. Confiança: Como ele mostra os "casos antigos" (protótipos) que usou para decidir, os médicos podem entender o raciocínio. Não é mais uma caixa preta.
3. Justiça: Ele não é enganado por onde a foto foi tirada ou por qual câmera foi usada. Ele foca apenas na saúde da pele.

Resumo em uma frase

O CausalProto é como um detetive super-observador que aprendeu a ignorar distrações (como luz e sombras), separa o que é doença do que é ruído, e mostra suas provas (fotos de casos similares) para explicar por que fez o diagnóstico, tornando a inteligência artificial mais segura e confiável para salvar vidas.

Resumo técnico

1. O Problema

A análise automatizada de imagens de dermatoscopia por meio de Deep Learning tem alcançado grande sucesso, mas enfrenta dois obstáculos críticos:

• Natureza de "Caixa Preta": Os modelos tradicionais são opacos, o que dificulta a confiança clínica, pois os médicos exigem evidências visuais transparentes que alinhem com seu raciocínio.
• Viés de Seleção e Aprendizado de Atalho (Shortcut Learning): Mesmo os modelos interpretáveis baseados em protótipos (que tentam explicar decisões através de similaridade com casos conhecidos) são vulneráveis a vieses presentes nos dados clínicos reais. Eles tendem a codificar artefatos ambientais (como marcas de pele, iluminação ou instrumentos) como evidências preditivas, em vez de focar nas características patológicas reais da lesão. Isso cria um "caminho de porta dos fundos" (backdoor path) no modelo causal, levando a diagnósticos espúrios e não confiáveis.

2. Metodologia: CausalProto

Os autores propõem o CausalProto, uma Rede Prototípica Causal Não Supervisionada projetada para purificar a cadeia de evidências visuais. A abordagem é fundamentada em um Modelo Causal Estrutural (SCM) e opera em três etapas principais:

• Desemaranhamento Não Supervisionado (Information Bottleneck):

  • O modelo utiliza um codificador de duas ramificações (dual-branch encoder) para separar as características da imagem em duas representações latentes: Causal ($Z_c$) (atributos patológicos reais) e Espúria ($Z_s$) (artefatos ambientais).
  • Para garantir que essas representações sejam estritamente ortogonais e independentes sem necessidade de anotações ambientais, aplica-se uma restrição de Gargalo de Informação (Information Bottleneck). O objetivo é minimizar a Informação Mútua ($I(Z_c; Z_s)$) entre os dois espaços latentes, utilizando uma aproximação superior variacional (vCLUB).

• Espaços Prototípicos Independentes:

  • As representações são mapeadas para dois dicionários de protótipos distintos:
    1. Biblioteca Causal ($P_c$): Captura padrões patológicos genuínos.
    2. Biblioteca Espúria ($P_s$): Modela os artefatos ambientais (o "dicionário de ruído").
  • Os protótipos causais são projetados para corresponder a instâncias reais de imagens de treinamento, garantindo interpretabilidade visual verificável.

• Ajuste de Porta dos Fundos via Do-Calculus:

  • Durante a inferência, em vez de prever apenas $P(Y|X)$ (probabilidade condicional observacional), o modelo realiza um ajuste causal para estimar $P(Y|do(X))$ (probabilidade intervencional).
  • Isso é feito marginalizando o ruído ambiental através do dicionário de protótipos espúrios aprendidos ($P_s$). A técnica emprega o Média Geométrica Ponderada Normalizada (NWGM) para realizar uma pooling de expectativa eficiente sobre os protótipos espúrios, efetivamente bloqueando o caminho de confusão e forçando o modelo a basear a decisão apenas na evidência patológica pura.

3. Principais Contribuições

1. Definição Rigorosa do Mecanismo de Evidência Espúria: Identificam e formalizam a vulnerabilidade das redes prototípicas tradicionais a fatores de confusão em tarefas de visão médica.
2. Desemaranhamento Ortogonal Estrito: Alcançam a separação de características patológicas e ambientais sem anotações externas, utilizando limites superiores de informação mútua variacional.
3. Intervenção Causal Não Supervisionada: Introduzem um dicionário de protótipos espúrios como uma ferramenta de intervenção causal, permitindo o ajuste de porta dos fundos (backdoor adjustment) via do-calculus para eliminar viés.
4. Superação do Trade-off: Demonstram que é possível obter interpretabilidade visual transparente e alta pureza de evidência sem sacrificar a precisão diagnóstica, superando o dilema tradicional entre acurácia e explicabilidade.

4. Resultados Experimentais

O modelo foi avaliado em três conjuntos de dados públicos de lesões de pele: HAM10000, ISIC 2019 e PAD-UFES-20.

• Desempenho Quantitativo: O CausalProto alcançou o estado da arte (SOTA), superando consistentemente modelos de "caixa preta" (como ResNet-50, EfficientNet) e outros modelos interpretáveis (como ProtoPNet, PIP-Net).
  • Em HAM10000, obteve 86.2% de Acurácia e 80.5% de Acurácia Balanceada, superando o melhor baseline causal (CausalVAE) em aproximadamente 4.1% na acurácia balanceada.
• Qualidade da Interpretação:
  • Pureza do Protótipo: O modelo demonstrou uma pureza significativamente maior (0.82 no HAM10000) em comparação com baselines, indicando que os protótipos representam realmente a patologia e não ruído.
  • Desemaranhamento: A informação mútua estimada entre as características causais e espúrias foi drasticamente reduzida (NMI $\approx$ 0.07), confirmando o sucesso do isolamento de fatores de confusão.
• Estudos de Ablação: A remoção de qualquer componente (penalidade de informação mútua, restrição de agrupamento ou o módulo de ajuste causal) resultou em quedas significativas de desempenho e pureza, validando a necessidade de cada parte da arquitetura.
• Visualização: As visualizações de calor (heatmaps) mostraram que o modelo foca estritamente nas regiões patológicas intrínsecas, ignorando artefatos ambientais comuns que confundem outros modelos.

5. Significado e Conclusão

O trabalho do CausalProto representa um avanço fundamental na aplicação de IA em ambientes clínicos de alto risco. Ao integrar a inferência causal com aprendizado prototípico, os autores demonstram que a racionalidade intervencional pode substituir a simples adaptação a vieses observacionais.

Isso permite que os sistemas de IA forneçam não apenas diagnósticos precisos, mas também explicações visuais confiáveis e alinhadas com especialistas, onde a evidência apresentada é puramente patológica e livre de ruídos ambientais. Embora o modelo dependa de características de imagem e possa ter limitações com confusores não visuais, ele estabelece uma base transparente e livre de viés para a implantação de IA confiável em dermatologia, sugerindo futuras integrações com dados clínicos multimodais.