WeNLEX: Weakly Supervised Natural Language Explanations for Multilabel Chest X-ray Classification

1. Problema e Motivação

A explicabilidade de modelos de "caixa preta" em medicina, particularmente na classificação de raios-X torácicos, é crucial. As explicações em linguagem natural (NLEs) são preferidas porque imitam como os radiologistas comunicam diagnósticos em relatórios textuais.

No entanto, as abordagens atuais de geração de NLEs enfrentam limitações críticas:

• Supervisão Total e Falta de Fidelidade: A maioria dos métodos utiliza conjuntos de dados totalmente anotados por humanos (uma explicação por imagem/diagnóstico). Isso faz com que o modelo aprenda a imitar o raciocínio humano (o que é plausível), mas não o raciocínio real do modelo de IA que está sendo explicado (o que é fidedigno).
• Custo de Anotação: A necessidade de grandes volumes de dados anotados por especialistas é proibitiva.
• Incapacidade de Explicar Erros: Métodos supervisionados não conseguem gerar explicações para decisões incorretas do modelo, pois não possuem "verdadeiros" (ground-truth) para erros.
• Rigidez: As explicações geradas são frequentemente adaptadas apenas para especialistas, não sendo facilmente ajustáveis para leigos.

O objetivo do WeNLEX é criar um framework de aprendizado fracamente supervisionado que gere NLEs que sejam simultaneamente fidedignas (refletam o raciocínio do modelo) e plausíveis (façam sentido para humanos), utilizando um número mínimo de exemplos de verdadeiros.

2. Metodologia

O WeNLEX opera sob o paradigma "prever-explicar" (predict-explain), onde uma explicação é gerada para cada diagnóstico previsto. A arquitetura baseia-se em um modelo pré-treinado (Encoder-Decoder Transformer) adaptado via Fine-Tuning Eficiente de Parâmetros (PEFT).

O sistema é treinado para otimizar três propriedades principais através de funções de perda específicas:

A. Plausibilidade (Distribution Alignment)

Para garantir que as explicações soem naturais e clinicamente coerentes sem exigir uma correspondência 1:1 com o texto de verdade:

• O modelo compara a distribuição dos embeddings das NLEs geradas com um pequeno banco de dados de NLEs anotadas por clínicos (apenas 5 exemplos por diagnóstico).
• São testadas duas abordagens: Aprendizado Adversarial (WGAN-GP) e Minimização de Discrepância de Média Máxima (MMD). Os resultados mostraram que o MMD é superior, evitando o colapso de modos e produzindo NLEs mais diversas e próximas da distribuição real.

B. Fidelidade (Faithfulness)

Para garantir que a explicação reflita o raciocínio real do modelo de classificação (MBE - Model Being Explained):

• Reconstrução de Características (Feature Reconstruction): As NLEs geradas são convertidas em imagens sintéticas (via um modelo "Texto para Imagem"). Essas imagens são processadas pelo MBE. A perda é calculada pela distância L2 entre as características (features) da imagem original e as características extraídas da imagem reconstruída a partir da explicação. Isso força a explicação a conter a informação visual necessária para que o modelo chegue à mesma conclusão.
• Classificação da NLE: O MBE deve prever o mesmo diagnóstico a partir da imagem reconstruída (gerada pela NLE) que previu a partir da imagem original. A perda de classificação é aplicada sobre o vetor de previsão do modelo, e não sobre o rótulo ground-truth, garantindo fidelidade ao modelo.

C. Relevância da Imagem

Garantida pela entrada de características visuais no gerador de NLEs e pelas perdas de fidelidade mencionadas acima.

D. Cenários de Operação

O WeNLEX é flexível e opera em dois modos:

1. Post-hoc: O classificador de visão já está treinado e congelado; o WeNLEX aprende a explicar suas decisões.
2. In-model: O classificador e o gerador de NLEs são treinados conjuntamente. O artigo demonstra que essa abordagem melhora o desempenho de classificação (AUC) em comparação com o treinamento separado.

3. Principais Contribuições

1. Primeiro Framework Fracamente Supervisionado: O WeNLEX é a primeira abordagem para gerar NLEs em classificação multilabel de raios-X que não depende de grandes conjuntos de dados anotados, exigindo apenas 5 explicações ground-truth por diagnóstico.
2. Fidelidade Garantida: Ao invés de apenas imitar humanos, o modelo é forçado a alinhar a explicação com o espaço de características do próprio modelo de visão, permitindo explicar inclusive decisões erradas do modelo.
3. Melhoria de Desempenho: No cenário in-model, a adição do processo de explicabilidade durante o treinamento aumentou o AUC do classificador em 2,21%, provando que a interpretabilidade pode melhorar a tarefa principal.
4. Adaptabilidade ao Público-Alvo: O sistema permite trocar o banco de dados de exemplos para alterar o estilo da explicação. O artigo demonstra a criação de uma versão "leiga" (simplificada para não especialistas) que mantém a fidelidade ao modelo, mas reduz o nível de leitura necessário (de nível universitário para 10º ano).

4. Resultados e Avaliação

Os experimentos foram realizados no conjunto de dados MIMIC-NLE (derivado de MIMIC-CXR). O modelo foi avaliado em quatro dimensões:

• Fidelidade: Medida por métricas como "Flip %" (quantas vezes a previsão do modelo muda quando a região citada na explicação é ocultada) e $\Delta p$ (diferença nos logits). O WeNLEX (especialmente na configuração in-model) alcançou os melhores resultados, indicando que as explicações capturam corretamente as regiões de decisão do modelo.
• Simulatabilidade: Capacidade de um observador (simulado pelo modelo CheXagent) de reproduzir a previsão do modelo usando a explicação. O WeNLEX superou o baseline totalmente supervisionado.
• Diversidade: Medida por Self-BLEU e métricas de recuperação. O uso da perda MMD resultou em NLEs muito mais diversas do que o uso de GANs, evitando repetição.
• Plausibilidade: Avaliada via BERTScore (CXBS) e CLEV (Clinical Evidence). O modelo alcançou pontuações competitivas, demonstrando que poucas amostras de treino são suficientes para gerar texto clinicamente coerente.

Comparação com Baselines:
O WeNLEX (modelo in-model) superou o modelo totalmente supervisionado de [21] em métricas de fidelidade e simulatabilidade, utilizando apenas uma fração dos dados de anotação. Além disso, o AUC do classificador in-model foi de 67,34%, superior ao do classificador supervisionado (64,08%) e ao do classificador post-hoc (65,13%).

5. Significado e Conclusão

O trabalho WeNLEX representa um avanço significativo na área de IA explicável (XAI) para medicina. Ele resolve o dilema entre fidelidade (explicar o modelo real) e plausibilidade (fazer sentido para humanos) sem o custo proibitivo de anotação massiva.

A descoberta de que treinar o modelo de classificação junto com o gerador de explicações (in-model) melhora a precisão do diagnóstico desafia o consenso anterior de que a interpretabilidade é apenas um custo adicional. Além disso, a capacidade de adaptar o estilo da explicação para diferentes públicos (radiologistas vs. leigos) sem re-treinar o núcleo do modelo de visão destaca a flexibilidade e a aplicabilidade prática do sistema em cenários clínicos reais.