The Learnability Gap in Medical Latent Diffusion

Resumo Técnico: A Lacuna de Aprendibilidade em Difusão Latente Médica

Declaração do Problema
Aumentação de dados generativa usando Modelos de Difusão Latente (LDMs) é proposta como solução para o desequilíbrio de classes em imagens médicas, particularmente para distribuições de cauda longa onde condições raras, mas críticas, são sub-representadas. No entanto, as abordagens atuais priorizam a fidelidade perceptual (por exemplo, pontuações FID) e o ajuste fino de autoencoders específicos do domínio, operando sob a suposição de que o espaço latente serve como um intermediário neutro. Este artigo identifica um gargalo fundamental: enquanto autoencoders pré-treinados em larga escala codificam fielmente características discriminativas (evidenciado por reconstrução quase sem perdas), suas representações latentes são estruturadas de maneiras difíceis para classificadores a jusante aprenderem. Esta discrepância, denominada lacuna de aprendibilidade, sugere que dados sintéticos gerados a partir desses latentes podem carecer dos marcadores patológicos específicos necessários para classificação eficaz, particularmente para classes de cauda.

Metodologia
Os autores realizam um estudo sistemático em cinco famílias de autoencoders (Stable Diffusion 1.4, Flux.1 dev, Flux.2 dev, MedVAE e MedVAE ajustado finamente) e quatro benchmarks médicos (MIMIC-CXR, ISIC 2019, CT-RATE e Cardium). Para isolar a causa da degradação de desempenho, definem três espaços de avaliação:

1. Espaço de Imagem: Classificadores treinados em imagens originais.
2. Espaço de Reconstrução: Classificadores treinados em imagens decodificadas ($\tilde{x}_{img} = G(E(x_{img}))$).
3. Espaço Latente: Classificadores treinados diretamente em códigos latentes ($x = E(x_{img})$).

Se classificadores no espaço latente tiverem desempenho inferior aos classificadores no espaço de reconstrução (que correspondem ao desempenho no espaço de imagem), o déficit é atribuído à estrutura do espaço latente, e não à perda de informação.

Para sondar e mitigar parcialmente essa lacuna, os autores desenvolvem classificadores latentes condicionados a ruído. Estes modelos:

• Utilizam uma espinha dorsal ConvNeXt-Tiny operando diretamente em tensores latentes.
• Incorporam camadas FiLM (Modulação Linear Específica por Característica) para condicionar as previsões aos níveis de ruído ($\sigma$), forçando a rede a aprender características robustas e invariantes ao ruído.
• Empregam destilação no espaço de imagem, onde um professor forte no espaço de imagem (treinado em reconstruções) guia o aluno latente via correspondência de logits suaves combinada com supervisão de verdade fundamental.

Principais Resultados

1. Existência da Lacuna: Em todos os 20 pares autoencoder-conjunto de dados, classificadores no espaço latente sofrem uma queda substancial de desempenho em comparação com classificadores no espaço de reconstrução. No ISIC-2019, a lacuna de precisão balanceada (bACC) excede 18 pontos percentuais para cada autoencoder. Um teste de postos sinalizados de Wilcoxon confirma que este é um fenômeno sistemático ($p = 9,5 \times 10^{-7}$).
2. Fidelidade vs. Aprendibilidade: Alta fidelidade de reconstrução (medida por PSNR/SSIM) não prediz a aprendibilidade no espaço latente. Por exemplo, o Flux.2 alcança o maior PSNR, mas exibe uma das maiores lacunas, enquanto o MedVAE mostra fidelidade menor, mas uma lacuna comparável. Isso exclui a perda de informação como a causa primária.
3. Ineficácia do Ajuste Fino: O ajuste fino específico do domínio do autoencoder melhora significativamente a qualidade da reconstrução (por exemplo, aumento de PSNR de 29,9 para 38,9 dB), mas falha em fechar a lacuna de aprendibilidade. Em alguns casos, amplia a lacuna, confirmando que o problema é estrutural e não uma incompatibilidade de domínio.
4. Mitigação Parcial: Os classificadores latentes condicionados a ruído propostos com destilação estreitam parcialmente a lacuna e melhoram a robustez (por exemplo, aumentando a AUC média de 0,727 para 0,754), embora uma lacuna residual de 4 a 11 pontos de bACC persista.
5. Ganhos de Eficiência: Apesar da lacuna, classificadores latentes oferecem vantagens práticas significativas. Operar no domínio comprimido resulta em 64× maior vazão e redução de memória de 120× em comparação com modelos no espaço de imagem, tornando-os viáveis para filtragem de qualidade em tempo real em pipelines generativos.

Significado e Alegações
O artigo alega fornecer o primeiro diagnóstico sistemático da lacuna de aprendibilidade em espaços latentes médicos. Sua contribuição principal é deslocar o foco da otimização em IA generativa médica:

• Identificação do Gargalo: O principal obstáculo para fechar a lacuna de desempenho entre dados médicos reais e sintéticos é a estrutura do espaço latente, e não a fidelidade de reconstrução ou especificidade de domínio.
• Redirecionamento Estratégico: Esforços para melhorar dados médicos sintéticos devem priorizar a reestruturação do espaço latente (por exemplo, via objetivos condicionados à classe ou alinhamento com codificadores discriminativos) em vez de ajustes finos caros de autoencoders.
• Ferramentas Práticas: Os classificadores latentes condicionados a ruído desenvolvidos servem a um duplo propósito: como ferramentas de diagnóstico para avaliar a qualidade do espaço latente e como componentes eficientes para amostragem de rejeição e filtragem de qualidade em pipelines generativos.

Os autores concluem que, embora tenham diagnosticado a lacuna e fornecido ferramentas para contorná-la, o problema fundamental de reestruturar espaços latentes para serem inerentemente aprendíveis para tarefas médicas a jusante permanece um desafio aberto.