Resumo Técnico: GazeLT – Atenção Visual Guiada para Classificação de Doenças de Cauda Longa em Radiografias de Tórax

Declaração do Problema

A classificação de cauda longa em imagens médicas continua sendo um desafio significativo devido ao desequilíbrio inerente de classes entre patologias comuns (cabeça) e raras (cauda). Em radiografias de tórax, condições comuns como Pneumotórax ou Atelectasia aparecem frequentemente, enquanto condições raras, como Pneumomediastino ou Enfisema Subcutâneo, ocorrem em menos de 1% dos casos. Modelos de aprendizado profundo padrão tendem a ter um bom desempenho em classes de cabeça, mas têm dificuldade em identificar classes de cauda, muitas vezes aprendendo atalhos ou focando em características irrelevantes para a doença. Embora os métodos existentes abordem isso por meio de reponderação de perda, reamostragem ou estratégias de desacoplamento, eles geralmente negligenciam o potencial dos padrões de busca visual de especialistas clínicos. Além disso, tentativas anteriores de integrar dados de rastreamento ocular trataram a atenção visual como um mapa estático e agregado, falhando em capturar a natureza dinâmica e temporal de como os radiologistas interpretam imagens ao longo do tempo.

Metodologia: GazeLT

Os autores propõem o GazeLT, um novo framework de aprendizado profundo professor-aluno que integra a dinâmica temporal da atenção visual dos radiologistas para melhorar a classificação de cauda longa. A hipótese central é que os padrões de olhar dos radiologistas evoluem durante o diagnóstico, mudando de buscas globais grosseiras para inspeções detalhadas, e que a decomposição desses padrões em janelas de tempo pode capturar mecanismos de atenção de integração (detalhada) e desintegração (global/grossa).

1. Decomposição Temporal da Atenção

O método divide a duração total da visualização de uma imagem por um radiologista em $n$ janelas de tempo iguais (definidas como $n=4$ nos experimentos). Dentro de cada janela, dois mecanismos de atenção distintos são modelados:

• Integração por Janela de Tempo (TW-I): Captura a atenção detalhada (fine-grained). Pontos de fixação dentro de um limite de distância específico são agrupados para formar uma região de atenção "principal", enquanto outros formam regiões "substitutas". Estes são combinados e suavizados para criar um mapa de calor de integração. Isso mimetiza a busca focada do radiologista por anormalidades específicas.
• Desintegração por Janela de Tempo (TW-D): Captura a atenção global e grosseira. Uma filtragem Gaussiana é aplicada diretamente aos pontos de fixação brutos sem agrupamento, representando um padrão de busca global mais amplo, semelhante à "desintegração" na psicologia humana.

2. Destilação de Conhecimento Professor-Aluno

O framework opera em duas etapas:

• Treinamento do Professor (t-HVA): Uma rede professora, composta por blocos TW-I e TW-D, é treinada usando os dados de rastreamento ocular dos radiologistas.
  • O bloco TW-I utiliza uma arquitetura de transformer FocalNet para aprender a atenção de integração.
  • O bloco TW-D utiliza uma arquitetura GC-ViT (Global Context Vision Transformer) para aprender a atenção de desintegração.
  • Ambos os blocos são supervisionados por funções de Perda de Atenção Visual Temporal (tVAL) ($L_{I-tVAL}$ e $L_{D-tVAL}$), que minimizam a distância entre os mapas de características intermediários do modelo e os mapas de calor de atenção derivados do olhar real.
• Treinamento do Aluno: Um modelo aluno (ResNet-50) é treinado para a tarefa de classificação de cauda longa subsequente. Os pesos do professor são congelados. O aluno aprende via Destilação de Conhecimento (KD), onde as características fundidas dos blocos TW-I e TW-D do professor ($J(f_I, f_D)$) são transferidas para o aluno.
  • A perda de destilação ($L_{BD}$) minimiza a distância de Bhattacharyya entre a distribuição de características do aluno e a representação conjunta do professor.
  • O aluno também é otimizado usando uma perda de Margem Consciente da Distribuição de Rótulos (LDAM) ($L_{LDAM}$) para lidar diretamente com o desequilíbrio de classes.
  • A perda final do aluno é: $L_s = L_{LDAM} + \lambda L_{BD}$.

3. Inferência

Durante a inferência, o modelo aluno opera exclusivamente na imagem de raio-X de tórax de entrada. Os dados de rastreamento ocular e a rede professora não são necessários, garantindo que o sistema possa ser implantado em ambientes clínicos sem hardware adicional.

Principais Contribuições

1. Decomposição de Atenção Temporal: O artigo introduz uma abordagem inovadora para decompor a atenção visual estática em mecanismos de Integração e Desintegração por Janela de Tempo, capturando a mudança dinâmica dos padrões de busca visual (global para local) dos radiologistas.
2. Novas Funções de Perda: Os autores propõem funções de Perda de Atenção Visual (VAL) especificamente projetadas para treinar a rede professora para mimetizar a evolução temporal do olhar humano.
3. Framework Professor-Aluno para Aprendizado de Cauda Longa: Este é o primeiro trabalho a utilizar o comportamento de olhar dos radiologistas especificamente para mitigar problemas de classificação de cauda longa, utilizando uma estratégia de destilação para transferir priors diagnósticos temporais para um modelo aluno.
4. Validação Empírica: O método é validado em dois conjuntos de dados de grande escala e disponíveis publicamente: NIH-CXR-LT ($n=89.237$) e MIMIC-CXR-LT ($n=111.898$).

Resultados

Os autores relatam melhorias significativas de desempenho sobre os baselines de estado da arte, incluindo perdas de cauda longa padrão (Softmax, Focal, LDAM, RW LDAM-DRW) e baselines baseados em atenção visual (RadioTransformer, GazeRadar).

• NIH-CXR-LT: O GazeLT alcançou uma acurácia média de 0,410 no conjunto de teste balanceado, superando o melhor baseline de perda de cauda longa (LDAM) em 4,1% e o baseline de atenção visual (RadioTransformer) em 21,7%. Notavelmente, melhorou a acurácia das classes de cauda em 10,9%.
• MIMIC-CXR-LT: O GazeLT alcançou uma acurácia média de 0,418, uma melhoria de 8,01% sobre o melhor baseline. A acurácia das classes de cauda melhorou em 12,2%.
• Estudos de Ablação: Experimentos confirmaram que a combinação de TW-I e TW-D (Janela de Tempo) supera os blocos de Integração ou Desintegração isolados, validando a necessidade de modelar ambos os tipos de atenção temporal. Uma análise de sensibilidade mostrou que 4 janelas de tempo ofereceram o melhor equilíbrio entre detalhe temporal e redundância em comparação com 2 ou 8 janelas.
• Desempenho Multiclasse: No conjunto de teste desbalanceado do NIH-CXR-LT, o GazeLT alcançou uma acurácia balanceada de 0,421, um MCC de 0,391 e um AUC de 0,829, superando significativamente o GazeRadar e o RadioTransformer.

Significância e Alegações

O artigo afirma que o GazeLT representa um avanço significativo ao integrar os padrões de atenção visual temporal dos radiologistas em um framework de aprendizado profundo. Os autores argumentam que:

• Dinâmico vs. Estático: A decomposição da atenção em janelas de tempo captura a natureza "rica em contexto" do raciocínio diagnóstico melhor do que mapas agregados estáticos.
• Clínico no Loop (Clinician-in-the-Loop): A abordagem aumenta a interpretabilidade e a relevância clínica do modelo, alinhando o foco do modelo com as estratégias de busca visual dos especialistas, particularmente para doenças raras onde os dados são escassos.
• Implantação Prática: Embora os dados de olhar sejam necessários para o treinamento do professor, o modelo aluno final requer nenhum dado de olhar durante a inferência, tornando-o viável para ambientes clínicos que carecem de hardware de rastreamento ocular.
• Agnóstico à Modalidade: Embora demonstrado em raios-X de tórax 2D, os autores postulam que o framework é extensível para outras modalidades (CT, RM, ultrassom) e dados 3D, desde que os dados de olhar possam ser adquiridos.

Os autores reconhecem limitações, principalmente a dependência de dados de rastreamento ocular de alta qualidade para a fase de treinamento e o foco atual em radiografias de tórax 2D. Eles concluem que a incorporação da dinâmica temporal do especialista é crucial para o desenvolvimento de ferramentas diagnósticas robustas, precisas e interpretáveis para tarefas de imagem médica de cauda longa.