Resolution scaling governs DINOv3 transfer performance in chest radiograph classification

Resumo Técnico: O Escalonamento de Resolução Governa o Desempenho de Transferência do DINOv3 na Classificação de Radiografias de Tórax

1. O Problema

O aprendizado autossupervisionado (SSL) tem demonstrado grande potencial na visão computacional, mas sua eficácia em imagens médicas, especificamente em radiografias de tórax, ainda é incerta. Modelos de ponta como o DINOv3 introduzem melhorias como a autodestilação ancorada em Gram e a adaptação explícita para alta resolução. No entanto, não se sabia se essas mudanças realmente traduziam em benefícios para tarefas clínicas, se o ganho dependia da resolução de entrada, se funcionava em diferentes arquiteturas (Transformers vs. Convolucionais) ou se era robusto a ruídos de rótulos (comuns em grandes conjuntos de dados médicos).

2. Metodologia

Os autores realizaram um benchmark em larga escala utilizando 816.183 radiografias provenientes de sete conjuntos de dados internacionais (incluindo coortes pediátricas e adultas).

• Modelos Comparados: DINOv3, DINOv2 e inicialização supervisionada (ImageNet-21K).
• Arquiteturas (Backbones): ViT-B/16 (Vision Transformer) e ConvNeXt-B (Convolucional).
• Variáveis de Escalonamento: Resoluções de $224 \times 224$, $512 \times 512$ e $1024 \times 1024$ pixels.
• Regimes de Adaptação: Ajuste fino total (full fine-tuning) e adaptação eficiente de parâmetros via LoRA (Low-Rank Adaptation).
• Análises Adicionais:
  • Teste de robustez com corrupção sintética de rótulos (ruído de 0% a 40%).
  • Validação externa em instituições diferentes.
  • Comparação com o uso de recursos congelados (frozen features) do modelo DINOv3 de 7 bilhões de parâmetros (7B).

3. Principais Contribuições

• Identificação do "Ponto de Operação Ideal": O estudo demonstra que o benefício do DINOv3 é condicional à resolução e ao tipo de paciente.
• Análise de Custo-Benefício: Avaliação rigorosa do aumento do tempo de treinamento versus o ganho marginal de precisão (AUROC).
• Desmistificação do Escalonamento de Parâmetros: Demonstração de que modelos médios adaptados superam modelos gigantes congelados em tarefas médicas específicas.
• Robustez vs. Transferência: Clarificação de que o desempenho superior do DINOv3 em dados com rótulos fracos não se deve necessariamente a uma maior robustez ao ruído, mas sim a uma melhor qualidade de representação em dados limpos.

4. Resultados Principais

• Dependência de Resolução (Adultos): Em coortes adultas, o DINOv3 não superou o DINOv2 em $224 \times 224$ pixels. Contudo, tornou-se a melhor inicialização em $512 \times 512$ pixels, especialmente quando combinado com a arquitetura ConvNeXt-B.
• Limitações de Escalonamento: Aumentar a resolução para $1024 \times 1024$ raramente trouxe ganhos significativos de AUROC, mas aumentou drasticamente o custo computacional (até 8,9x mais tempo de treinamento para ViT).
• Diferença Pediátrica: O padrão observado em adultos não se aplica a crianças. Na coorte pediátrica, a resolução e a escolha da inicialização tiveram impacto mínimo no desempenho.
• Arquitetura: O ConvNeXt-B superou consistentemente o ViT-B/16, tanto em ajuste fino total quanto em LoRA, sugerindo que vieses indutivos convolucionais são vantajosos para capturar estruturas locais sutis em radiografias.
• Modelos Gigantes vs. Adaptados: O uso de recursos congelados do DINOv3-7B foi inferior aos modelos de tamanho médio (86-89M de parâmetros) que passaram por ajuste fino (fine-tuning).
• Sensibilidade ao Ruído: O DINOv3 mostrou-se mais sensível à corrupção de rótulos do que o DINOv2 e o ImageNet, perdendo sua vantagem à medida que o ruído aumentava.

5. Significância e Conclusão

O estudo fornece diretrizes práticas para a aplicação de IA em radiologia: para classificação de radiografias de tórax em adultos, a configuração mais eficiente e eficaz é utilizar backbones ConvNeXt-B com inicialização DINOv3 em resolução de $512 \times 512$ pixels.

A pesquisa conclui que, na radiologia, a adaptação específica ao domínio e à tarefa é mais crucial do que o simples aumento da escala do modelo (número de parâmetros) ou da resolução de entrada. O ganho do DINOv3 é mais perceptível em achados clínicos sutis e dependentes de bordas, o que tem grande relevância para triagem e diagnóstico de precisão.