A Multi-Stage Optimization Pipeline for Bethesda Cell Detection in Pap Smear Cytology

1. Problema e Contexto

O câncer de colo do útero é a quarta causa mais comum de câncer e morte entre mulheres globalmente. Embora o rastreamento por citologia de Papanicolau (Pap smear) tenha transformado a detecção precoce, o processo ainda depende fortemente da interpretação manual, o que é trabalhoso, sujeito a fadiga e variabilidade entre observadores.
O desafio principal na aplicação de visão computacional a esse domínio é a generalização robusta, dificultada pela falta de grandes conjuntos de dados de alta qualidade que reflitam a diversidade biológica clínica. Para abordar essa lacuna, foi lançado o conjunto de dados RIVA e o desafio "Riva Cytology Challenge". A Track B deste desafio foca especificamente na localização de células Bethesda (células patológicas) em imagens de citologia usando caixas delimitadoras, com a métrica de desempenho principal sendo o mAP50-95 (Precisão Média Média calculada sobre uma faixa de IoU de 0,50 a 0,95).

2. Metodologia

Os autores propõem um pipeline de otimização multi-estágio baseado em um ensemble (conjunto) de modelos de detecção e segmentação, seguido por etapas de refinamento.

2.1. Pré-processamento e Treinamento YOLO

• Ajuste de Anotações: As anotações originais do dataset eram uniformes (100x100 pixels), o que não representava bem a morfologia real das células. Os autores reescalaram as caixas para dimensões fixas variando de 10x10 a 120x120 pixels, preservando as coordenadas centrais originais.
• Modelos: Foram utilizados modelos YOLOv8 (variantes Nano, Small e Medium). Benchmarks empíricos identificaram que as escalas de 20x20 e 50x50 pixels eram as mais eficazes para detecção.
• Estratégia: O foco foi maximizar o recall (taxa de detecção), pois perder células é mais custoso do que gerar falsos positivos.

2.2. Abordagem por Ensemble (Conjunto de Modelos)

O pipeline combina dois tipos de arquiteturas para aproveitar os pontos fortes de cada uma:

1. Ensemble YOLO: Combinação de dois modelos YOLOv8n treinados com caixas de 20x20 e 50x50. As previsões foram fundidas calculando a média das coordenadas centrais e pontuações de confiança para detecções coincidentes (distância euclidiana < 12 pixels).
2. Modelo U-Net: Um U-Net com backbone ResNet34 foi treinado como um regressor de mapa de calor (heatmap). O objetivo era prever a localização do centro da célula com alta precisão espacial. Embora tivesse um recall menor que o YOLO, apresentou precisão significativamente maior.
3. Fusão Final: O output do ensemble YOLO foi combinado com as previsões do U-Net. Detecções espaciais coincidentes tiveram suas pontuações médias; detecções únicas de qualquer modelo foram mantidas (com um limiar de confiança de 0 para o U-Net, garantindo que nenhuma detecção de alta qualidade fosse perdida).

2.3. Pipeline de Otimização (Pós-processamento)

Para refinar as previsões finais e remover ruído de fundo, três etapas foram aplicadas:

1. Supressão de Máximo Não Máximo (NMS): Uma supressão permissiva (IoU > 0,75) foi usada para evitar a fusão de células adjacentes legítimas, mantendo caixas candidatas que poderiam ter alto IoU em diferentes limiares do mAP50-95.
2. Filtragem por Densidade Espacial: As imagens foram divididas em uma grade 4x4.
   • Em quadrantes de alta densidade (≥30 detecções), aplicou-se um limiar de confiança de 0,1 para reduzir falsos positivos gerados por incerteza do modelo.
   • Em quadrantes de baixa densidade, o limiar foi relaxado para 0,001 para evitar descartar células anormais isoladas.
3. Refinamento por Classificação Binária: Um classificador EfficientNet-B0 foi treinado para distinguir morfologia celular legítima de artefatos de fundo. Ele foi aplicado especificamente às previsões de baixa confiança (<0,01) do ensemble, utilizando hard negative mining para o treinamento.

3. Resultados

O sistema foi avaliado no conjunto de validação do RIVA (131 imagens) e no desafio oficial.

• Desempenho Individual:
  • O modelo YOLOv8n 50x50 teve o maior recall (0,9937), mas muitas falsas positivas.
  • O modelo U-Net teve o menor recall (0,7983), mas a melhor precisão e F1-score (0,7425) entre os modelos individuais.
• Desempenho do Ensemble Final:
  • O pipeline completo alcançou um mAP50-95 de 0,6232 no conjunto de validação.
  • Na competição oficial (Track B do Riva Cytology Challenge), a solução ficou em segundo lugar com uma pontuação de 0,5909.
• Análise de Trade-off: Otimizar para mAP50-95 exigiu manter um limiar de confiança baixo, resultando em um alto número de falsos positivos. Os autores notam que, para aplicações clínicas reais, um limiar de confiança mais alto poderia melhorar a precisão (reduzindo falsos alarmes) com uma perda marginal no mAP, o que seria mais benéfico para o diagnóstico.

4. Contribuições Principais

1. Novo Framework de Ensemble: Integração eficaz de detectores de objetos (YOLO) e regressores de mapas de calor (U-Net) para detecção celular, combinando alto recall com alta precisão espacial.
2. Pipeline de Otimização Multi-Estágio: Desenvolvimento de uma estratégia de pós-processamento sofisticada que inclui NMS adaptativo, filtragem baseada em densidade espacial e um classificador binário dedicado para limpar falsos positivos de baixa confiança.
3. Adaptação de Dados: Técnicas de reescalonamento de anotações para melhorar a localização central das células, superando limitações das anotações uniformes do dataset original.
4. Análise Crítica de Métricas: Discussão sobre a divergência entre a otimização para métricas de competição (mAP50-95) e a utilidade clínica prática (precisão vs. recall), sugerindo ajustes para cenários de triagem médica.

5. Significado

Este trabalho demonstra que a combinação de arquiteturas complementares, juntamente com um pipeline de pós-processamento cuidadosamente calibrado, pode superar os limites de modelos individuais na detecção de células em citologia. A solução alcançou resultados de ponta em um desafio competitivo, validando a eficácia da abordagem. Além disso, o artigo destaca a importância de adaptar as métricas de desempenho para o contexto clínico, onde a redução de falsos positivos é crucial para a tomada de decisão médica, mesmo que isso signifique uma pequena redução na métrica de competição. O código-fonte e a implementação foram disponibilizados publicamente, facilitando a reprodutibilidade e o avanço futuro na área.