A Multi-Stage Optimization Pipeline for Bethesda Cell Detection in Pap Smear Cytology

1. Problématique et Contexte

Le cancer du col de l'utérus reste une cause majeure de mortalité chez les femmes, bien que le dépistage par frottis (test de Pap) ait transformé la détection précoce. Cependant, l'interprétation manuelle des échantillons de cytologie est laborieuse, sujette à la fatigue et à la variabilité inter-observateurs, ce qui peut compromettre la sensibilité diagnostique.

Bien que l'intelligence artificielle offre des solutions prometteuses, la généralisation robuste des modèles de classification et de détection cellulaire reste difficile en raison du manque de grands ensembles de données de haute qualité reflétant la diversité biologique clinique. Pour combler ce vide, l'ensemble de données RIVA a été introduit, servant de benchmark standardisé.

L'article se concentre sur la Track B du Riva Cytology Challenge, dont l'objectif est la localisation précise des cellules Bethesda (cellules pathologiques) dans les images de frottis à l'aide de boîtes englobantes (bounding boxes). La métrique principale d'évaluation est le mAP50-95 (moyenne de la Précision Moyenne sur des seuils d'Intersection sur Union allant de 0,50 à 0,95).

2. Méthodologie

L'approche proposée repose sur un pipeline d'optimisation multi-étapes combinant un ensemble de modèles (YOLO et U-Net) et des techniques de post-traitement avancées.

A. Prétraitement et Entraînement YOLO

• Adaptation des annotations : Les annotations originales (boîtes fixes de 100×100 pixels) ne reflétaient pas toujours la morphologie réelle des cellules. Les auteurs ont redimensionné dynamiquement les boîtes d'entraînement (de 10×10 à 120×120 pixels) tout en conservant les coordonnées centrales, afin d'optimiser la localisation du centre. Lors de l'inférence, les prédictions sont ramenées au format 100×100.
• Architectures : Utilisation de variantes YOLOv8 (Nano, Small, Medium). Les modèles ont été entraînés avec des résolutions d'entrée de 1024×1024.
• Stratégie d'ensemble YOLO : Combinaison de deux modèles YOLOv8n entraînés spécifiquement sur des tailles de boîtes de 20×20 et 50×50 pixels pour capturer différents contextes spatiaux. Les prédictions sont fusionnées en moyennant les coordonnées et les scores de confiance si les centres sont proches (seuil de 12 pixels).

B. Approche par U-Net (Régression de Heatmap)

• Un modèle U-Net avec un backbone ResNet34 pré-entraîné sur ImageNet est utilisé comme régresseur de cartes thermiques (heatmaps).
• Chaque centre de cellule annoté génère un noyau gaussien 2D sur une carte thermique. Le réseau est optimisé pour reproduire ces cartes avec une perte MSE.
• Inférence multi-échelle : Les prédictions sont moyennées sur trois échelles (0.8x, 1.0x, 1.2x) et les centres sont extraits par suppression des maxima locaux.
• Bien que ce modèle ait un rappel (recall) plus faible que YOLO, il offre une précision nettement supérieure, fournissant ainsi des détections de haute qualité complémentaires.

C. Pipeline d'Optimisation (Post-traitement en 3 étapes)

Pour affiner les résultats de l'ensemble final (YOLO + U-Net), trois étapes sont appliquées :

1. Suppression des Non-Maxima (NMS) :
   • Les doublons sont supprimés, mais avec un seuil d'IoU (Intersection sur Union) de 0,75 (plutôt que 0,5 ou 0,9). Ce seuil permissif est choisi pour préserver les cellules adjacentes denses et maximiser le mAP50-95 en conservant plusieurs candidats potentiels pour différents seuils d'évaluation.
2. Filtrage par Densité Spatiale :
   • L'image est divisée en une grille 4×4.
   • Dans les quadrants à haute densité (≥30 détections), un seuil de confiance de 0,1 est appliqué pour éliminer le bruit généré par l'incertitude du modèle.
   • Dans les quadrants à faible densité, le seuil est abaissé à 0,001 pour ne pas perdre de cellules anormales isolées.
3. Raffinement par Classification Binaire :
   • Un classifieur binaire EfficientNet-B0 est entraîné pour distinguer les morphologies cellulaires légitimes des artefacts de fond.
   • L'entraînement utilise un hard negative mining (les boîtes avec un IoU < 0,1 par rapport à la vérité terrain sont étiquetées "déchet").
   • Ce classifieur filtre les prédictions à très faible confiance (<0,01) tout en préservant la sensibilité.

3. Résultats Clés

Les performances ont été évaluées sur un ensemble de validation interne (131 images) et validées sur la plateforme Kaggle pour le challenge.

• Performance de l'Ensemble Final : La solution proposée a obtenu le 2ème rang du challenge avec un score mAP50-95 de 0,5909 (le score sur l'ensemble de validation interne atteint 0,6232).
• Analyse des Composantes :
  • Les modèles YOLO seuls offrent un rappel très élevé (>0,99) mais souffrent d'un taux de faux positifs (FP) massif.
  • Le modèle U-Net seul a un rappel plus faible (0,798) mais une précision bien supérieure (0,694), résultant en un meilleur score F1 individuel (0,7425).
  • L'ensemble final parvient à équilibrer ces forces : il maintient un rappel élevé (0,9485) tout en réduisant considérablement les faux positifs par rapport aux modèles YOLO seuls, grâce au pipeline d'optimisation.
• Compromis (Trade-off) : L'optimisation pour le mAP50-95 favorise un rappel élevé au détriment de la précision (plus de faux positifs). Cependant, une augmentation modeste du seuil de confiance permettrait d'améliorer significativement la précision avec une perte minime de mAP, ce qui pourrait être plus pertinent cliniquement.

4. Contributions et Signification

• Innovation Architecturale : Combinaison réussie de détecteurs d'objets (YOLO) et de modèles de segmentation/régression de chaleur (U-Net) pour pallier les faiblesses de chacun.
• Pipeline de Post-traitement Sophistiqué : Développement d'une stratégie en trois étapes (NMS permissif, filtrage adaptatif par densité, classification binaire) spécifiquement conçue pour maximiser le mAP50-95 tout en gérant la densité cellulaire variable.
• Adaptation Morphologique : La méthode de redimensionnement dynamique des boîtes d'entraînement pour capturer la morphologie réelle des cellules améliore la localisation centrale.
• Impact Clinique : Bien que le modèle soit optimisé pour la compétition, les auteurs soulignent l'importance d'ajuster les seuils de confiance pour les applications réelles, où la réduction des faux positifs est cruciale pour éviter des interventions inutiles, même au prix d'une légère baisse du mAP.

Le code source et l'implémentation sont disponibles publiquement, facilitant la reproduction et l'amélioration future de ces méthodes pour le dépistage du cancer du col de l'utérus.