Résumé Technique : Vers l'Équité sous Biais d'Étiquetage en Segmentation d'Images

Définition du Problème

Le biais algorithmique dans l'IA se manifeste souvent par des disparités de performance entre sous-groupes démographiques. Si le biais d'étiquetage — des erreurs d'étiquetage systématiques conditionnelles au groupe — est bien étudié en classification, il reste sous-exploré en segmentation d'images. Dans des domaines critiques pour la sécurité comme l'imagerie médicale, des annotations biaisées (par exemple, une sous- ou sur-segmentation systématique de tumeurs pour certaines populations de patients) peuvent se propager directement dans les décisions cliniques.

Un défi critique est que les métriques de segmentation standard (Dice, IoU) condensent des erreurs spatiales complexes en des scalaires uniques, masquant souvent la nature directionnelle du biais. De plus, la détection et l'atténuation de ce biais nécessitent généralement l'accès à des étiquettes de vérité terrain propres et non biaisées, qui sont rarement disponibles dans des scénarios réels où les protocoles d'annotation sont intrinsèquement subjectifs et sujets à des distorsions spécifiques aux groupes démographiques. Les outils d'atténuation existants supposent souvent des étiquettes propres ou des structures de biais connues, laissant un vide pour traiter le biais d'étiquetage lorsque les véritables étiquettes sont inconnues.

Méthodologie

L'article propose un cadre centré sur les données pour auditer et atténuer le biais d'étiquetage en segmentation sans nécessiter de vérité terrain propre. L'approche se compose de deux étapes principales :

1. Audit via l'Apprentissage Confiant (CL) Adapté

Les auteurs adaptent l'Apprentissage Confiant (CL), traditionnellement utilisé pour l'audit de jeux de données en classification, à la tâche de prédiction dense de la segmentation.

• Mécanisme : Au lieu de diagnostiquer le modèle, le cadre traite le jeu de données comme le sujet du procès. Un modèle de segmentation sert de proxy pour estimer les véritables étiquettes non observées ($y_{true}$) en générant des prédictions confiantes ($\hat{y}$) via une validation croisée en K plis.
• Estimation de la Distribution Jointe : La méthode calcule une matrice de distribution jointe au niveau des pixels $Q(y_{obs}, \hat{y})$, où $y_{obs}$ est l'étiquette observée (potentiellement biaisée). Cette matrice isole les entrées hors diagonale représentant les erreurs où l'étiquette observée diffère de la prédiction confiante du modèle.
• Métriques Directionnelles : Pour surmonter les limites du Dice/IoU, le cadre projette $Q$ sur deux axes directionnels :
  • Taux d'Omission (OmR) : Pixels observés comme arrière-plan mais confidentiellement prédits comme premier plan (sous-segmentation).
  • Taux de Commission (CoR) : Pixels observés comme premier plan mais confidentiellement prédits comme arrière-plan (sur-segmentation).
• Indicateurs de Biais : Le cadre utilise des tests statistiques pour distinguer le biais systématique du bruit aléatoire :
  • Test d'Indépendance du Chi-deux : Vérifie si les types d'erreurs sont indépendants du sous-groupe.
  • Risque Relatif (RR) : Quantifie la probabilité qu'un groupe biaisé présente des erreurs par rapport à un groupe propre.
  • Score de Symétrie (S) : Mesure si la distribution des erreurs est proportionnelle à la taille du groupe (un S élevé implique un bruit uniforme ; un S faible implique un biais).

2. Atténuation par Décodage Conditionné au Sous-groupe

Les auteurs observent que le biais d'étiquetage induit une séparabilité dans l'espace des caractéristiques, où l'encodeur apprend à distinguer les sous-groupes basés sur les motifs d'annotation corrompus plutôt que sur les seules caractéristiques visuelles. Plutôt que de supprimer cette séparabilité (comme le font les méthodes traditionnelles basées sur l'invariance), le cadre l'exploite.

• Décodeur Conditionné au Sous-groupe : La méthode injecte une condition de sous-groupe apprenable dans le pipeline encodeur-décodeur en utilisant la Modulation Linéaire au niveau des Caractéristiques (FiLM). Pendant l'entraînement, des paramètres spécifiques au sous-groupe modulent les caractéristiques de l'encodeur.
• Stratégie d'Inférence : À l'inférence, le modèle est contraint de se conditionner sur le groupe de référence « propre » ($g_c$) pour toutes les entrées, indépendamment de l'identité réelle du sous-groupe. Cela supprime systématiquement le biais d'annotation appris.
• Masquage Asymétrique des Contours : Pour empêcher le modèle d'apprendre les styles de contours biaisés, la supervision fine des contours est acheminée exclusivement à partir des annotations du sous-groupe propre, tandis que la masse interne de l'objet est exploitée à partir de tous les échantillons.
• Auto-Conditionnement (Variante Non Supervisée) : Lorsque le sous-groupe biaisé est inconnu, une phase de préchauffage identifie le groupe « propre » comme celui ayant la perte moyenne la plus faible (attracteurs de perte stables), permettant au système de passer automatiquement à une perte asymétrique.

Contributions Clés

1. Adaptation de l'Apprentissage Confiant à la Segmentation : L'article introduit un cadre pour détecter le biais d'étiquetage directement dans les données d'entraînement sans vérité terrain propre, en utilisant des métriques directionnelles (taux d'omission/commission) que les métriques de recouvrement standard ne parviennent pas à capturer.
2. Preuve Empirique de la Séparabilité dans l'Espace des Caractéristiques : L'étude démontre que le biais d'étiquetage augmente la séparabilité des sous-groupes dans l'espace latent de l'encodeur. Crucialement, elle soutient que cette séparabilité est un artefact de l'entrée corrompue et peut être exploitée constructivement pour l'atténuation plutôt que supprimée.
3. Stratégie d'Atténuation du Biais : Une nouvelle stratégie de décodage conditionné au sous-groupe est proposée, qui atteint une performance équitable sans étiquettes propres, surpassant les références d'équité existantes (Désbiaisage Adversarial, Alignement Invariant au Domaine, Régularisation d'Équité) qui échouent à traiter la cause racine du biais d'annotation.

Résultats

Le cadre a été évalué sur trois jeux de données :

• CelebAMask-HQ : Biais démographique contrôlé (érosion/dilatation appliquée aux masques femmes/hommes).
• PhC-U373 : Biais de style d'annotation semi-synthétique (contours détaillés vs grossiers).
• ISIC Skin Lesions : Biais clinique réel (sur-annotation systématique sur les tons de peau clairs).

Principales Constatations :

• Détection : Les métriques standard (Dice/IoU) échouent souvent à détecter le biais ou fournissent des diagnostics d'équité inversés (par exemple, le groupe ayant le Dice observé le plus élevé était en réalité le plus affecté par les erreurs d'annotation). En revanche, l'audit CL a correctement identifié le sous-groupe biaisé et la nature des erreurs (omission vs commission) sur tous les jeux de données, même sans étiquettes propres.
• Atténuation : Les méthodes traditionnelles basées sur l'invariance (Adversarial, MMD, CORAL) ont produit des améliorations négligeables, car elles suppriment le signal démographique sans corriger le style d'annotation sous-jacent. L'approche conditionnée au sous-groupe proposée a considérablement réduit les écarts de performance (par exemple, réduisant l'écart de Dice d'environ 12 % à environ 0,3 % sur CelebAMask-HQ à 100 % de biais) et a rétabli la symétrie des taux d'erreur.
• Séparabilité des Caractéristiques : Les expériences ont confirmé qu'à mesure que le biais d'étiquetage augmente, la séparabilité des sous-groupes dans l'espace des caractéristiques augmente de manière monotone, validant l'hypothèse que le biais corrompt l'espace de représentation.

Importance et Revendications

L'article prétend combler une lacune critique dans l'équité algorithmique pour la segmentation en déplaçant l'accent de l'équité centrée sur le modèle (en supposant des données propres) vers l'audit de biais centré sur les données. Il soutient que :

• Les métriques standard sont insuffisantes pour l'évaluation de l'équité en segmentation car elles masquent la nature directionnelle des erreurs d'annotation.
• Le biais d'étiquetage n'est pas simplement un bruit aléatoire mais une corruption géométrique systématique et conditionnelle au groupe qui altère l'espace de représentation du réseau.
• L'exploitation constructive de la séparabilité des sous-groupes via un décodage conditionnel est une stratégie d'atténuation plus efficace que la tentative d'imposer une invariance, ce qui peut entraîner une « nivellement par le bas » des performances.
• Le cadre proposé permet une détection et une atténuation fiables du biais dans des scénarios réels où la vérité terrain propre est indisponible, offrant une approche fondée sur des principes pour auditer les pipelines d'annotation dans des applications critiques pour la sécurité.

Les auteurs reconnaissent des limites, notant que l'audit est vulnérable à un biais uniforme extrême (100 %) où le désaccord entre les étiquettes observées et prédites diminue, et que la stratégie d'atténuation repose sur l'hypothèse qu'au moins un sous-groupe conserve des étiquettes relativement non biaisées. Des travaux futurs sont suggérés pour étendre le cadre aux opérations morphologiques non uniformes et à d'autres tâches de prédiction dense.