Mitigating Bias in Concept Bottleneck Models for Fair and Interpretable Image Classification

Cet article propose trois techniques de mitigation de biais pour améliorer l'équité des modèles à goulot d'entité conceptuelle (CBM) en réduisant les fuites d'informations, en supprimant les concepts biaisés et en appliquant un débiasage adversarial, surpassant ainsi les travaux antérieurs en matière de compromis entre équité et performance.

L'essentiel

🎨 Le Problème : Le Peintre Trop Curieux

Imaginez que vous avez un artiste (une intelligence artificielle) dont le travail est de décrire ce qui se passe sur une photo. Par exemple, dire si quelqu'un est en train de cuisiner, de danser ou de jouer au football.

Le problème, c'est que cet artiste a tendance à être un peu trop curieux. Au lieu de se concentrer uniquement sur l'action (la cuisson), il regarde aussi les détails de la personne : la couleur de sa peau, ses vêtements, ou même s'il porte une cravate ou une jupe.

• Le risque : Si l'artiste apprend que "les hommes cuisinent souvent avec un tablier rouge" et "les femmes avec un tablier bleu", il va commencer à deviner le genre de la personne plutôt que l'action réelle. C'est ce qu'on appelle un biais. Il devient injuste et fait des erreurs de jugement basées sur des stéréotypes.

🛠️ La Solution Initiale : Le "Filtre à Concepts" (CBM)

Pour régler ça, les chercheurs ont créé un système appelé Modèle à Goulot d'Étranglement de Concepts (Concept Bottleneck Model).

Imaginez que cet artiste ne peut plus parler directement de la photo. Il doit d'abord passer par un intermédiaire (le goulot).

1. L'artiste regarde la photo.
2. Il doit décrire l'image en utilisant une liste de mots simples et clairs (des "concepts") : "Il y a une casserole", "Il y a une cuisinière", "Il y a une spatule".
3. Ce n'est qu'après avoir listé ces objets que le système décide : "Ah, c'est de la cuisine !"

L'idée géniale : En forçant l'IA à utiliser des mots comme "casserole" au lieu de "homme en tablier rouge", on espère qu'elle oubliera les détails sensibles (le genre) et se concentrera sur l'action. C'est comme si on lui disait : "Ne me parle pas de la personne, parle-moi seulement de ce qu'elle fait."

⚠️ Le Problème Caché : La "Fuite d'Information"

Mais les chercheurs ont découvert une surprise désagréable. Même si l'artiste utilise des mots simples comme "casserole", son cerveau (le modèle mathématique) a encore des fuites.

C'est comme si l'artiste disait "casserole", mais qu'en réalité, il pensait secrètement : "C'est une casserole, et comme c'est une casserole de ce type, c'est forcément un homme qui la tient."
Le système a appris à cacher des indices sur le genre à l'intérieur même des concepts. C'est ce qu'on appelle la fuite d'information. Le modèle est toujours un peu injuste, même avec le filtre.

🚀 Les 3 Astuces pour Réparer le Système

Pour nettoyer vraiment le système, les chercheurs ont testé trois méthodes, comme trois outils différents dans une boîte à outils :

1. Le Filtre "Top-K" (La Sélection Rigoureuse) 🧐

Au lieu de laisser l'artiste utiliser tous les mots possibles (même les plus faibles), on lui dit : "Utilise seulement les 100 mots les plus importants pour décrire cette image."

• L'analogie : Imaginez que vous devez décrire un crime à la police. Au lieu de donner une liste de 1000 détails (la couleur des chaussettes, le bruit du vent, etc.), vous ne donnez que les 10 indices les plus cruciaux.
• Résultat : Cela force le modèle à se concentrer sur l'essentiel et réduit les "chuchotements" secrets sur le genre. C'est très efficace !

2. Chasser les Mots Biaisés (Le Nettoyage) 🧹

Ils ont essayé de repérer les mots qui sont trop liés au genre (comme "cravate" pour les hommes ou "robe" pour les femmes) et de les supprimer de la liste.

• Le problème : C'est comme essayer de vider un seau percé avec une cuillère. Même si on enlève le mot "cravate", le modèle trouve un autre moyen de deviner le genre en utilisant d'autres mots subtils. Cela ne suffit pas tout seul.

3. L'Entraînement "Adversaire" (Le Juge Sévère) ⚖️

C'est la méthode la plus puissante. Ils ont créé un deuxième petit modèle, un "juge", dont le seul travail est de deviner le genre de la personne à partir de la description de l'artiste.

• Le jeu : L'artiste essaie de décrire l'action (cuisiner) le mieux possible, mais le juge essaie de deviner le genre. L'objectif de l'artiste est de tromper le juge tout en restant précis sur l'action.
• Résultat : L'artiste apprend à décrire l'action sans laisser aucune trace du genre. C'est comme apprendre à un magicien à faire un tour de magie sans que le public ne puisse deviner son secret.

🏆 Le Résultat Final : Le Meilleur des Mondes

En combinant le Filtre Top-K (pour ne garder que l'essentiel) et l'Entraînement Adversaire (pour tromper le juge du genre), les chercheurs ont obtenu un système :

1. Plus juste : Il fait beaucoup moins d'erreurs basées sur le genre (réduction de 28% du biais).
2. Plus clair : On peut voir exactement quels mots il a utilisés pour prendre sa décision (on sait qu'il a vu une "casserole" et non un "homme").
3. Presque aussi performant : Il ne perd que très peu en précision par rapport aux systèmes "boîte noire" habituels.

💡 En Résumé

Ce papier nous dit qu'on ne peut pas juste "cacher" les détails sensibles et espérer que l'IA devienne juste. Il faut lui apprendre activement à ignorer ces détails tout en restant performant. Grâce à ces nouvelles techniques, nous avons un outil qui est à la fois intelligent, juste et transparent, comme un bon juge qui explique toujours ses décisions.

Résumé technique

---

1. Problématique

Les systèmes de vision par ordinateur, bien que performants, perpétuent et amplifient souvent des biais existants (par exemple, associer certaines professions à un genre spécifique). Bien que les modèles de goulot d'étranglement conceptuel (CBM - Concept Bottleneck Models) soient conçus pour être interprétables en mappant les images vers des concepts humains avant la prédiction, ils ne sont pas intrinsèquement équitables.

Le problème central identifié par les auteurs est le fuites d'information (information leakage) : les vecteurs d'activation des concepts dans les CBM codent souvent des informations cachées non liées à la sémantique du concept, y compris des attributs sensibles (comme le genre). Cela crée un compromis difficile entre équité, interprétabilité et performance. Pour obtenir une forte performance, le modèle a besoin de nombreux concepts, mais cela augmente la fuite d'informations sensibles, rendant le modèle moins équitable et plus difficile à interpréter.

2. Méthodologie

Les auteurs ont évalué leurs approches sur le jeu de données ImSitu (reconnaissance d'actions), qui contient des étiquettes de vérité terrain pour le genre. Ils ont utilisé une version modifiée du cadre Label-free CBM, exploitant GPT-3 pour générer les concepts et CLIP (Contrastive Language-Image Pre-Training) pour l'inférence des concepts et l'encodage des images.

Trois architectures de base ont été comparées :

1. CLIP-ZS : Apprentissage zéro-shot direct via CLIP.
2. CLIP-DNN : Un réseau de neurones profond entraîné sur les embeddings d'images de CLIP (boîte noire).
3. CLIP-CBM : Le modèle à goulot d'étranglement utilisant les concepts CLIP.

Pour atténuer les biais, trois techniques spécifiques ont été proposées et testées :

A. Réduction des fuites d'information (Top-k Concept Filter)

Au lieu de se fier uniquement à la régularisation par parcimonie (sparsity) qui force le modèle à utiliser peu de concepts, les auteurs proposent un filtre top-k.

• Principe : Pour chaque image, seules les $k$ activations de concepts les plus élevées sont conservées ; le reste est mis à zéro.
• Avantage : Cela imite le modèle mental humain (se concentrer sur les caractéristiques saillantes) et réduit la capacité du modèle à apprendre des distributions cachées liées aux attributs sensibles via les concepts à faible activation. Cette méthode ne nécessite pas d'étiquettes d'attributs sensibles pour le débogage.

B. Suppression des concepts biaisés

Cette technique vise à éliminer les concepts qui servent de proxies aux attributs sensibles.

• Approches testées :
  1. Entraîner le CBM à prédire le genre et supprimer les concepts ayant les poids les plus élevés.
  2. Utiliser un LLM pour auto-évaluer le degré d'association des concepts avec le genre et supprimer ceux au-dessus d'un seuil.
• Limitation observée : La simple suppression des concepts pendant l'entraînement échoue car le modèle réapprend à fuiter l'information via d'autres concepts. La suppression doit donc être appliquée dynamiquement au moment de l'inférence (en mettant à zéro les activations des concepts supprimés).

C. Déboguage Adversarial (Adversarial Debiasing)

Une méthode d'optimisation multi-objectifs appliquée à la couche finale du CBM.

• Mécanisme : Le modèle est entraîné pour maximiser la précision de la tâche principale (classification d'actions) tout en minimisant la capacité d'un adversaire à prédire l'attribut sensible (genre) à partir des sorties du modèle.
• Avantage : Contrairement aux modèles boîte noire, le CBM permet d'observer comment les poids des concepts changent, offrant une transparence sur le processus de réduction des biais.

3. Résultats Clés

Les expériences ont été évaluées sur la base du compromis Performance-Équité, mesuré par l'amplification du biais (Bias Amplification) et la précision (Accuracy).

• Comparaison initiale : Le CBM (CLIP-CBM) est plus équitable et interprétable que le DNN (CLIP-DNN), mais légèrement moins précis. Cependant, il présente encore une amplification de biais significative due aux fuites d'information.
• Filtre Top-k : Cette méthode surpasse la régularisation par parcimonie classique. Un modèle avec $k=1000$ atteint une précision proche du DNN tout en ayant une amplification de biais plus faible. Un $k$ plus petit (ex: 30) offre un meilleur compromis équité/précision que la parcimonie pure.
• Suppression de concepts : Seule la suppression au moment de l'inférence (et non pendant l'entraînement) a montré des résultats modestes (réduction de 0,3% à 0,5% de l'amplification du biais), confirmant que la sémantique des concepts joue un rôle moins déterminant que les fuites d'information latentes.
• Déboguage Adversarial : C'est la méthode la plus efficace. Appliquée sur le modèle avec filtre top-k, elle réduit l'amplification du biais de 28 % avec une perte de précision négligeable.
• Interprétabilité : L'analyse des changements de poids des concepts après déboguage adversarial montre que le modèle réduit l'importance des concepts corrélés au genre (ex: "cravate", "robe") tout en maintenant les concepts pertinents pour la tâche (ex: "poêle", "cuisine").

4. Contributions Principales

1. Identification du compromis fondamental : Démonstration que dans les CBM, l'interprétabilité et la performance entrent en conflit avec l'équité en raison des fuites d'information dans les vecteurs de concepts.
2. Nouvelles techniques de mitigation :
   • Introduction du filtre top-k pour réduire les fuites sans nécessiter d'étiquettes sensibles.
   • Démonstration que la suppression de concepts doit être appliquée dynamiquement à l'inférence.
   • Intégration réussie du déboguage adversarial dans l'architecture CBM.
3. Transparence du processus de déboguage : Contrairement aux approches boîte noire, la méthode proposée permet de visualiser comment les biais sont atténués en observant les modifications des contributions des concepts.

5. Signification et Conclusion

Ce travail marque une avancée significative vers une classification d'images à la fois équitable et interprétable. Les auteurs démontrent que les CBM, lorsqu'ils sont combinés à des techniques de réduction des fuites d'information (filtre top-k) et d'optimisation adversariale, surpassent les méthodes précédentes en termes de compromis équité-performance.

L'approche est particulièrement pertinente car elle peut fonctionner sans étiquettes d'attributs sensibles (grâce au filtre top-k), ce qui est crucial pour les applications réelles où ces données sont rares, coûteuses ou sujettes à des biais humains. En fin de compte, la combinaison d'un filtre top-k et d'un déboguage adversarial offre une voie prometteuse pour créer des modèles de vision par ordinateur qui ne perpétuent pas les stéréotypes sociétaux tout en restant compréhensibles par les humains.