💬 NLP

COFT: Counterfactual-Conformal Decoding for Fair Chain-of-Thought Reasoning in Large Language Models

COFT est une méthode sans entraînement, appliquée lors du décodage, qui réduit les biais sociétaux dans le raisonnement par chaîne de pensée des grands modèles de langage en combinant la fusion de logits contrefactuels avec l'étalonnage conforme, parvenant ainsi à une réduction significative des biais tout en préservant l'utilité de la tâche et sans nécessifier de réentraînement du modèle.

Auteurs originaux : Arya Fayyazi, Mehdi Kamal, Massoud Pedram

Publié 2026-06-01

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Arya Fayyazi, Mehdi Kamal, Massoud Pedram

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un bibliothécaire très intelligent et érudit (le Grand Modèle de Langage) qui vous aide à écrire des histoires, à répondre à des questions ou à résoudre des problèmes. Ce bibliothécaire a lu des millions de livres sur Internet. Bien qu'il soit incroyablement cultivé, il a également absorbé certains des stéréotypes injustes et désordonnés présents dans ces livres (comme penser que certains métiers sont réservés aux hommes, ou porter des jugements sur les gens en fonction de leur nom).

Lorsque vous demandez au bibliothécaire de « réfléchir à voix haute » (raisonnement par chaîne de pensée ou Chain-of-Thought) avant de donner une réponse, il peut accidentellement murmurer ces stéréotypes injustes dans son processus de réflexion, même si la réponse finale semble correcte.

COFT (Chaîne de Pensée Équitable ou Chain of Fair Thought) est un nouveau système de « policier de la circulation » qui se tient aux côtés du bibliothécaire pendant qu'il réfléchit. Il ne réentraîne pas le bibliothécaire et ne modifie pas son cerveau ; il surveille simplement ce qu'il s'apprête à dire et l'oriente doucement vers des choix plus équitables en temps réel.

Voici comment fonctionne COFT, décomposé en trois étapes simples à l'aide d'une analogie créative :

L'analogie : La cuisine du « Double Vérification »

Imaginez que le bibliothécaire est un chef préparant un plat complexe (la réponse). Parfois, la recette appelle un ingrédient qui représente un sujet sensible (comme une nationalité ou un genre spécifique). Si le chef utilise cet ingrédient, le plat pourrait avoir un goût biaisé.

COFT agit comme un chef jumeau travaillant dans une cuisine parallèle.

Étape 1 : Le test du « Bandeau » (Masquage Contrefactuel)

Avant que le chef principal n'écrive le mot suivant de la recette, COFT crée une version « masquée » de l'instruction (prompt).

Monde réel : L'instruction dit : « L'infirmière (qui est une femme) a terminé ses tournées... »
Version masquée de COFT : Elle remplace le mot sensible « femme » par un espace réservé neutre comme [MASQUE]. Cela devient : « L'infirmière (qui est [MASQUE]) a terminé ses tournées... »

Le système fait maintenant tourner le cerveau du bibliothécaire deux fois : une fois avec le mot réel, et une fois avec le mot masqué. C'est comme demander au chef : « Si je ne connaissais pas le genre, choisiriez-vous toujours ce prochain ingrédient ? »

Étape 2 : Le « Mélangeur » (Fusion de Logits)

Le système prend les deux listes de mots potentiels suivants (une provenant de l'instruction réelle, et une de l'instruction masquée) et les mélange.

Si l'instruction réelle suggère fortement un mot biaisé (par exemple, « infirmière » + « elle »), mais que l'instruction masquée suggère un mot neutre, le « mélangeur » les combine.
Cela crée une liste de compromis où les options injustes ou biaisées sont diminuées, et les options neutres sont augmentées. C'est comme mélanger une sauce forte et épicée avec une sauce douce pour obtenir une saveur qui n'est pas trop extrême.

Étape 3 : La « Porte de Sécurité » (Filtrage Conforme)

C'est la partie la plus unique. COFT ne se contente pas de deviner ; il utilise une « porte de sécurité » mathématique appelée Prédiction Conforme (Conformal Prediction).

Imaginez un agent de sécurité à la porte de la cuisine. Cet agent a une règle précalculée : « Ne laissez passer des ingrédients que si le chef réel et le chef masqué sont tous deux d'accord sur leur innocuité. »
Si un mot est seulement populaire dans la version biaisée mais peu populaire dans la version neutre, l'agent le bloque.
Si un mot est populaire dans les deux versions, il reçoit le feu vert.

Cela donne une garantie statistique : COFT peut promettre : « Nous sommes sûrs à 95 % que le mot que nous venons de laisser passer est équitable, quels que soient les détails sensibles de l'instruction. »

Pourquoi est-ce une avancée majeure ?

Pas de chirurgie cérébrale : La plupart des méthodes pour corriger les biais nécessitent de « réentraîner » le modèle, ce qui revient à renvoyer le bibliothécaire à l'école pendant des années pour qu'il désapprenne ses mauvaises habitudes. COFT est sans réentraînement (training-free). Il fonctionne sur le modèle exactement tel qu'il est, dès maintenant.
Pas de cerveaux supplémentaires : Certaines méthodes nécessitent l'embauche d'une seconde IA (un classificateur) pour vérifier les biais. COFT n'a pas besoin d'une seconde IA ; il utilise simplement le « jumeau » du bibliothécaire (la version masquée) pour effectuer la vérification.
Il préserve l'essentiel : L'article montre que si COFT élimine le biais (en le réduisant de 30 à 55 %), il ne gâche pas la qualité des réponses. Le bibliothécaire résout toujours les problèmes mathématiques et écrit de bonnes histoires aussi bien qu'auparavant.
C'est auditable : Parce que COFT prend une décision claire, étape par étape, sur chaque mot, vous pouvez consulter les journaux (logs) et voir exactement pourquoi un mot a été choisi ou rejeté. Ce n'est pas une « boîte noire ».

Le Coût

Le seul inconvénient est la vitesse. Comme COFT doit faire tourner le modèle deux fois (une fois pour l'instruction réelle, une fois pour l'instruction masquée) puis mélanger les résultats, cela prend un peu plus de temps — l'équivalent d'ajouter une étape supplémentaire au processus de cuisson (environ 10 % plus lent). Cependant, l'article soutient que ce faible coût en vaut la peine pour la sécurité et l'équité qu'il apporte.

En résumé

COFT est un filtre d'équité en temps réel qui se tient entre vous et l'IA. Il demande à l'IA d'imaginer un monde où les détails sensibles (comme la race ou le genre) sont cachés, compare cette imagination à la réalité, et ne permet à l'IA de prononcer que des mots qui font sens dans les deux mondes. Il garantit que le « processus de pensée » de l'IA reste équitable sans avoir besoin de réentraîner l'IA ou d'embaucher des assistants supplémentaires.

Résumé Technique : COFT (Counterfactual-Conformal Decoding for Fair Chain-of-Thought Reasoning)

1. Énoncé du Problème

Les grands modèles de langage (LLM) entraînés sur des corpus web intériorisent et amplifient souvent les biais sociétaux, particulièrement lors de la génération de chaînes de pensée (Chain-of-Thought, CoT). Bien que la sortie finale d'un modèle puisse paraître neutre, les étapes de raisonnement intermédiaires peuvent révéler des associations préjudiciables jeton par jeton. Les stratégies de mitigation existantes font face à des limitations significatives :

Les méthodes au moment de l'entraînement (ex: fine-tuning, RLHF, curation de données) sont coûteuses en calcul, nécessitent l'accès aux poids du modèle et risquent de dégrader les performances sur le domaine général ou d'encoder les biais des annotateurs.
Le pilotage au moment de l'inférence (ex: utilisation de classifieurs auxiliaires ou d'ensembles d'experts) introduit de la latence, repose sur les angles morts des classifieurs externes et manque de garanties statistiques rigoureuses.
La correction de l'espace de représentation (ex: projection dans le noyau nul/nullspace projection) applique souvent des corrections globales et indépendantes du prompt, ce qui peut supprimer des sémantiques légitimes dépendantes du contexte et échouer à capturer les manifestations non linéaires des biais.

Crucialement, les approches actuelles manquent de garanties statistiques par étape au moment du décodage. Elles ne spécifient pas quels jetons peuvent être émis en toute sécurité tout en maintenant le risque de biais sous contrôle, ni n'imposent une parité contrefactuelle locale (stabilité de la sortie sous des changements hypothétiques des segments sensibles dans le prompt) à chaque étape de décodage.

2. Méthodologie : COFT

COFT (Chain of Fair Thought) est un cadre de décodage sans entraînement, uniquement à l'inférence, conçu pour imposer l'équité contrefactuelle pour des modèles de langage causaux gelés. Il opère en trois étapes distinctes :

Étape I : Masquage Contrefactuel

COFT construit une version « masquée » du prompt d'entrée, $\hat{p}$ , en remplaçant les segments sensibles (ex: genre, race, identifiants religieux) par des jetons sentinelles neutres (ex: [MASK]).

Implémentation : L'opérateur de masquage est déterministe et préserve la longueur. Si un segment sensible se segmente en $k$ jetons, il est remplacé par $k$ jetons sentinelles. Cela garantit que les branches factuelle et masquée restent parfaitement alignées en position absolue, permettant des comparaisons valides de logits à des préfixes autoregressifs identiques.
Exécution à double branche : Le modèle $f_\theta$ est exécuté deux fois en parallèle : une fois sur le prompt factuel $p$ et une fois sur le prompt masqué $\hat{p}$ , conditionné par le même préfixe généré $w_{<t}$ .

Étape II : Fusion de Logits Contrefactuelle

Pour atténuer les biais liés aux attributs, COFT effectue une interpolation convexe des distributions de logits des branches factuelle ( $z^F_t$ ) et masquée ( $z^{CF}_t$ ) :
$\tilde{z}_t = (1 - \lambda) z^F_t + \lambda z^{CF}_t$
où $\lambda \in [0, 1]$ est un paramètre de fusion ajustable.

Effet : Cette opération crée un mélange géométrique des deux distributions de probabilité. Théoriquement, elle interpole linéairement les log-odds entre les jetons, « aveuglant » efficacement le modèle aux attributs sensibles tout en préservant les régions de haute probabilité de la distribution. Cette fusion se produit avant la certification pour s'assurer que l'étape de filtrage ultérieure opère sur des distributions qui s'accordent déjà sur leurs régions de masse élevée.

Étape III : Filtrage Split-Conformal à Double Branche

COFT applique une procédure de prédiction split-conformal (CP) pour certifier un ensemble de jetons candidats à chaque étape $t$ .

Score de non-conformité : Un score est défini pour chaque jeton $v$ basé sur la probabilité minimale qu'il détient dans la distribution fusionnée factuelle ( $\tilde{\pi}_t$ ) et la distribution masquée ( $\pi^{CF}_t$ ) :
$s_t(v) = 1 - \min\{ \tilde{\pi}_t(v), \pi^{CF}_t(v) \}$
Calibration : Hors ligne, sur un ensemble de calibration disjoint, le quantile $(1-\alpha)$ de ces scores $q_t$ est calculé.
Certification : Au moment du test, un jeton est admis dans l'ensemble candidat $C_t$ uniquement si son score est inférieur au seuil ( $s_t(v) \le q_t$ ), ce qui équivaut à exiger que le jeton ait une probabilité suffisante dans les vues factuelle et masquée simultanément.
Échantillonnage : Le jeton final est échantillonné à partir de la distribution fusionnée $\tilde{\pi}_t$ restreinte à l'ensemble certifié $C_t$ . Si $C_t$ est vide (un événement rare), un repli déterministe (ex: argmax) est utilisé.

3. Contributions Clés

Décodage Équitable Sans Entraînement : COFT fournit un mécanisme pour imposer l'équité sur des LLM gelés sans réentraînement, accès aux gradients ou classifieurs auxiliaires.
Garanties Marginales par Étape : Contrairement aux méthodes précédentes, COFT offre des garanties de validité marginales, indépendantes de la distribution (sous l'hypothèse d'échangeabilité) pour la stabilité des jetons émis. Il certifie que le véritable jeton suivant est inclus dans l'ensemble candidat avec une probabilité d'au moins $1-\alpha$ .
Parité Contrefactuelle Locale : La méthode opérationnalise l'équité contrefactuelle au niveau du jeton, garantissant que le processus de décodage reste stable lorsque les attributs sensibles dans le prompt sont hypothétiquement modifiés.
Architecture à Double Branche : En fusionnant les logits et en exigeant un support conjoint des vues factuelle et masquée, COFT atténue efficacement les biais tout en préservant l'utilité de la tâche.

4. Résultats Expérimentaux

Les auteurs ont évalué COFT sur six modèles (incluant LLaMA-2, Mistral, Mixtral et Qwen2) et plusieurs benchmarks de biais (StereoSet, CrowS-Pairs, BBQ, BOLD, Utrecht, COMPAS) ainsi que des tâches d'utilité standard (GSM8K, StrategyQA, ARC-easy, PIQA).

Mitigation des Biais : COFT a réduit les métriques de biais standard de 30 à 55 % (médiane de 38 %) par rapport au décodage vanilla et a surpassé les bases d'inférence fortes (ex: Self-Debiased Decoding, DExperts, Dual-Threshold Conformal Decoding). Par exemple, sur le jeu de données BBQ, la réduction du biais a atteint 34–41 %.
Préservation de l'Utilité : La précision des tâches sur les benchmarks de raisonnement et de QA est restée inchangée dans les marges de bruit d'exécution (différences $\le 0,2$ points). Les métriques de qualité du langage (Perplexity, MAUVE) sont indiscernables du décodage vanilla.
Efficacité : Le surcoût computationnel est modeste, équivalent à un passage forward supplémentaire mis en cache par étape. Le débit est réduit d'environ 10 à 25 %, et l'augmentation de la mémoire de pointe est négligeable ( $\le 0,8$ Go).
Ablations : Supprimer la fusion de logits a entraîné un biais résiduel plus élevé, confirmant que la fusion est le mécanisme principal d'atténuation des log-odds induits par les attributs. Supprimer le filtre conformal à double branche a entraîné une perte des garanties de stabilité contrefactuelle.

5. Signification et Revendications

L'article positionne COFT comme une voie claire et auditable vers une génération de CoT plus sûre. Sa principale importance réside dans la fourniture de limites de sécurité vérifiables pour les modèles gelés sans les coûts de calcul prohibitifs du réentraînement.

Sécurité Auditable : En fournissant des garanties marginales par étape, COFT permet aux praticiens de déployer des modèles dans des domaines sensibles (ex: santé, juridique, recrutement) avec une mesure quantifiée du risque.
Robustesse : La méthode est robuste aux changements de distribution (avec une dégradation gracieuse de la couverture basée sur les rapports de densité) et maintient ses performances à travers diverses architectures de modèles.
Limites : Les auteurs notent modestement que les interventions algorithmiques ne sont pas une panacée. Les garanties reposent sur la définition spécifique des attributs sensibles et sur l'hypothèse d'échangeabilité entre les données de calibration et de test. De plus, le décodage à double branche introduit une latence d'inférence, qui doit être pesée face aux bénéfices de la réduction des biais. La méthode est plus appropriée pour les scénarios où la trace de raisonnement elle-même doit être auditable.

En résumé, COFT démontre qu'il est possible de réduire significativement les biais sociétaux dans les traces de raisonnement des LLM tout en préservant l'utilité, via une procédure légère, sans entraînement et fondée sur la théorie de la prédiction conforme.