💬 NLP

Inclusion-of-Thoughts: Mitigating Preference Instability via Purifying the Decision Space

Ce papier propose Inclusion-of-Thoughts (IoT), une stratégie d'auto-filtrage progressive qui purifie l'espace décisionnel des questions à choix multiples en éliminant les distracteurs plausibles, afin de stabiliser les préférences des grands modèles de langage et d'améliorer leurs performances de raisonnement avec un coût computationnel minimal.

Auteurs originaux : Mohammad Reza Ghasemi Madani, Soyeon Caren Han, Shuo Yang, Jey Han Lau

Publié 2026-04-08

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Mohammad Reza Ghasemi Madani, Soyeon Caren Han, Shuo Yang, Jey Han Lau

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🧠 Le Problème : Le Dilemme du "Choix Impossible"

Imaginez que vous êtes un grand expert (un modèle d'intelligence artificielle) face à un questionnaire à choix multiples. La question est : "Où est-il plus facile de survivre ?"
Les options sont :
A) Seul
B) Dans l'océan
C) Dans une ville
D) Dans une grotte

Votre cerveau (l'IA) sait que la réponse est C (la ville). Mais il y a un petit problème : l'option D (la grotte) semble aussi très logique si l'on pense aux origines de l'homme.

C'est là que l'IA commence à hésiter. Elle oscille entre la ville et la grotte. Elle a peur de se tromper à cause des "fausses pistes" (les distracteurs). Au lieu de rester calme et de choisir la bonne réponse, elle panique un peu, change d'avis, et finit parfois par choisir la mauvaise, même si elle savait la bonne au début.

C'est ce que les chercheurs appellent l'instabilité des préférences : l'IA sait la réponse, mais les mauvaises options la perturbent trop.

💡 La Solution : L'Inclusion de Pensées (IoT)

Pour régler ce problème, les auteurs proposent une méthode intelligente appelée Inclusion-of-Thoughts (IoT).

Imaginez que l'IA est un juge dans un concours de beauté, mais qu'elle est très stressée par le nombre de candidates. La méthode IoT fonctionne en trois étapes simples, comme un filtre à café :

Étape 1 : Le Premier Tour (Le Choix Initial)

L'IA regarde toutes les options et dit : "Je pense que la réponse est C (la ville)."
C'est son premier instinct.

Étape 2 : Le "Deuxième Souffle" (Le Test de Réalité)

C'est ici que la magie opère. L'IA enlève son propre choix (la ville) de la liste et remplace par une option neutre : "Aucune des réponses ci-dessus".
Elle se pose alors la question : "Si la ville n'est pas là, quelle est la meilleure option restante ?"

Si l'IA répond "Aucune des réponses", cela signifie qu'elle est sûre à 100% que la ville était la seule bonne réponse. Elle arrête tout de suite le processus (elle a gagné !).
Si l'IA répond "La grotte", cela signifie qu'elle hésite encore entre la ville et la grotte.

Étape 3 : Le Duel Final (La Purification)

Si l'IA hésitait, on ne lui donne plus la liste complète avec 4 ou 5 options bruyantes. On lui donne seulement les deux meilleures candidates : La Ville vs La Grotte.
C'est comme si on éteignait le bruit de la foule et qu'on mettait les deux candidats face à face dans un silence absolu.
Dans ce cadre calme et contrôlé, l'IA peut enfin se concentrer et choisir la bonne réponse sans être distrait par les autres mauvaises options.

🌟 Pourquoi c'est génial ? (Les Analogies)

Le Nettoyage de la Chambre 🧹
Imaginez que vous cherchez une clé dans une chambre pleine de jouets, de vêtements et de papiers. C'est difficile. La méthode IoT consiste à enlever tout ce qui n'est pas une clé potentielle, jusqu'à ce qu'il ne reste que deux objets sur le lit. Trouver la bonne clé devient alors trivial.
Le Coach de Sport 🏃‍♂️
Un athlète qui court contre 10 concurrents peut se sentir submergé. Si le coach lui dit : "Oublie les 8 autres, concentre-toi juste sur ton rival direct, celui qui court à côté de toi", l'athlète court mieux. IoT fait exactement cela pour l'IA : il réduit le champ de vision pour augmenter la performance.
L'Économie d'Énergie ⚡
D'autres méthodes essayent de faire courir l'IA 10 fois et de prendre la réponse la plus fréquente (comme demander à 10 amis leur avis). C'est lent et coûteux. IoT, lui, est rapide. Il ne demande que 2 ou 3 fois à l'IA de réfléchir, mais de manière très intelligente. C'est comme un chirurgien qui fait une petite incision précise plutôt qu'une opération à cœur ouvert.

📊 Les Résultats

Les chercheurs ont testé cette méthode sur de nombreux sujets (mathématiques, logique, culture générale) avec différents modèles d'IA.

Résultat : L'IA devient beaucoup plus précise, surtout dans les questions difficiles où il y a beaucoup de pièges.
Coût : Cela ne demande pas beaucoup plus de temps de calcul que les méthodes habituelles. C'est efficace et économique.

En Résumé

Le papier dit essentiellement : "Ne laissez pas l'IA se noyer dans les mauvaises réponses. Enlevez le bruit, isolez les meilleures options, et laissez-la choisir dans le calme."

C'est une façon simple, mais très puissante, de rendre les intelligences artificielles plus stables et plus fiables, un peu comme donner un "deuxième souffle" à quelqu'un qui hésite avant de sauter.

1. Problématique : L'Instabilité des Préférences et la Charge Cognitive

Les modèles de langage (LLM) excellent dans de nombreuses tâches, mais leur capacité de raisonnement sur les questions à choix multiples (QCM) reste fragile. L'article identifie un problème central : l'instabilité des préférences.

Le Phénomène : Même lorsqu'un modèle possède la connaissance nécessaire et génère une chaîne de pensée (Chain-of-Thought ou CoT) correcte, sa prédiction finale peut osciller entre la bonne réponse et des distracteurs plausibles.
La Cause : Cette instabilité n'est pas due à un manque de connaissances, mais à une charge cognitive excessive induite par la présence de plusieurs options plausibles. Le modèle a du mal à maintenir sa préférence pour la bonne réponse face à des alternatives séduisantes, entraînant une instabilité dans le processus de décision.
Limites des approches existantes : Les méthodes actuelles pour améliorer le raisonnement (comme la cohérence automatique ou Self-Consistency, ou les recherches arborescentes) reposent souvent sur un échantillonnage massif ou des boucles de feedback complexes, ce qui augmente considérablement le coût computationnel sans nécessairement résoudre le problème de l'instabilité interne face aux distracteurs.

2. Méthodologie : Inclusion-of-Thoughts (IoT)

Les auteurs proposent Inclusion-of-Thoughts (IoT), une stratégie d'auto-filtrage progressive et légère conçue pour "purifier" l'espace de décision. Contrairement aux méthodes qui éliminent des options (Exclusion-of-Thoughts), IoT se concentre sur l'isolement et la comparaison des meilleures hypothèses du modèle.

Le processus se déroule en trois étapes (pipeline) :

Élicitation de la Préférence Initiale (Stage 1) :
- Le modèle reçoit la QCM originale avec toutes les options.
- Il génère une chaîne de pensée standard et sélectionne sa réponse la plus probable ( $o^*_1$ ).
Deuxième Évaluation de Plausibilité (Stage 2) :
- L'option choisie à l'étape 1 ( $o^*_1$ ) est retirée de l'ensemble des options et remplacée par un marqueur neutre ("aucune des options").
- Le modèle est interrogé à nouveau sur cet ensemble modifié.
- Objectif : Si $o^*_1$ était la réponse correcte et robuste, le modèle devrait sélectionner "aucune des options". S'il choisit une autre option ( $o^*_2$ ), cela indique une instabilité ou une confusion entre deux options plausibles.
Inférence Finale Contrainte (Stage 3) :
- Le système reconstruit une nouvelle QCM ne contenant que les deux options les plus plausibles identifiées ( $o^*_1$ et $o^*_2$ ).
- Le modèle effectue une comparaison finale directe entre ces deux seules options.
- Mécanisme d'arrêt anticipé (Early Stopping) : Si à l'étape 2, le modèle sélectionne "aucune des options", cela confirme la robustesse de $o^*_1$ . Le processus s'arrête immédiatement, évitant l'étape 3 et économisant des ressources.

Avantages clés de la méthode :

Zero-shot et non supervisé : Fonctionne avec des modèles pré-entraînés sans fine-tuning ni annotation humaine.
Efficacité computationnelle : Nécessite environ 2,2 fois plus de tokens qu'un CoT standard (contre 4,6 fois pour la cohérence automatique), grâce à l'arrêt anticipé.
Interprétabilité : Documente explicitement le processus de filtrage, rendant le raisonnement plus transparent.

3. Contributions Clés

Proposition d'IoT : Un cadre de test léger et zero-shot qui améliore le raisonnement en QCM en isolant et en comparant les candidats à haute confiance, plutôt qu'en élargissant l'espace de recherche par échantillonnage.
Nouvelle Perspective sur le Raisonnement : Démontre que de nombreuses erreurs en QCM proviennent de l'instabilité des préférences entre options plausibles, et non d'un manque de raisonnement ou de connaissances.
Analyse de Transition : Introduit une analyse fine des transitions de prédiction (ex: TTT, FTT, TFF) pour diagnostiquer pourquoi un modèle passe d'une réponse correcte intermédiaire à une réponse finale incorrecte.
Validation Empirique : Démonstration que IoT améliore systématiquement la précision par rapport aux bases de référence (baselines) sur des tâches arithmétiques, de bon sens et éducatives, avec un surcoût minimal.

4. Résultats Expérimentaux

Les expériences ont été menées sur plusieurs modèles (Llama-3.3-8B, Olmo-2-7B/13B, GPT-4o-mini) et divers benchmarks (CommonsenseQA, OpenbookQA, ARC, MMLU, GSM8K-MC, AQuA).

Amélioration de la Précision : IoT surpasse systématiquement le CoT standard et la cohérence automatique (SC) sur la plupart des tâches.
- Exemple : Avec Olmo-2-7B, IoT atteint de nouveaux niveaux d'état de l'art (SOTA) sur des tâches de raisonnement de bon sens, avec des gains significatifs : +3,40 % sur OBQA, +2,05 % sur CSQA, et +3,95 % sur GSM8K-MC.
Robustesse : IoT réduit la sensibilité des modèles à l'ordre des options (un biais connu des LLM), indiquant une structure de préférence plus stable.
Analyse des Transitions :
- L'analyse montre que l'amélioration provient principalement de la conversion d'erreurs de type FTT (Faux -> Faux -> Vrai) en réponses correctes, où le modèle avait initialement identifié la bonne réponse mais a échoué à la maintenir.
- Le cadre permet également d'identifier des cas d'ambiguïté dans les jeux de données (où plusieurs réponses pourraient être valides) ou des erreurs d'étiquetage (Ground Truth erronées).
Coût-Bénéfice : Bien que SC offre parfois de meilleurs résultats sur les tâches mathématiques pures (grâce à la diversité des chemins de raisonnement), IoT offre un compromis bien meilleur entre performance et coût computationnel, surtout sur les tâches de raisonnement complexe et de bon sens.

5. Signification et Conclusion

L'article Inclusion-of-Thoughts apporte une contribution majeure en redéfinissant la manière d'aborder les échecs de raisonnement des LLM sur les QCM. Au lieu de simplement générer plus de raisonnements ou de chercher plus profondément, IoT propose de purifier l'espace de décision pour réduire la charge cognitive liée aux distracteurs.

Implications :

Efficacité : C'est une méthode scalable et peu coûteuse pour améliorer les performances des modèles sans réentraînement.
Diagnostic : Elle sert d'outil de diagnostic pour évaluer la stabilité des modèles et la qualité des jeux de données (détection d'ambiguïtés).
Futur : L'approche suggère que la stabilité des préférences est un indicateur clé de la fiabilité du raisonnement, ouvrant la voie à de nouvelles méthodes de vérification et de stabilisation des décisions des IA.

En résumé, IoT transforme le problème de la sélection d'options en un processus de filtrage contrôlé, permettant aux modèles de se concentrer sur leurs hypothèses les plus fortes et de prendre des décisions plus stables et interprétables.