💬 NLP

REFACT: Adaptive Fact Restatement for Compact and Faithful Chain-of-Thought Reasoning

L'article présente REFACT, un cadre de reformulation de faits adaptatif qui optimise les grands modèles de langage via un pipeline d'entraînement enseignant-élève pour générer un raisonnement de type chaîne de pensée concis, fidèle et bien ancré en ne reformulant sélectivement les faits sources que lorsque cela est nécessaire.

Auteurs originaux : Zhensheng Jin, Xin Dai, Zhenghao Liu, Chaojun Xiao, Huiyuan Xie, Yu Gu, Ge Yu, Maosong Sun

Publié 2026-07-30

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Zhensheng Jin, Xin Dai, Zhenghao Liu, Chaojun Xiao, Huiyuan Xie, Yu Gu, Ge Yu, Maosong Sun

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez un détective tentant de résoudre un mystère, mais qu'au lieu d'un indice unique, on vous remette une bibliothèque entière de livres, dont certains traitent de votre affaire et d'autres sont de simples histoires aléatoires sur des chats ou de la cuisine. C'est le monde des Grands Modèles de Langage (LLM) lorsqu'ils sont confrontés au raisonnement sur contexte long. Ce sont des programmes informatiques super intelligents capables de lire et de comprendre de vastes quantités de texte. Cependant, ils ont une habitude délicate : parfois, au lieu de s'en tenir aux indices qui sont juste devant eux, ils s'appuient sur ce qu'ils se « rappellent » de leur entraînement ou se laissent distraire par les histoires non pertinentes de la bibliothèque. Cela mène à des hallucinations, où le modèle invente des faits ou ignore la vérité. Pour corriger cela, les chercheurs ont tenté de faire en sorte que ces modèles « citent » leurs sources, comme un étudiant rédigeant un mémoire. Mais les méthodes précédentes étaient souvent maladroites, soit en ajoutant une liste de sources tout à la fin (comme une fiche de triche que l'on ne consulte qu'après l'examen), soit en forçant le modèle à copier-coller de gros blocs de texte chaque fois qu'il avance un argument, ce qui rend le processus de réflexion lent et désordonné.

Entrez en scène ReFact, une nouvelle méthode conçue pour apprendre à ces détectives IA à être plus intelligents, plus rapides et plus honnêtes. Considérez ReFact comme un programme d'entraînement qui enseigne à l'IA non seulement quoi lire, mais aussi quand consulter ses notes et combien écrire. Au lieu de copier aveuglément des pages entières ou d'ignorer totalement la bibliothèque, ReFact apprend au modèle à faire une pause, à saisir uniquement la phrase ou l'expression spécifique dont il a besoin pour prouver sa prochaine étape, puis à passer immédiatement à la suite. C'est la différence entre un étudiant qui recopie frénétiquement tout le manuel dans son livret d'examen et un professionnel qui sait exactement quelles trois lignes citer pour obtenir la note maximale. L'article suggère qu'en apprenant à l'IA à être sélective et adaptative avec ses citations, elle peut résoudre des questions complexes plus précisément, éviter d'inventer des choses, et ce, tout en utilisant beaucoup moins de mots qu'auparavant.

Le Problème : Le dilemme du « Trop ou Pas assez »

Imaginez que vous essayiez de construire une tour de blocs, mais qu'à chaque fois que vous ajoutez un nouveau bloc, vous soyez obligé de coller l'intégralité de la tour précédente au nouveau. C'est ce qui arrive lorsque les modèles d'IA tentent de raisonner à travers de longs documents en utilisant les anciennes méthodes. Ils font soit :

Ignorer les preuves : Ils devinent en se basant sur ce qu'ils « savent » déjà, même si le document dit quelque chose de différent.
Sur-citer : Ils copient et collent d'énormes segments du document dans leur processus de réflexion, rendant leurs « pensées » incroyablement longues, répétitives et lentes.

Les auteurs ont constaté que les méthodes existantes traitent souvent les citations comme un post-it collé au dos de la réponse, plutôt que comme une partie vitale du processus de réflexion lui-même. Cela signifie que l'IA peut dire la bonne chose mais échouer à prouver pourquoi elle est correcte en utilisant le texte spécifique fourni.

La Solution : ReFact (Adaptive Fact Restatement)

ReFact est comme un coach intelligent qui apprend à l'IA à être un « minimaliste des faits ». Il ne se contente pas de dire : « Cite tes sources ! ». Il enseigne à l'IA à se demander : « Ai-je besoin de citer ceci en ce moment ? Et si oui, ai-je besoin de tout le paragraphe, ou juste de ce mot ? »

Le processus fonctionne en deux étapes principales, comme une relation maître-apprenti :

L'étape du Professeur : Une IA très puissante (le « professeur ») examine une question et un document long. Elle détermine exactement les minuscules morceaux d'information nécessaires pour résoudre l'énigme. Elle rédige ensuite un « chemin de raisonnement » où elle reformule explicitement uniquement les faits nécessaires, en les étiquetant clairement (comme <preuve 1>) et en expliquant comment ils se connectent à l'étape suivante. C'est comme un grand chef montrant à son apprenti exactement quelle pincée de sel ajouter, plutôt que de verser tout le rayon des épices dans la marmite.
L'étape de l'Étudiant : Une IA plus petite et plus rapide (l'« étudiant ») apprend à partir de ces exemples parfaits. Elle pratique cette compétence à travers deux phases : d'abord, elle imite le style du professeur (Apprentissage Supervisé par Affinement / Supervised Fine-Tuning), puis elle joue à un jeu où elle reçoit des « points » (récompenses) pour être précise, rester fidèle à la source et garder son raisonnement court et efficace (Apprentissage par Renforcement / Reinforcement Learning).

Ce qu'ils ont trouvé : Moins, c'est mieux

Les chercheurs ont testé ReFact sur plusieurs ensembles de données difficiles où l'IA devait trouver des réponses cachées dans de véritables murs de texte (certains allant jusqu'à 128 000 mots). Les résultats ont été étonnamment efficaces :

Des réponses plus intelligentes : ReFact a amélioré la capacité de l'IA à répondre correctement aux questions par rapport aux autres méthodes. Elle ne s'est pas contentée de deviner ; elle a ancré ses réponses dans le texte.
La victoire du « Compact » : C'est la grande surprise. ReFact n'a pas seulement été meilleure ; elle a été plus rapide. En ne reformulant que les faits essentiels, l'IA a utilisé nettement moins de « tokens » (les briques élémentaires du texte). Dans certains tests, elle a utilisé moins de la moitié du nombre de tokens de raisonnement par rapport aux autres méthodes qui tentaient d'être exhaustives. Elle a prouvé qu'on n'a pas besoin d'écrire un roman pour résoudre un mystère ; il suffit d'avoir les bons indices.
Lutter contre les « Fausses » informations : Lorsque le document disait quelque chose qui contredisait ce que l'IA « se rappelait » de son entraînement (comme un scénario contrefactuel), ReFact était bien meilleure pour s'en tenir au document. Elle a résisté à l'envie de retomber sur ses anciens souvenirs, montrant une plus grande « fidélité » au texte fourni.
Qualité plutôt que Quantité : L'article a mesuré le nombre de faits que l'IA reformulait. ReFact a reformulé beaucoup moins de faits que ses concurrents, mais a tout de même obtenu un « score F1 » plus élevé (une mesure de la façon dont les faits cités correspondent aux véritables preuves de soutien). Cela suggère que l'IA a appris à être un tireur d'élite, et non une mitrailleuse.

À retenir

ReFact suggère que la clé d'un raisonnement d'IA fiable n'est pas de forcer le modèle à tout lire ou à tout citer. Il s'agit plutôt d'apprendre au modèle à être adaptatif. Il apprend à reconnaître quand un fait est crucial, à le reformuler avec le niveau de détail approprié, puis à passer à la suite. En transformant les citations d'une simple formalité après coup en une partie active et stratégique du processus de réflexion, ReFact aide les modèles d'IA à devenir plus dignes de confiance, plus efficaces et moins susceptibles de se perdre dans le bruit d'un document long. C'est une étape vers une IA qui ne se contente pas de beaucoup parler, mais qui pense clairement.

Résumé Technique : ReFact – Reformulation Adaptative de Faits pour un Raisonnement par Chaîne de Pensée Compact et Fidèle

1. Énoncé du Problème

Les grands modèles de langage (LLM) s'appuient de plus en plus sur un raisonnement de longue forme pour résoudre des tâches complexes impliquant des entrées à contexte long. Cependant, les modèles existants peinent souvent à aligner leurs processus de raisonnement avec les preuves contextuelles fournies, particulièrement lorsque les preuves sont incomplètes, bruitées ou entrent en conflit avec la connaissance paramétrique du modèle. Ce désalignement conduit à des chaînes de pensée (CoT - Chain-of-Thought) « infidèles », où les modèles négligent le contexte pertinent, s'appuient sur des connaissances internes qui contredisent l'entrée, ou génèrent des étapes de raisonnement hallucinées.

Les approches actuelles pour ancrer le raisonnement se divisent généralement en deux catégories, présentant toutes deux des limites :

Génération basée sur la citation : Ces méthodes ajoutent des citations après la génération ou pendant le raisonnement pour améliorer la transparence. Cependant, elles traitent souvent les citations comme des références externes plutôt que comme des composantes intégrales du processus de raisonnement, ne garantissant pas que l'information citée est suffisante pour soutenir les inférences intermédiaires.
Raisonnement par reproduction de faits : Ces méthodes exigent que les LLM reformulent explicitement les faits de soutien provenant du contexte. Bien que cela améliore l'alignement, les exigences rigides de reformulation compromettent souvent la compacité et la cohérence des trajectoires de raisonnement, menant à des traces redondantes et sur-citées qui n'exploitent pas de manière adaptative les preuves.

Le défi central consiste à permettre aux LLM de déterminer quand un ancrage contextuel est nécessaire et comment reformuler les faits sources à un niveau de détail approprié pour assurer un raisonnement fiable, compact et fidèle.

2. Méthodologie : Le Cadre ReFact

ReFact (Adaptive Fact Restatement) est un cadre conçu pour permettre aux LLM de reformuler sélectivement les faits sources à différents niveaux de granularité (entités, segments, phrases ou paragraphes) uniquement lorsque cela est nécessaire pour une étape de raisonnement spécifique. Le cadre utilise un pipeline d'entraînement en deux étapes : l'apprentissage supervisé (SFT - Supervised Fine-Tuning) suivi de l'apprentissage par renforcement (RL - Reinforcement Learning).

2.1 Construction des Données d'Entraînement

Les auteurs construisent un ensemble de données ( $D_{training}$ ) en synthétisant des trajectoires de raisonnement adaptatives basées sur des citations à partir de jeux de données de questions-réponses existants (HotpotQA_CARE et MuSiQue).

Modèle Enseignant : Un modèle enseignant plus puissant (Gemini-3.1-preview) génère des trajectures de raisonnement de haute qualité. Il est incité à décider quand citer et comment reformuler les faits (granularité et forme) en se basant sur les « Faits de Soutien » fournis dans le contexte.
Contextes à Diversité de Longueur : Pour assurer la généralisation dans les scénarios de contexte long, le contexte d'or est inséré dans des documents de distraction de longueurs variables (32k, 64k, 128k tokens), simulant les défis du monde réel des contextes longs.
Filtrage de Qualité : Les trajectoires générées sont filtrées selon quatre critères :
1. Format : Utilisation correcte des balises (<evidence N>...</evidence>) et séparation du raisonnement et des réponses.
2. Exactitude : La réponse finale correspond à la réponse d'or.
3. Traçabilité : Tout le contenu cité doit exister textuellement dans les faits de soutien.
4. Répondabilité (Answerability) : Un modèle vérificateur doit être capable de dériver la réponse correcte en utilisant uniquement le contenu cité, garantissant que les citations sont suffisantes.

2.2 Pipeline d'Entraînement en Deux Étapes

Le modèle étudiant (Qwen3-4B et Qwen3-8B) est optimisé via :

SFT de Démarrage à Froid (Cold-Start) : Le modèle est entraîné sur les paires sélectionnées $(question, long\_context, reasoning\_trajectory)$ pour apprendre le format de sortie et le comportement d'ancrage du raisonnement dans les faits.
Optimisation de Politique Relative de Groupe (GRPO - Group Relative Policy Optimization) : Le modèle est davantage optimisé grâce à une fonction de récompense ( $R$ $R$ ) qui équilibre quatre composantes :
- $R_{format}$ : Exactitude structurelle.
- $R_{acc}$ : Exactitude de la réponse.
- $R_{trace}$ : Fidélité du contenu cité par rapport à la source.
- $R_{ans}$ : Suffisance du contenu cité pour répondre à la question.
  La récompense finale est une somme pondérée : $R = \lambda_1 R_{format} + \lambda_2 R_{acc} + \lambda_3 R_{trace} + \lambda_4 R_{ans}$ .

3. Contributions Clés

Mécanisme de Citation Adaptatif : Contrairement aux travaux précédents qui imposent des positions de citation fixes ou une attribution a posteriori, ReFact apprend aux modèles à déterminer de manière adaptative la nécessité et la granularité de la reformulation des faits. Cela produit des traces de raisonnement plus denses et plus fidèles sans redondance inutile.
Cadre SFT-vers-RL : Le papier propose un pipeline d'entraînement spécifique qui passe de l'apprentissage des formats de citation (SFT) à l'optimisation de l'utilité des citations pour le raisonnement (RL), garantissant que les faits cités ne sont pas seulement présents, mais suffisants pour l'inférence.
Raisonnement Compact et Fidèle : L'approche démontre qu'améliorer la fidélité ne nécessite pas de traces de raisonnement plus longues ; en fait, ReFact produit des traces significativement plus courtes tout en maintenant ou en améliorant la précision.

4. Résultats Expérimentaux

Les expériences ont été menées sur LongBench v1/v2, LV-Eval (contextes de 16k à 128k) et ConFiQA (fidélité contrefactuelle).

Performance sur le QA à Contexte Long : ReFact a systématiquement surpassé les bases de référence (Zero-Shot, LongAlign, LongFaith, CARE) sur LongBench v1 et LV-Eval. Il a obtenu des scores F1 plus élevés à travers différentes longueurs de contexte (jusqu'à 128k) tout en générant nettement moins de tokens de raisonnement (par exemple, réduisant l'utilisation de tokens de ~60-70 % par rapport à CARE).
Qualité et Efficacité de la Citation : L'analyse montre que ReFact atteint des scores F1 de citation plus élevés (meilleur alignement avec l'évidence d'or) tout en reformulant nettement moins de faits par trace par rapport à Zero-Shot et CARE. Cela indique que le modèle apprend à sélectionner uniquement l'évidence suffisante pour la réponse.
Fidélité Contrefactuelle : Sur ConFiQA, où le contexte contredit la connaissance paramétrique, ReFact a démontré une Préférence de Source (PS) plus élevée et un Dépassement Paramétrique (PO) plus faible. Il était plus susceptible de suivre le contexte fourni plutôt que les faits mémorisés.
Analyse de Mécanisme :
- Perplexité : Les traces de ReFact ont produit une perplexité plus faible pour les réponses d'or, indiquant un guidage plus fort pour la prédiction finale.
- Activation FFN : L'analyse des activations des réseaux de neurones Feed-Forward (FFN) a révélé que ReFact présente des ratios d'activation plus faibles dans les couches moyennes à profondes par rapport à Zero-Shot. Puisque ces couches sont associées à la récupération de la mémoire paramétrique, cela suggère que ReFact dépend moins des connaissances internes qui entrent en conflit avec le contexte.
Études d'Ablation : La suppression de la récompense d'« Answerability » ou de la supervision d'« Alignement d'Évidence » a entraîné une dégradation des performances, confirmant que l'optimisation de la suffisance de l'évidence et de l'alignement explicite est cruciale.

5. Signification et Revendications

Le papier affirme que ReFact constitue une avancée significative pour rendre le raisonnement des LLM à la fois compact et fidèle. En transformant les citations d'une référence externe en états de raisonnement intermédiaires adaptatifs, ReFact permet aux modèles de :

Réduire la Charge Cognitive : En ne reformulant que les faits nécessaires, le processus de raisonnement reste concis.
Renforcer la Fiabilité : Le modèle est moins sujet aux hallucinations et au dépassement paramétrique, car il est explicitement entraîné pour vérifier que ses étapes de raisonnement sont soutenues par le contexte fourni.
Améliorer l'Efficacité : La réduction des tokens de raisonnement suggère qu'un raisonnement de haute qualité ne nécessite pas de reformulations verbeuses et redondantes, rendant le raisonnement en contexte long plus efficace sur le plan computationnel.

Les auteurs concluent que la clé d'un raisonnement fidèle en contexte long ne réside pas dans l'imposition de plus de citations, mais dans l'apprentissage pour les modèles de sélectionner et d'intégrer de manière adaptative les bons faits à la bonne granularité.