💻 computer science

Dual-Confidence Contrastive Decoding for Retrieval-Augmented Generation

Cet article introduit le Dual-Confidence Contrastive Decoding (DCCD), une méthode sans entraînement qui résout les conflits intra-contexte dans la génération augmentée par récupération multi-documents en exploitant des signaux de confiance au niveau du document et du jeton, et valide son efficacité sur le nouveau benchmark DRQA ainsi que sur des jeux de données de questions-réponses standards.

Auteurs originaux : Raymond Li, Md Tawkat Islam Khondaker, Amirhossein Abaskohi, Gabriel Murray, Giuseppe Carenini, Issam H. Laradji

Publié 2026-07-02

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Raymond Li, Md Tawkat Islam Khondaker, Amirhossein Abaskohi, Gabriel Murray, Giuseppe Carenini, Issam H. Laradji

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez un détective tentant de résoudre un mystère. Vous avez une pile de cinq témoignages différents (les « documents récupérés ») sur ce qui s'est passé.

Le Témoin A dit la vérité.
Le Témoin B ment, mais semble très convaincant.
Le Témoin C dit la vérité, mais cela concerne ce qui s'est passé l'année dernière, pas aujourd'hui.
Le Témoin D parle d'un crime complètement différent.
Le Témoin E ne fait que divaguer et dire des choses incohérentes.

Votre tâche est de rédiger un rapport final basé uniquement sur ces déclarations. Le problème est que votre cerveau (le modèle d'IA) possède aussi sa propre « mémoire » de cas similaires du passé. Parfois, votre cerveau veut ignorer les témoins et simplement deviner en se basant sur ce qu'il sait déjà. D'autres fois, même si vous écoutez les témoins, vous pouvez être confus parce qu'ils se contredisent.

Ce document présente une nouvelle façon pour le détective (l'IA) de trier dans ce tas de preuves désordonnées sans avoir besoin de retourner à l'école (réentraînement du modèle). Ils appellent cela le Dual-Confidence Contrastive Decoding (DCCD).

Voici comment cela fonctionne, décomposé en parties simples :

1. Le nouveau test de « Mystère » : DRQA

Tout d'abord, les auteurs ont réalisé que les tests existants pour l'IA n'étaient pas assez difficiles. La plupart des tests utilisent des faits publics (comme « Qui est le président ? ») que l'IA pourrait déjà connaître.

Ainsi, ils ont créé un nouveau test appelé DRQA (Deep Research Question Answering).

L'analogie : Imaginez l'IA comme un nouvel employé dans une entreprise secrète. Les questions portent sur des secrets internes de l'entreprise (comme « Combien avons-nous économisé sur les grains de café au dernier trimestre ? »). L'IA n'a jamais vu cette information auparavant.
Le piège : On donne à l'IA un dossier de documents. L'un d'eux contient la bonne réponse. Les autres contiennent de fausses réponses, des réponses obsolètes ou des absurdités. L'IA doit trouver le bon document pour répondre à la question. Si elle devine en se basant sur sa propre mémoire, elle échouera car la réponse n'existe pas dans sa mémoire.

2. La solution : Le système de « Double Vérification » (DCCD)

Les auteurs proposent une méthode qui ne nécessite pas de réentraîner l'IA. Au lieu de cela, elle modifie la façon dont l'IA « réfléchit » pendant qu'elle écrit sa réponse, mot après mot.

Ils utilisent deux types de vérifications de « confiance », comme un détective utilisant deux outils différents :

Outil A : Confiance au niveau du document (Le test « Ce fichier est-il utile ? »)

Avant que l'IA ne commence à écrire, elle examine chaque document dans le dossier et demande : « Est-ce que ce document spécifique contient réellement assez d'informations pour répondre à la question ? »

Analogie : C'est comme vérifier si un témoin parle même du bon crime. Si le document porte sur les « grains de café » mais que la question porte sur des « pannes de serveurs », le score de confiance est bas. Si le document semble contenir la réponse, le score est élevé.

Outil B : Confiance au niveau du jeton (Le test « Suis-je sûr du prochain mot ? »)

Pendant que l'IA commence à écrire la réponse, elle examine le document actuel qu'elle utilise et demande : « Si je continue à utiliser ce document, suis-je confiant quant au tout prochain mot que je vais taper ? »

Analogie : Imaginez que vous lisez une déposition de témoin. Si la déclaration est claire, vous pouvez facilement prédire le mot suivant (« Le suspect a couru... »). Si la déclaration est confuse ou contradictoire, vous pourriez hésiter (« Le suspect a couru... ou peut-être marché... »). Cet outil mesure cette hésitation.

3. Le mouvement magique : Le « Contraste »

C'est ici que réside la partie ingénieuse. L'IA ne se contente pas de choisir le « meilleur » document. Elle joue à un jeu de tir à la corde :

Elle trouve le document qui obtient les scores les plus élevés sur les deux vérifications (Le « Bon Témoin »).
Elle trouve le document qui obtient les scores les plus bas sur les deux vérifications (Le « Mauvais Témoin » ou le menteur).
Elle calcule l'écart (la marge) entre le Bon Témoin et le Mauvais Témoin.
La Décision : Elle prend sa supposition actuelle et la pousse fortement vers le Bon Témoin et la tire loin du Mauvais Témoin. Plus l'écart est grand entre le bon et le mauvais document, plus elle pousse fort.

En termes simples : L'IA dit : « Je suis sûr à 90 % que le Document A est correct, et je suis sûr à 10 % que le Document B est faux. Donc, je vais ignorer le Document B et redoubler d'efforts sur le Document A. »

4. Pourquoi cela est important

Le papier démontre que lorsque l'IA est confrontée à une pile de documents conflictuels, bruyants ou obsolètes (comme dans leur nouveau test DRQA), cette méthode de « Double Vérification » fonctionne bien mieux que les méthodes précédentes.

Les anciennes méthodes se laissaient souvent confondre par les menteurs ou les informations obsolètes et se contentaient de deviner.
DCCD parvient à identifier le « Bon Témoin » et à ignorer le « Mauvais Témoin », même lorsque le Mauvais Témoin semble très convaincant.

Résumé

Ce papier traite de la manière d'apprendre à une IA à être un meilleur détective lorsqu'elle doit choisir entre une pile de preuves contradictoires. Au lieu de simplement deviner ou de faire aveuglément confiance à tout ce qu'elle lit, l'IA utilise une double vérification de confiance :

Cette source est-elle utile ? (Niveau du document)
Cette source me donne-t-elle de l'assurance pour le mot suivant ? (Niveau du jeton)

En comparant la « meilleure » source à la « pire » source et en amplifiant la différence, l'IA peut percer le bruit et trouver la vérité, même lorsque la vérité est cachée dans un tas de documents désordonnés et contradictoires.

Résumé Technique : Décodage Contrastif à Double Confiance pour la Génération Augmentée par Récupération

Énoncé du Problème
Les systèmes de Génération Augmentée par Récupération (RAG) opèrent de plus en plus dans des contextes multi-documents où l'ensemble de preuves récupérées contient des informations conflictuelles, obsolètes, bruitées ou non pertinentes. Bien que les méthodes de décodage contrastif (CD) existantes résolvent efficacement les conflits entre la mémoire paramétrique interne d'un modèle et le contexte récupéré, elles échouent largement à traiter les conflits intra-contexte. Dans le RAG multi-documents, le modèle doit non seulement choisir le jeton suivant, mais aussi sélectionner la source de preuve correcte parmi plusieurs documents récupérés, dont certains peuvent soutenir des affirmations contradictoires. Les approches CD standard traitent souvent le lot de documents comme un contexte unique, échouant à distinguer les documents capables de répondre à une requête de ceux qui ne le sont pas, et ne tiennent pas compte de la confiance des prédictions au niveau des jetons au sein de flux spécifiques conditionnés par un document.

Méthodologie : Décodage Contrastif à Double Confiance (DCCD)
Les auteurs proposent le DCCD, une stratégie de décodage sans entraînement conçue pour résoudre les conflits intra-contexte en intégrant deux signaux de confiance distincts :

Confiance au niveau du document ( $q_i$ ) : Cette métrique estime si un document récupéré spécifique $d_i$ contient suffisamment d'informations pour répondre à la requête $x$ . Elle est calculée via un prompt de « sonde de support » posant au modèle une question binaire oui/non (« Ce document contient-il assez d'informations pour répondre à la question ? »). Le score est dérivé de la masse de probabilité des jetons de verbalisation « oui » par rapport aux jetons « non ». Ce score est calculé une seule fois par paire question-document avant le début du décodage.
Confiance au niveau du jeton ( $c_{i,t}$ ) : Cette métrique estime la netteté de la prédiction du prochain jeton du modèle conditionnée par un document spécifique $d_i$ à l'étape de décodage $t$ . Suivant le cadre d'incertitude de Dirichlet, le modèle projette les top- $k$ logits du flux conditionné par le document vers des paramètres de concentration de Dirichlet. L'entropie attendue de la distribution catégorielle induite est calculée et normalisée ; la confiance est définie comme $1 - \text{entropie normalisée}$ . Ce score est recalculé à chaque étape de décodage.

Mécanisme de Décodage
À chaque étape de décodage $t$ , le DCCD agrège ces signaux en un score de double confiance $s_{i,t} = q_i + c_{i,t}$ . La méthode sélectionne :

Un flux positif ( $i^+_t$ ) correspondant au document ayant le score de double confiance le plus élevé.
Un flux négatif ( $i^-_t$ ) correspondant au document ayant le score de double confiance le plus bas.

Le terme contrastif $\epsilon_t$ est dynamiquement mis à l'échelle par la marge entre ces scores ( $\epsilon_t = s_{i^+_t,t} - s_{i^-_t,t}$ ). La distribution de logit finale $z_t$ est calculée en ancrant la génération dans les logits du contexte complet ( $z^{full}_t$ ) et en ajoutant la différence mise à l'échelle entre les logits du document positif et du document négatif :
$z_t = z^{full}_t + \epsilon_t (z^{i^+_t}_t - z^{i^-_t}_t)$
Cette approche amplifie les preuves de la source la plus confiante tout en supprimant les alternatives conflictuelles ou non supportées, sans nécessiter de réglage fin (fine-tuning) du modèle.

Benchmark : DRQA
Pour évaluer ce cadre, les auteurs introduisent le DRQA (Deep Research Question Answering), un benchmark de conflit factuel dérivé de scénarios de recherche approfondie en entreprise. Contrairement aux benchmarks de questions-réponses en domaine ouvert standard qui reposent sur des connaissances publiques, DRQA utilise des faits synthétiques spécifiques à l'entreprise (par exemple, des métriques internes d'entreprise, des personas d'utilisateurs) qui ne sont pas récupérables via la mémoire interne du modèle. Chaque requête est associée à un lot de documents comprenant :

Un document correct.
Des documents de désinformation (plausibles mais factuellement incorrects).
Des documents temporels (historiquement exacts mais actuellement obsolètes).
Des documents de bruit (topiquement pertinents mais impossibles à utiliser pour répondre).

Cette conception force les modèles à se fier entièrement à la récupération et à la résolution de conflits plutôt qu'à la connaissance paramétrique.

Résultats Expérimentaux
Les auteurs ont évalué le DCCD par rapport au décodage standard en contexte complet et à diverses bases de décodage contrastif (CAD, ADACAD, DVD, COCOA) sur DRQA et des benchmarks de QA multi-documents standards (Natural Questions, TriviaQA, PopQA, RetrievalQA) en utilisant des petits modèles de langage (SLM) entraînés par instruction (Qwen3.5-2B/9B, Phi-3-medium).

Performance : Le DCCD a obtenu la meilleure performance moyenne dans presque tous les réglages. Les gains sont plus prononcés sur DRQA, où la tâche exige la résolution de conflits internes parmi les preuves récupérées.
Études d'ablation : Supprimer la confiance au niveau du document a provoqué la dégradation de performance la plus importante (par exemple, une chute de ~6,34 % sur DRQA @5), indiquant que la netteté au niveau du jeton seule est insuffisante lorsque des documents trompeurs peuvent encore générer des prédictions locales confiantes. Inversement, l'utilisation de la seule confiance au niveau du document était stable mais moins efficace à mesure que le nombre de distracteurs augmentait, soulignant la valeur complémentaire de la confiance au niveau du jeton.
Efficacité : Bien que le DCCD entraîne des coûts d'inférence plus élevés en raison de multiples passages vers l'avant (un flux de contexte complet plus $n$ flux conditionnés par document), l'overhead est linéaire avec le nombre de documents récupérés et amorti par la sonde de niveau document.

Signification et Revendications
L'article affirme que le DCCD démontre l'importance critique d'un décodage conscient de la source et régulé par la confiance lorsque les preuves récupérées sont en conflit interne. En distinguant explicitement la suffisance d'une source (niveau document) de la certitude de la génération à partir de cette source (niveau jeton), le DCCD fournit un mécanisme robuste pour résoudre les conflits intra-contexte sans entraînement. Les auteurs positionnent le DRQA comme un benchmark nécessaire pour évaluer les systèmes RAG dans des contextes d'entreprise où les faits sont privés, hétérogènes et sujets à conflit, une capacité peu explorée dans les travaux précédents. Les résultats suggèrent qu'un RAG multi-documents efficace nécessite non seulement de récupérer des preuves, mais aussi de réguler dynamiquement la génération en fonction de la fiabilité et de la clarté de sources de preuves spécifiques.