"I Don't Know" -- Towards Appropriate Trust with Certainty-Aware Retrieval Augmented Generation

Résumé Technique : « Je ne sais pas » – Vers une confiance appropriée avec une Génération Augmentée par Récupération Consciente de la Certitude

Énoncé du Problème
L'article aborde le défi de l'établissement d'une « confiance appropriée » dans les systèmes d'IA, spécifiquement les modèles de langage de grande taille (LLM). Bien que les LLM offrent une communication de niveau humain, ils souffrent d'hallucinations (sorties factuellement incorrectes) et de « sycophantie » (sur-adaptation aux préférences de l'utilisateur au détriment de l'exactitude). Un problème critique est que les LLM expriment souvent une sur-confiance dans leurs réponses, même lorsque la question n'est pas objective ou que le contexte est insuffisant. Cette sur-confiance empêche les utilisateurs de juger avec précision la véracité du système. Les auteurs soutiennent que la valeur humaine de la bienveillance — définie ici comme le besoin d'honnêteté, de fiabilité et de dépendabilité — peut être satisfaite si un système d'IA peut surveiller ses propres connaissances, réfléchir à son incertitude et communiquer cette auto-réflexion à l'utilisateur.

Méthodologie
Les auteurs proposent CERTA (Certainty Enhanced RAG for Trustworthy Answers), un système spécialisé de Génération Augmentée par Récupération (RAG) conçu pour intégrer une certitude auto-réfléchie dans ses réponses.

1. Modélisation de la Certitude de la Triade RAG :
   Au lieu de s'appuyer sur le LLM pour auto-évaluer sa confiance (ce qui peut être biaisé), CERTA calcule l'incertitude basée sur la similarité sémantique entre trois composants du pipeline RAG, connus sous le nom de Triade RAG :

   • Pertinence Question-Contexte (QCR) : Mesure si le contexte récupéré est sémantiquement aligné avec la question de l'utilisateur.
   • Pertinence Contexte-Réponse (CAR) : Mesure si la réponse générée est soutenue par le contexte récupéré (ancrage).
   • Pertinence Réponse-Question (AQR) : Mesure si la réponse générée traite sémantiquement la question originale.

   Ces scores sont calculés en utilisant la similarité cosinus sur des plongements (OpenAI's text-embedding-3-small). Ces scores numériques sont ensuite traduits en « instructions de certitude » textuelles fournies au générateur LLM.

2. Approches Systémiques :
   L'article évalue quatre approches distinctes utilisant deux LLM (GPT-4.1 d'OpenAI et Mistral-Small-3.1) :

   • RAG (Référence) : RAG standard sans instructions spécifiques sur la certitude.
   • CERTA-0 : Ajoute une instruction générale au prompt pour être honnête concernant la certitude de la réponse.
   • CERTA-1 : Intègre le score QCR et l'instruction dans le prompt, informant le modèle de la pertinence entre la question et le contexte récupéré.
   • CERTA-2 : Une approche multi-étapes. Elle génère d'abord une réponse intermédiaire, calcule les trois scores de la Triade (QCR, CAR, AQR), puis sollicite à nouveau le modèle avec la question, le contexte, la réponse intermédiaire et les trois instructions de certitude pour produire une réponse finale et auto-réfléchie.

3. Benchmark de Certitude :
   Pour évaluer ces méthodes, les auteurs ont créé un jeu de données de 90 paires question-contexte dérivées du Benchmark TrustLLM. Le jeu de données couvre quatre catégories :

   • Factualité : Questions factuelles (certaines sans réponse).
   • Préférence Personnelle : Questions subjectives (par exemple, « Qu'est-ce qui est mieux ? »).
   • Sycophantie : Questions conçues pour tester si le modèle est d'accord avec un point de vue énoncé par l'utilisateur (potentiellement erroné).
   • Choix Moraux : Dilemmes éthiques.

   Chaque question est appariée à trois types de contextes : pertinent (contient la réponse), incomplet (manque la réponse spécifique) et irrélevant (ne contient aucune réponse).

Contributions Clés

1. Le Système CERTA : Une extension novatrice du RAG qui utilise la Triade RAG pour calculer et communiquer l'incertitude à la fois numériquement et verbalement. Il inclut un tableau de bord permettant aux utilisateurs de sélectionner des comportements pour les scénarios de faible certitude (par exemple, réponse par défaut, « Je ne sais pas », ou basculement vers les connaissances du LLM).
2. Le Benchmark de Certitude : Un jeu de données curaté de 90 paires question-contexte non objectives à travers quatre catégories basées sur les valeurs et trois types de contextes, conçu spécifiquement pour tester la capacité d'une IA à exprimer l'incertitude de manière appropriée.
3. Évaluation Empirique : Une étude comparative du RAG de référence contre trois configurations CERTA utilisant deux LLM distincts.

Résultats
Les expériences indiquent que CERTA déplace avec succès le comportement du système vers une incertitude appropriée :

• Fréquence de « Je ne sais pas » : CERTA-1 et CERTA-2 ont produit significativement plus de réponses « Je ne sais pas » par rapport au RAG de référence, en particulier lorsque les contextes étaient incomplets ou irrélevants.
• Factualité : Avec des contextes pertinents, les systèmes ont répondu de manière appropriée. Avec des contextes irrélevants, le RAG de référence a parfois halluciné en utilisant ses connaissances internes, tandis que les systèmes CERTA sont restés strictement objectifs et ont exprimé de l'incertitude.
• Préférence Personnelle : Le RAG de référence a parfois fourni des réponses confiantes à des questions subjectives. Les approches CERTA ont correctement identifié le manque de réponses objectives et opté pour « Je ne sais pas ».
• Sycophantie et Morale : Bien que le RAG de référence et CERTA aient tous deux évité les contradictions directes, les systèmes CERTA étaient moins susceptibles d'être d'accord ou en désaccord avec des points de vue opposés, optant plutôt plus fréquemment pour « Je ne sais pas ». CERTA a également démontré plus de prudence dans les jugements moraux, évitant le moralisme strict lorsque le contexte était incomplet.
• Différences de Modèles : Le modèle open-source Mistral a montré plus d'incertitude inhérente que GPT-4.1, mais CERTA a amélioré les deux.
• Cohérence : L'ajout d'instructions de certitude n'a pas amené les systèmes à transformer des réponses correctes en réponses incorrectes ; il a principalement augmenté le taux de réponses prudentes là où c'était approprié.

Signification et Revendications
L'article revendique que la communication d'une certitude auto-réfléchie est un mécanisme viable pour bâtir une confiance appropriée en l'IA, s'alignant sur la valeur humaine de la bienveillance. Les auteurs concluent que :

• CERTA-0 est souvent suffisant pour améliorer le RAG de référence en introduisant une honnêteté de base concernant la certitude.
• CERTA-1 fournit une approche plus prudente en utilisant explicitement le score de Pertinence Question-Contexte.
• La méthode permet aux systèmes d'être « averses au risque » dans des scénarios à haut risque en admettant l'incertitude plutôt qu'en hallucinant.
• L'approche est agnostique du récupérateur, évaluant uniquement la qualité du contexte fourni plutôt que le mécanisme de récupération lui-même.

Les auteurs restent modestes concernant leurs revendications, notant que le tableau de bord n'a pas encore été validé avec des utilisateurs humains pour mesurer l'étalonnage réel de la confiance. Ils reconnaissent des limites, telles que l'utilisation de formats à choix multiples qui peuvent atténuer artificiellement la sycophantie, et la dépendance à la similarité cosinus qui tend à produire des scores de gamme moyenne (autour de 0,5) plutôt que des valeurs extrêmes. Des travaux futurs sont suggérés pour inclure des études utilisateurs et des tests avec des sources de données plus bruyantes.