Résumé technique : Double-calibration pour des LLM fiables via la calibration des connaissances et de la confiance dans le raisonnement

1. Énoncé du problème

Les modèles de langage de grande taille (LLM) souffrent d'hallucinations et de raisonnements peu fiables, entraînés à la fois par une incertitude épistémique intrinsèque (lacunes de connaissances) et une incertitude aléatoire extrinsèque (ambiguïté des données). Bien que la génération augmentée par récupération assistée par des graphes de connaissances (KG-RAG) soit devenue un paradigme de premier plan pour améliorer l'exactitude factuelle en récupérant des preuves structurées, les méthodes actuelles présentent un défaut critique : elles supposent que les preuves récupérées sont toujours suffisantes et certaines.

En pratique, les preuves récupérées peuvent être bruyantes, incomplètes ou ambiguës. Les approches KG-RAG existantes échouent à quantifier l'incertitude des preuves récupérées elles-mêmes. Par conséquent, les LLM peuvent produire des prédictions incorrectes mais énoncées avec assurance lorsqu'ils s'appuient sur des preuves partielles ou défectueuses. De plus, les méthodes existantes de quantification de l'incertitude (UQ) pour les LLM se concentrent principalement sur la calibration de la confiance de la sortie finale. Ces méthodes reposent souvent sur les états internes du modèle ou sur une auto-évaluation, ce qui les rend opaques et non traçables. Elles ne peuvent pas distinguer si l'incertitude provient de preuves défectueuses, de déficiences dans le raisonnement ou de la difficulté de la tâche, échouant ainsi à synergie efficacement avec le KG-RAG pour fournir une vue calibrée étape par étape de la chaîne de raisonnement.

2. Méthodologie : DoublyCal

Pour combler ces lacunes, les auteurs proposent DoublyCal, un cadre fondé sur un nouveau principe de double calibration. Cette approche estime explicitement et rend traçable la confiance, depuis les preuves KG récupérées jusqu'à la prédiction finale du LLM. Le cadre fonctionne à travers trois composants principaux :

2.1 Calibration bayésienne des preuves KG

Le cadre formalise d'abord les preuves KG comme des chemins relationnels contraints. Contrairement aux chemins relationnels simples ou aux sous-graphes, ces chemins consistent en un chemin relationnel de base augmenté d'une contrainte optionnelle dérivée du voisinage de la réponse candidate, équilibrant ainsi l'informativité et l'interprétabilité.

Pour estimer une confiance statistiquement fondée pour chaque chemin de preuve, les auteurs emploient un modèle Beta-Bernoulli :

• La justesse d'une réponse candidate étant donnée une preuve est modélisée comme une distribution de Bernoulli avec le paramètre $p$.
• Pour tenir compte de l'incomplétude du KG et de l'ancrage épars, un prior conjugué Beta ($p \sim \text{Beta}(\alpha, \beta)$) est imposé.
• Le score de confiance calibré est calculé comme la moyenne a posteriori, mélangeant la précision empirique avec la croyance a priori (par exemple, en utilisant un prior de Jeffreys $\alpha=\beta=0.5$). Cela empêche la surconfiance dans les cas où le nombre de candidats récupérés est faible.

2.2 Modèle proxy pour la génération et la calibration des preuves

Puisque le calcul bayésien est rétrospectif, un générateur de preuves basé sur LM (modèle proxy) léger est entraîné pour effectuer la récupération prospective des preuves et l'estimation de la confiance lors de l'inférence. L'entraînement comporte deux étapes :

1. Affinement supervisé (SFT) : Le proxy est entraîné à générer des chemins de preuves KG et leurs scores de confiance bayésiens correspondants, imitant le signal statistique.
2. Apprentissage par renforcement (RL) : Le proxy est ensuite affiné en utilisant l'optimisation de la politique relative par groupe (GRPO). La fonction de récompense optimise conjointement la qualité inférentielle (correspondance avec les preuves de référence) et l'alignement de la calibration (minimisation de la différence entre la confiance prédite et la vérité fondamentale bayésienne).

2.3 Raisonnement LLM avec des preuves calibrées

Lors de l'inférence, le proxy entraîné génère un ensemble de paires preuve-confiance candidates. Ces paires sont verbalisées et intégrées dans l'invite pour un LLM principal en boîte noire. Le LLM est instruit de raisonner sur ces chemins et leurs scores de confiance associés pour produire une réponse finale et une confiance de prédiction bien calibrée. Cela établit une chaîne traçable où la confiance finale est ancrée dans des preuves vérifiables et calibrées plutôt que dans l'état interne du LLM seul.

3. Contributions clés

• Principe de double calibration : L'article établit un nouveau paradigme exigeant une calibration explicite de la confiance à la fois pour les preuves KG récupérées et pour les prédictions finales des LLM, dépassant la calibration de sortie à un seul stade.
• Cadre DoublyCal : Une implémentation pratique utilisant un modèle proxy calibré bayésien pour fournir aux LLM en boîte noire des preuves KG accompagnées d'une confiance de preuve.
• Validation empirique : Des démonstrations montrant que DoublyCal améliore considérablement à la fois la précision et la calibration de la confiance sur divers LLM en boîte noire pour des benchmarks axés sur les connaissances, tout en maintenant des coûts de jetons faibles.

4. Résultats expérimentaux

Le cadre a été évalué sur les benchmarks WebQSP et CWQ, comparant DoublyCal à des bases de référence à calibration unique (SingleCal) (méthodes KG-RAG standard combinées à des techniques de UQ verbalisées comme Vanilla, CoT et Self-Probing).

• Précision et calibration : DoublyCal (spécifiquement la version améliorée par RL) a atteint des performances de pointe, menant en termes de Hits, de Rappel et de scores F1 tout en réduisant considérablement l'erreur de calibration attendue (ECE) et l'erreur de calibration adaptative (ACE). Par exemple, sur WebQSP, RL-DoublyCal a réduit l'ECE à ~3,9 % contre ~18-38 % pour les bases de référence.
• Efficacité des coûts : DoublyCal a démontré une efficacité supérieure en termes de jetons. Il a surpassé SubgraphRAG avec nettement moins de jetons d'entrée (environ 39 % du coût de SubgraphRAG) en raison de la forte densité d'information de ses chemins relationnels contraints.
• Compatibilité inter-modèles : Le cadre a été testé sur divers LLM en boîte noire (GPT-3.5-turbo, GPT-4o-mini, DeepSeek-V3, Gemini-2.5-flash). DoublyCal a constamment découplé le compromis entre précision et fiabilité, réduisant l'ECE moyenne de 29,4 % à 7,6 % à travers les modèles tout en augmentant le F1 moyen de 45,8 % à 76,5 %.
• Études d'ablation : La suppression de la calibration de la confiance des preuves (variante SingleCal) a entraîné une augmentation drastique de l'erreur de calibration (l'ECE passant de ~4 % à >20 %), confirmant que des preuves calibrées de manière externe sont essentielles pour une auto-évaluation fiable par les LLM en boîte noire.

5. Importance et revendications

L'article revendique que DoublyCal offre une solution fondée sur des principes pour gérer systématiquement la propagation de l'incertitude dans les LLM augmentés par KG. En ancrant la confiance dans des preuves vérifiables de l'extérieur, le cadre fournit une fondation traçable pour l'ensemble de la chaîne de raisonnement, répondant à la nature de « boîte noire » des méthodes UQ actuelles.

Les auteurs affirment que leur travail représente une étape concrète vers la construction de systèmes LLM plus fiables et transparents. Ils soulignent que si le KG-RAG améliore la factualité, c'est la double calibration des preuves et du raisonnement qui est nécessaire pour atteindre un raisonnement véritablement fiable. Le cadre est présenté comme une solution plug-and-play qui améliore la fiabilité de divers LLM en boîte noire sans nécessiter l'accès à leurs paramètres internes.

Limites reconnues :
Les auteurs notent que la robustesse de l'estimateur de confiance bayésien peut décliner lorsque le KG est extrêmement épars. De plus, la forme fixe des chemins relationnels contraints peut limiter les performances sur des questions complexes impliquant une agrégation ou une comparaison, suggérant que des travaux futurs pourraient explorer des formes de preuves plus riches ou des paradigmes de planification agentique.