Is Conformal Factuality for RAG-based LLMs Robust? Novel Metrics and Systematic Insights

Cette étude révèle que la factualité conforme pour les modèles de langage augmentés par récupération (RAG) souffre d'un compromis entre fiabilité et utilité, d'une fragilité face aux changements de distribution et d'éléments distracteurs, tout en démontrant que des vérificateurs légers basés sur l'inférence peuvent surpasser les classificateurs de confiance des LLM avec une efficacité computationnelle bien supérieure.

L'essentiel

🌍 Le Problème : Le "Rêveur" Confiant

Imaginez un grand expert nommé LLM (Grand Modèle de Langage). C'est un génie qui peut écrire des poèmes, résoudre des équations et raconter des histoires. Mais il a un défaut majeur : il est un rêveur confiant. Parfois, il invente des faits avec une telle assurance que vous y croyez, même s'ils sont faux. C'est ce qu'on appelle une "hallucination".

Dans des domaines sérieux comme la médecine ou le droit, inventer un fait peut être dangereux.

Pour corriger cela, on utilise deux outils :

1. Le RAG (Retrieval-Augmented Generation) : C'est comme donner une encyclopédie à l'expert avant qu'il ne réponde. Il doit lire les documents pour répondre. C'est mieux, mais il peut toujours mal interpréter l'encyclopédie ou inventer des détails.
2. Le "Filtrage Conformel" (Conformal Factuality) : C'est un contrôleur de sécurité très strict. Il prend la réponse de l'expert, la découpe en petites phrases, vérifie chaque phrase contre l'encyclopédie, et ne garde que celles qui sont sûres à 100 %.

🔍 La Question de l'Article

Les chercheurs se sont demandé : "Est-ce que ce contrôleur de sécurité est vraiment robuste ?"
Est-ce qu'il fonctionne bien partout, ou est-ce qu'il a des failles ?

Ils ont découvert trois choses surprenantes (et un peu décevantes) :

1. Le Dilemme du "Silence Prudent" 🤐

Le contrôleur est si strict qu'il devient parfois trop prudent.

• L'analogie : Imaginez un garde du corps qui, pour être sûr à 100 % que vous ne direz rien de faux, vous interdit de parler du tout.
• Le résultat : Pour garantir une fiabilité parfaite, le système rejette souvent toutes les phrases. La réponse finale est vide ou vide de sens. C'est "fiable" (car il n'y a pas d'erreur), mais c'est inutile car vous n'avez pas obtenu de réponse.

2. Le Problème du "Changement de Météo" 🌦️

Le contrôleur est calibré (réglé) sur un échantillon de données spécifiques, comme un thermostat réglé pour une journée d'été.

• L'analogie : Si vous utilisez ce thermostat en hiver, il ne fonctionnera plus. De même, si les questions changent légèrement (un nouveau style de langage, une nouvelle source d'information) ou si quelqu'un essaie de piéger le système avec des informations trompeuses, le contrôleur perd ses repères. Il pense que tout est faux, ou pire, il laisse passer des mensonges.
• Leçon : Ce système est fragile. Il ne fonctionne bien que si le monde réel ressemble exactement à la salle d'entraînement où il a été réglé.

3. La Surprise : Le "Petit Chien" bat le "Géant" 🐕 vs 🐘

Pour vérifier les faits, on utilise souvent de très gros modèles d'IA (des géants) qui coûtent cher et consomment beaucoup d'énergie.

• La découverte : Les chercheurs ont testé de petits modèles (des "chiots") spécialisés dans la vérification de texte (appelés "verificateurs d'implication").
• Le résultat : Ces petits modèles sont aussi bons, voire meilleurs, que les géants pour vérifier les faits, mais ils sont 100 fois plus rapides et moins chers. C'est comme utiliser un détective local très efficace au lieu d'engager toute une armée internationale pour vérifier une adresse.

💡 Les Nouvelles Règles du Jeu

Avant, on mesurait le succès en disant : "Combien de réponses sont vraies ?".
Mais les chercheurs disent : "Attendez, une réponse vide est vraie, mais inutile !".

Ils proposent de nouvelles règles pour juger le système :

• Le Taux de Non-Vide : Est-ce que le système a osé répondre quelque chose ?
• La Suffisance : Est-ce que la réponse contient assez d'infos pour vraiment résoudre le problème ?

🚀 Conclusion en une phrase

Ce papier nous dit : "Ne vous fiez pas aveuglément aux filtres de sécurité actuels. Ils sont fragiles face aux changements et peuvent vous laisser sans réponse. De plus, vous n'avez pas besoin de la technologie la plus coûteuse pour vérifier les faits ; de petits outils intelligents suffisent amplement."

C'est un appel à construire des systèmes qui sont non seulement sûrs, mais aussi utiles et résistants aux imprévus, sans gaspiller d'énergie inutilement.

Résumé technique

1. Problématique et Contexte

Les modèles de langage (LLM) souffrent d'un problème majeur de hallucination, produisant des réponses fluides mais factuellement incorrectes, ce qui limite leur fiabilité dans des domaines critiques (médical, juridique, financier). Deux approches principales ont émergé pour atténuer ce problème :

1. La Génération Augmentée par la Recherche (RAG) : Elle ancre les réponses dans des documents externes récupérés, mais ne fournit aucune garantie statistique sur la véracité de la réponse finale.
2. Le Filtrage par Conformité (Conformal Factuality) : Basé sur la prédiction conforme (Conformal Prediction), cette méthode découpe la réponse en affirmations atomiques, les note selon un score de factualité, et filtre celles en dessous d'un seuil calibré. Elle offre des garanties statistiques de couverture (ex: 95% de certitude que les affirmations restantes sont vraies), mais souvent au détriment de l'informativité (risque de réponses vides ou trop vagues).

Le problème central : L'article interroge la robustesse et l'utilité pratique de l'application du filtrage conforme aux systèmes RAG. Il s'agit de comprendre si ces garanties statistiques résistent aux décalages de distribution (distribution shifts) et aux distracteurs, et comment évaluer le compromis entre fiabilité factuelle et utilité de la réponse.

2. Méthodologie

Les auteurs proposent une analyse systématique couvrant la génération, le score, l'étalonnage (calibration), la robustesse et l'efficacité.

A. Cadre Expérimental

• Données : Trois benchmarks couvrant différents types de tâches :
  • FActScore : Résumé biographique ouvert (vérification de faits).
  • MATH : Problèmes mathématiques (raisonnement).
  • Natural Questions (NQ) : Questions-réponses basées sur la recherche.
• Modèles : Une variété de familles de modèles open-source (Qwen3, Llama-3.x, SmolLM2, gpt-oss) de différentes tailles (de 135M à 120B paramètres) et architectures (Dense, MoE), incluant des variantes avec capacités de raisonnement.
• Fonctions de Score : Comparaison entre :
  • Scorers basés sur l'implication (Entailment) : Modèles NLI (ex: DeBERTa, RoBERTa) vérifiant si le texte de référence soutient l'affirmation.
  • Scorers basés sur la confiance du LLM : Utilisation d'un LLM pour attribuer un score de factualité à chaque affirmation.

B. Métriques Innovantes

Les auteurs identifient que les métriques traditionnelles (comme le taux de factualité empirique) sont trompeuses car elles pénalisent peu les réponses vides (qui sont trivialement "vraies"). Ils proposent donc de nouvelles métriques :

• Taux de non-vide (Non-empty Rate - NR) : Fraction des réponses contenant au moins une affirmation.
• Factualité Empirique Non-Vaine (Non-vacuous Empirical Factuality - NvEF) : Factualité calculée uniquement sur les réponses non vides.
• Exactitude Suffisante (Sufficient Correctness - SC) : Mesure si la réponse contient assez d'informations correctes pour déduire la réponse finale à la question.
• Exactitude Suffisante Conditionnelle (Conditional Sufficient Correctness - CSC) : Mesure la capacité du filtrage à préserver les informations utiles, conditionnellement au fait que la réponse initiale était déjà suffisante.

C. Tests de Robustesse

• Décalage de distribution : Utilisation de données d'étalonnage provenant d'une distribution différente (ex: générées par un autre modèle) pour tester la validité des garanties.
• Distracteurs : Injection de fausses affirmations plausibles (hallucinations) dans les données de test pour voir si le filtre les détecte.

3. Résultats Clés

A. Impact des Références et de la Génération

• La fourniture de références (RAG) améliore systématiquement l'exactitude suffisante (SC) de la génération initiale, même pour les petits modèles.
• Les modèles plus grands ne montrent pas toujours une amélioration linéaire par rapport aux modèles plus petits dans ce contexte, surtout lorsque des références sont fournies.

B. Efficacité des Fonctions de Score

• Scorers légers vs Lourds : Les vérificateurs basés sur l'implication (entailment), bien que beaucoup plus petits (ex: DeBERTa), égalent ou surpassent les LLMs utilisés comme scoreurs de confiance en termes de performance, tout en nécessitant plus de 100 fois moins de FLOPs.
• Stratégies de Prompting : Pour les scoreurs LLM, l'utilisation de scores numériques (plutôt que booléens) et l'agrégation de plusieurs réponses (consistency averaging) améliorent la performance. Le raisonnement en chaîne (CoT) n'apporte pas de gains systématiques.

C. Robustesse et Limites du Filtrage Conforme

• Fragilité aux décalages de distribution : Lorsque les données d'étalonnage ne correspondent pas à la distribution des données de test (ex: changement de modèle générateur), les garanties de factualité s'effondrent. Le taux de factualité empirique chute en dessous du niveau cible.
• Vulnérabilité aux distracteurs : L'injection de distracteurs plausibles dans les données de test dégrade sévèrement la factualité.
• Coût de l'adaptation : Tenter de corriger ce problème en ajoutant des distracteurs dans les données d'étalonnage permet de restaurer la garantie statistique, mais au prix d'une chute drastique du taux de non-vide (NR). Le filtre devient trop strict et supprime des informations correctes, rendant la réponse inutile.

D. Efficacité Computationnelle

• L'utilisation de modèles MoE (Mixture of Experts) pour la génération et de petits modèles d'implication pour le score offre le meilleur compromis efficacité/performance.
• Les approches conformes actuelles ne sont pas robustes sans une calibration très précise des conditions de déploiement.

4. Contributions Principales

1. Nouvelles Métriques : Introduction de métriques (NR, NvEF, SC, CSC) qui capturent le compromis crucial entre fiabilité factuelle et utilité (informativité), comblant le vide laissé par les métriques traditionnelles.
2. Analyse Systématique : Première évaluation complète de l'interaction entre RAG et filtrage conforme, révélant que la simple augmentation de la taille du modèle ne résout pas les problèmes de calibration ou de robustesse.
3. Preuve d'Efficacité des Vérificateurs Légers : Démonstration que des modèles d'implication légers sont supérieurs aux grands LLMs pour le scoring de factualité, offrant une voie économiquement viable pour les pipelines RAG.
4. Mise en Évidence de la Fragilité : Mise en garde contre l'utilisation du filtrage conforme dans des environnements dynamiques où les hypothèses d'échangeabilité (calibration vs test) sont violées, ce qui est fréquent en pratique.

5. Signification et Conclusion

Cet article remet en question l'adoption naïve du filtrage conforme pour garantir la fiabilité des LLMs en production. Il démontre que :

• La fiabilité statistique (garantie de couverture) est souvent obtenue au détriment de l'utilité pratique (réponses vides ou trop vides).
• Le cadre actuel est fragile face aux changements de distribution et aux attaques par distracteurs, limitant son applicabilité dans des scénarios réels complexes.
• L'avenir de la fiabilité des LLMs ne réside pas uniquement dans des vérificateurs plus gros, mais dans le développement de nouvelles approches qui intègrent la robustesse et l'informativité comme métriques centrales, tout en exploitant des vérificateurs légers pour des raisons d'efficacité.

En somme, bien que le filtrage conforme offre des garanties théoriques séduisantes, sa mise en œuvre pratique nécessite une calibration rigoureuse et des métriques d'évaluation plus nuancées pour éviter de sacrifier la qualité de la réponse au profit d'une sécurité illusoire.