Résumé technique : L'étalonnage ne suffit pas : Évaluation de l'estimation de la confiance sous les variations linguistiques

Énoncé du problème

L'estimation de la confiance (CE) est cruciale pour établir la confiance des utilisateurs dans les grands modèles de langage (LLM), en particulier dans des domaines à haut risque comme la médecine et le droit. Les paradigmes d'évaluation actuels se concentrent principalement sur l'étalonnage (l'alignement entre la confiance déclarée et la précision réelle, mesuré par des métriques telles que l'ECE et le score de Brier) et la discrimination (la capacité à classer les réponses correctes plus haut que les incorrectes, mesurée par l'AUROC).

Cependant, ces métriques existantes négligent une propriété fondamentale du langage : la variabilité. Les expressions en langage naturel peuvent varier considérablement dans leur forme de surface (choix des mots, formulation) tout en conservant un sens sémantique identique, ou inversement, varier légèrement dans la formulation tout en représentant des sens complètement différents. Les méthodes de CE existantes sont souvent évaluées dans des conditions statiques, échouant à déterminer si les scores de confiance restent cohérents sous des perturbations de prompts sémantiquement équivalentes ou s'ils s'ajustent correctement lorsque le sens sémantique d'une réponse change. Une méthode peut être bien étalonnée en moyenne tout en produisant des scores de confiance fluctuants pour des entrées sémantiquement identiques, ou échouer à distinguer des réponses sémantiquement différentes, conduisant à un comportement peu fiable dans les applications réelles où l'ingénierie de prompts et les variations de réponses sont courantes.

Méthodologie

Les auteurs proposent un cadre d'évaluation novateur basé sur trois propriétés complémentaires qui traitent spécifiquement de la variation linguistique. Ces métriques ne nécessitent pas d'étiquettes de vérité terrain de correction, s'appuyant plutôt sur plusieurs réponses générées dans différentes conditions.

1. Métriques proposées

• Robustesse aux perturbations de prompts (P-RB) : Mesure si une méthode de CE produit le même score de confiance lorsque le prompt d'entrée est modifié (par exemple, différentes instructions ou formulations) tandis que la réponse générée reste constante. Cela isole la variance du prompt du bruit de génération.
• Stabilité à travers des réponses sémantiquement équivalentes (A-STB) : Évalue si la méthode de CE attribue des scores de confiance cohérents à différentes réponses générées qui sont sémantiquement équivalentes (par exemple, « Lentille concave » vs « Concave »).
• Sensibilité aux réponses sémantiquement différentes (A-SST) : Mesure si la méthode de CE attribue des scores de confiance distincts lorsque le sens de la réponse change. Une méthode sensible doit détecter les changements sémantiques même si la forme de surface est similaire.

2. Configuration expérimentale

• Modèles : 11 LLMs répartis sur cinq grandes familles (Mistral, Llama 3, Qwen 2.5, OLMo 2, GPT-4o) allant de 7B à 123B paramètres.
• Ensembles de données : Quatre benchmarks de questions-réponses ouvertes (Natural Questions, SciQ, TriviaQA, PopQA) avec 1 000 échantillons de test chacun.
• Méthodes de CE : 10 méthodes diverses classées en :
  • Basées sur les logits : Vraisemblance de séquence, Probabilités boostées, Mise à l'échelle de Platt, P(Vrai).
  • Linguistiques : Confiance verbalisée.
  • Auxiliaires : Calib-1 (classificateur entraîné).
  • États internes : Score d'attention, Score caché, SAPLMA, P(IK).
• Procédure :
  • Robustesse : Décodage glouton avec 10 variations de prompts sémantiquement équivalentes.
  • Stabilité/Sensibilité : Décodage stochastique (température 0,7) pour générer 10 réponses échantillonnées par prompt. L'équivalence sémantique est déterminée à l'aide d'un LLM en tant que juge (GPT-4o).

Résultats clés

1. Indépendance par rapport aux métriques traditionnelles

Les métriques proposées (P-RB, A-STB, A-SST) sont largement indépendantes des métriques traditionnelles d'étalonnage et de discrimination (ECE, Brier, AUROC). L'analyse de corrélation (tau de Kendall) montre des corrélations faibles (par exemple, $\tau=0,26$ entre Sensibilité et AUROC), indiquant que les nouvelles métriques capturent des aspects de la qualité de la confiance précédemment négligés.

2. Performance des méthodes de CE

• Forte robustesse et stabilité : La plupart des méthodes de CE obtiennent des scores élevés en robustesse et en stabilité, suggérant qu'elles sont généralement cohérentes lorsque les prompts ou les réponses sémantiquement équivalentes varient.
• Déficit critique de sensibilité : La découverte la plus significative est que presque toutes les méthodes peinent avec la sensibilité. Elles échouent à ajuster les scores de confiance lorsque le sens de la réponse change.
  • Les méthodes s'appuyant sur des informations côté génération (par exemple, P(Vrai), SAPLMA, Vraisemblance de séquence) montrent une sensibilité plus élevée.
  • Les méthodes s'appuyant uniquement sur des informations côté question ou des tokens de question finaux (par exemple, P(IK)) sont presque complètement insensibles aux changements de réponse (A-SST $\approx$ 0).
  • Les méthodes de mise à l'échelle a posteriori (par exemple, Mise à l'échelle de Platt) ont tendance à comprimer les différences de confiance, réduisant davantage la sensibilité.

3. Lois d'échelle

Bien que les modèles plus grands montrent généralement une amélioration de l'étalonnage, l'amélioration des métriques proposées (robustesse, stabilité, sensibilité) avec l'échelle du modèle est modérée et incohérente. La mise à l'échelle seule ne résout pas le problème de sensibilité, suggérant que la taille du modèle n'est pas un proxy suffisant pour gérer la variation linguistique dans l'estimation de la confiance.

4. Aucune méthode universelle optimale

Aucune méthode de CE unique ne surpasse les autres sur toutes les métriques et tous les ensembles de données. Par exemple, P(IK) obtient le meilleur rang réciproque moyen (MRR) global mais performe mal en robustesse et en sensibilité. Cela met en évidence un compromis : les méthodes optimisées pour l'étalonnage manquent souvent de sensibilité, et vice versa.

Importance et affirmations

L'article soutient que l'étalonnage ne suffit pas pour évaluer les estimateurs de confiance dans les applications réelles. Les auteurs affirment :

1. Limites négligées : Les évaluations actuelles échouent à détecter que les méthodes de CE produisent souvent des scores de confiance peu fiables sous les variations linguistiques, échouant spécifiquement à distinguer des réponses sémantiquement différentes.
2. Orientation pour l'application : Le choix d'une méthode de CE doit être spécifique à l'application.
   • Les systèmes de questions-réponses destinés aux utilisateurs peuvent privilégier la robustesse pour maintenir un comportement cohérent sous les variations de prompts.
   • Le reclassement multi-candidats ou les configurations LLM en tant que juge nécessitent de la sensibilité pour distinguer efficacement les réponses concurrentes.
   • Les environnements contrôlés avec des prompts fixes peuvent toujours s'appuyer sur les métriques d'étalonnage traditionnelles.
3. Direction future : Le manque de sensibilité observé suggère que les méthodes de CE doivent mieux exploiter les informations côté génération (par exemple, le texte généré complet ou les états intermédiaires) plutôt que de s'appuyer uniquement sur des représentations basées sur le prompt ou des tokens de question.

Les auteurs concluent que leur cadre fournit une lentille nécessaire et complémentaire pour évaluer la CE, exposant des limites que les métriques traditionnelles manquent et offrant des orientations pratiques pour sélectionner des estimateurs en fonction des besoins spécifiques de déploiement.