Résumé technique : Les LLM peuvent-ils refuser des questions qu'ils ne connaissent pas ? Mesure du refus conscient des connaissances dans les tâches factuelles

Énoncé du problème

Les grands modèles de langage (LLM) sont de plus en plus déployés pour des tâches factuelles intensives en connaissances. Cependant, ils souffrent fréquemment d'une mauvaise calibration, fournissant des réponses incorrectes avec une forte confiance (hallucinations). Un mécanisme de sécurité critique est le refus conscient des connaissances : la capacité d'un modèle à décliner de répondre à des questions qui dépassent ses limites de connaissances. Bien que des travaux récents aient exploré l'induction de refus par le biais de l'incitation (prompting) ou du fine-tuning, les métriques d'évaluation existantes échouent à mesurer avec précision cette capacité. Les métriques traditionnelles, telles que les taux de refus ou les combinaisons de précision et de refus (par exemple, le score F), sont souvent heuristiques, sensibles aux changements induits par le prompt dans la fréquence des refus, et ne parviennent pas à capturer la corrélation fondamentale entre la décision d'un modèle de refuser et l'incorrectitude réelle de la réponse qu'il aurait fournie.

Méthodologie : L'Indice de Refus (RI)

Pour combler ces lacunes, les auteurs proposent l'Indice de Refus (RI), une nouvelle métrique conçue pour quantifier le refus conscient des connaissances.

Définition

Le RI est défini comme la corrélation de rang de Spearman entre la probabilité de refus ($r_i$) d'un modèle et sa probabilité d'erreur ($w_i$) sur un ensemble de questions.
$$\text{RI} = \rho_S = \text{Corr}(\text{Rang}(r_i), \text{Rang}(w_i))$$
Un RI parfait de 1 indique qu'un modèle refuse systématiquement les questions les plus difficiles (propices aux erreurs) et répond aux plus faciles. Un RI de 0 implique un comportement de refus aléatoire. Contrairement aux métriques de calibration qui mesurent les écarts absolus (par exemple, l'erreur de calibration attendue), le RI se concentre sur le rang de difficulté, ce qui le rend robuste aux variations des taux globaux de refus.

Cadre d'évaluation en deux passes

Puisque les probabilités de refus sont latentes (un modèle refuse ou répond lors d'une seule passe), les auteurs introduisent une méthode d'évaluation en deux passes légère pour estimer le RI :

1. Première passe : Le modèle est évalué sur un jeu de données factuelles avec un prompt système lui permettant de répondre ou de refuser. Les réponses sont classées comme Correctes, Incorrectes ou Refusées. Cela permet d'obtenir le taux de refus ($r$) et la précision des réponses tentées.
2. Deuxième passe : Pour les questions refusées lors de la première passe, le prompt système est mis à jour pour forcer le modèle à répondre (en supprimant l'option de refus). L'exactitude de ces réponses forcées est enregistrée.
3. Calcul : En utilisant la distribution conjointe des décisions de refus et de l'exactitude des réponses forcées, les auteurs modélisent la relation à l'aide d'une copule gaussienne. Ils estiment le paramètre de corrélation ($\rho$) par vraisemblance maximale sur le tableau de contingence $2 \times 2$ résultant et le convertissent en corrélation de rang de Spearman ($\rho_S$) en utilisant la formule standard : $\rho_S = \frac{6}{\pi} \arcsin(\frac{\rho}{2})$.

Contributions clés

1. Indice de Refus (RI) : Une métrique rigoureuse qui mesure directement l'alignement entre les décisions de refus et l'incorrectitude des réponses, indépendamment de la précision globale d'un modèle ou de son taux de refus.
2. Évaluation légère : Un protocole en deux passes qui ne nécessite que des évaluations standard en boîte noire (sans modèles auxiliaires, accès à l'état interne ou estimation coûteuse de la confiance basée sur l'échantillonnage) pour calculer le RI.
3. Validation empirique : Des expériences extensives sur 16 modèles (incluant des modèles open-source et propriétaires comme Qwen, Llama, Claude, GPT et Gemini) et 5 jeux de données (SimpleQA, PreciseWikiQA, FaithEval, etc.).
4. Insights sur la fiabilité des modèles : L'étude révèle qu'une haute précision factuelle ne garantit pas un comportement de refus fiable, identifiant un écart persistant dans les capacités actuelles des LLM.

Résultats expérimentaux

• Stabilité : Le RI reste stable à travers différents taux de refus induits par la variation des prompts système. En revanche, les métriques heuristiques (par exemple, score F, score pondéré) fluctuent considérablement (jusqu'à 70 % de variation) lorsque les taux de refus changent, échouant à capturer une capacité sous-jacente cohérente.
• Corrélation avec la calibration : Le RI montre une forte corrélation positive (85,8 %) avec les scores AUROC dérivés de l'estimation d'incertitude basée sur l'échantillonnage ($P(\text{Réponse})$), validant sa fidélité en tant que mesure de calibration des rangs.
• Classement des modèles : Le RI fournit un classement cohérent des modèles indépendant de la précision et des taux de refus. Lorsque les effets monotones de la précision et des taux de refus sont éliminés, les métriques heuristiques se dégradent vers une stabilité proche du hasard, tandis que le RI conserve une haute cohérence de classement.
• Influence de la famille de modèles : Le prédicteur le plus fort de la capacité de refus conscient des connaissances est la famille de modèles (pipeline d'entraînement et données), plutôt que l'échelle du modèle ou la précision générale. Par exemple, les modèles Claude et Qwen surpassent systématiquement les autres en termes de RI, tandis que les variantes Gemini et GPT-4.1 tombent souvent en dessous de la ligne de régression.
• Sensibilité au contexte : Les modèles présentent une performance de refus dégradée lorsque la vérité terrain n'est pas disponible dans le contexte fourni (par exemple, dans les scénarios « Inrépondable » ou « Incohérent »), suggérant une sur-reliance sur les indices contextuels plutôt que sur la calibration des connaissances internes.

Importance et revendications

L'article affirme que le RI capture une dimension essentielle, précédemment négligée, de la fiabilité des modèles. Alors que les évaluations factuelles actuelles se concentrent sur la précision ou les taux d'hallucination, le RI met en évidence que même les modèles à haute précision peuvent posséder des comportements de refus peu fiables et fragiles.

Les auteurs soutiennent que :

1. L'incitation (prompting) est insuffisante : Instruire simplement les modèles à être « plus prudents » augmente les taux de refus mais n'améliore pas la qualité des décisions de refus (le RI reste stable et loin du parfait).
2. Nécessité de nouvelles normes d'évaluation : L'évaluation complète de la factualité doit intégrer des mesures de refus conscient des connaissances. S'en remettre uniquement à la précision ou aux métriques de calibration standard peut masquer des risques significatifs dans le déploiement des modèles.
3. Utilité pratique : L'évaluation du RI en deux passes offre une alternative pratique et peu coûteuse aux méthodes de calibration onéreuses, permettant des comparaisons plus fiables de la connaissance de soi des modèles sans nécessiter d'accès en boîte blanche ou d'entraînement auxiliaire.

L'étude conclut que, si les LLM s'améliorent en précision factuelle, leur capacité à juger avec précision les limites de leurs propres connaissances reste un défi critique nécessitant une mesure et une amélioration dédiées.