Résumé technique : Découverte de régimes de mauvaise calibration cachés

Énoncé du problème

L'évaluation standard de la calibration repose sur l'hypothèse que la fiabilité d'un modèle est une fonction de son score de confiance uniquement. Cette approche agrège les prédictions par tranches de confiance (par exemple, diagrammes de fiabilité), traitant implicitement toutes les entrées ayant le même score de confiance comme interchangeables. Cependant, dans des domaines hétérogènes — en particulier avec les grands modèles de langage (LLM) — cette agrégation peut masquer des échecs locaux significatifs. Un modèle peut être systématiquement trop confiant sur une classe d'entrées et sous-confiant sur une autre, même lorsque les deux classes partagent des scores de confiance similaires. Dans de tels cas, des erreurs opposées s'annulent dans les métriques globales, conduisant à une fausse impression de comportement bien calibré.

Les méthodes d'analyse par tranches existantes peuvent révéler ces échecs, mais elles nécessitent des tranches de données prédéfinies ou des étiquettes de sous-groupes, qui sont souvent indisponibles ou insuffisantes dans des domaines complexes et de haute dimension où les régions de mauvaise calibration ne correspondent pas à des métadonnées évidentes. L'article aborde le problème de la découverte de ces « régimes de mauvaise calibration cachés » sans accès à des tranches prédéfinies ni à des probabilités de génération de données de vérité terrain, visant à récupérer des régions de l'espace d'entrée où le modèle présente une surconfiance ou une sous-confiance systématique.

Méthodologie

Les auteurs proposent un cadre diagnostique centré sur le champ de mauvaise calibration, défini comme l'erreur de calibration signée dépendante de l'entrée :
$$\delta(x) = E[Y - f(X) \mid X = x]$$
où $f(x)$ est la confiance du modèle et $Y$ l'étiquette vraie. Contrairement à la calibration classique qui conditionne sur $f(X)$, ce champ conditionne sur l'entrée $X$ elle-même.

Apprentissage d'une géométrie consciente de la calibration

Pour estimer $\delta(x)$, la méthode apprend une carte de représentation $\phi: \mathcal{X} \to \mathbb{R}^d$ qui organise les exemples ayant des comportements de calibration similaires à proximité les uns des autres. L'estimation se déroule en deux étapes :

1. Lissage par noyau dans l'espace appris :
   Étant donné un point de requête $x$, le champ de mauvaise calibration est estimé en lissant par noyau les résidus empiriques $r_i = y_i - f(x_i)$ sur l'espace de représentation appris :
   $$\hat{\delta}_\phi(x) = \frac{\sum_{i=1}^n K_\sigma(\phi(x), \phi(x_i)) r_i}{\sum_{i=1}^n K_\sigma(\phi(x), \phi(x_i))}$$
   où $K_\sigma$ est un noyau gaussien. Cela agit comme un estimateur de Nadaraya–Watson de la moyenne conditionnelle des résidus.

2. Fonction objectif :
   La représentation $\phi$ est entraînée pour maximiser la variabilité de la moyenne conditionnelle des résidus, séparant efficacement les régions de surconfiance des régions de sous-confiance. La fonction objectif maximise le second moment du champ estimé tout en empêchant l'« effondrement du voisinage » (où le modèle isole des points uniques pour s'adapter au bruit) :
   $$\mathcal{L}(\phi) = -\frac{1}{n}\sum_{i=1}^n \hat{\delta}_\phi(x_i)^2 + \lambda \frac{1}{n}\sum_{i=1}^n [\max(0, m_{\min} - m_i)]^2$$
   Ici, $m_i$ est la masse effective du voisinage. Le premier terme encourage la découverte de structures de résidus systématiques, tandis que le second terme régularise contre les voisinages isolés.

3. Sélection des hyperparamètres :
   Puisque le champ de vérité terrain $\delta(x)$ est inconnu dans les contextes réels, les hyperparamètres (bande passante du noyau $\sigma$, régularisation $\lambda$) sont sélectionnés à l'aide d'un proxy de validation. Le proxy minimise le score Brier des prédictions localement corrigées ($f(x) + \hat{\delta}_\phi(x)$) sur un ensemble de validation, évitant ainsi le besoin de métriques oracle.

Correction locale exploitable

Le champ appris $\hat{\delta}_\phi(x)$ sert d'outil diagnostique pour identifier où la calibration échoue. Il peut également être utilisé pour une correction locale de la confiance. Les auteurs proposent une carte de correction sensible à l'intervalle $\Delta_\alpha(x)$ qui préserve le signe de l'erreur estimée et sature de manière lisse aux limites de probabilité valides $[0, 1]$, garantissant que la confiance corrigée $\tilde{f}(x) = f(x) + \Delta_\alpha(x)$ reste une probabilité valide.

Contributions clés

1. Découverte de régimes cachés : L'article formule le problème de la découverte de régions cohérentes de surconfiance et de sous-confiance sans étiquettes de sous-groupes prédéfinies, traitant la calibration comme un problème de découverte dépendant de l'entrée.
2. Champs de mauvaise calibration : Il définit un champ de mauvaise calibration dépendant de l'entrée qui capture l'erreur de calibration signée à travers l'espace d'entrée, plutôt que uniquement comme une fonction des scores de confiance.
3. Géométrie consciente de la calibration : Un cadre diagnostique est introduit qui apprend une représentation où la moyenne locale des résidus expose des structures de calibration stables au niveau des régimes.
4. Preuves empiriques : Des expériences extensives sur quatre benchmarks réels (HH-RLHF, MedMCQA, MMLU, MMLU-Pro) et douze LLM démontrent que l'hétérogénéité de la calibration dépendante de l'entrée est prévalente mais non uniforme à travers les jeux de données et les familles de modèles.
5. Correction exploitable : Le champ appris prend en charge une correction ciblée de la confiance locale, réduisant l'erreur de calibration dans les régions à forte erreur où les méthodes post-hoc basées sur la confiance (comme la régression isotone et le recalibrage par température) sont moins efficaces.

Résultats

• Expériences synthétiques : La méthode récupère avec succès des structures de mauvaise calibration cachées connues (champs sinusoïdaux à la fois regroupés et variant de manière lisse) à partir de résidus de Bernoulli bruités. Elle démontre que les diagrammes de fiabilité globaux masquent souvent des erreurs locales substantielles en raison de l'annulation des erreurs.
• Benchmarks LLM :
  • Hétérogénéité : Une hétérogénéité de la calibration dépendante de l'entrée est observée dans de nombreux contextes. Certaines paires modèle-jeu de données présentent un biais homogène, tandis que d'autres montrent des régimes cachés prononcés de surconfiance et de sous-confiance.
  • Puissance diagnostique : Le champ appris identifie des régions où les métriques globales (comme smECE) sous-estiment considérablement l'erreur. Par exemple, sur HH-RLHF avec Qwen3-8B, le smECE global suggérait une mauvaise calibration modérée, mais le conditionnement sur le champ appris a révélé des sous-ensembles avec une erreur nettement plus élevée (smECE de 0,253 pour les sous-ensembles sous-confiants contre 0,120 globalement).
  • Efficacité de la correction : Bien que les méthodes basées sur la confiance (régression isotone, recalibrage par température) améliorent la calibration globale, elles dégradent souvent les performances sur les sous-ensembles déjà bien calibrés ou échouent à corriger des régimes de mauvaise calibration spécifiques. La méthode proposée réduit systématiquement l'erreur de calibration dans les régions de surconfiance et de sous-confiance sans dégrader les données bien calibrées.
  • Taille du modèle : Dans plusieurs familles de modèles, l'hétérogénéité de la calibration augmente avec la taille du modèle, suggérant que les capacités s'améliorent de manière non uniforme à travers les domaines.

Importance et affirmations

L'article affirme que la calibration ne doit pas être considérée uniquement comme une propriété globale des scores de confiance. La découverte de régions cachées de surconfiance et de sous-confiance est présentée comme une étape critique vers des estimations d'incertitude plus fiables pour les modèles déployés sur des tâches hétérogènes.

Les auteurs positionnent leur estimateur principalement comme un instrument diagnostique plutôt que comme une solution complète à la calibration locale. Son importance réside dans :

• La révélation de structures de résidus signés invisibles pour les diagnostics basés sur les scores.
• La fourniture d'un mécanisme pour tester si les champs appris sont exploitables pour une correction ciblée.
• L'offre d'un point de départ pour l'interprétabilité, car la géométrie apprise peut être inspectée pour comprendre où la calibration échoue, même si les raisons sémantiques spécifiques de l'échec nécessitent une investigation ultérieure.

Le travail souligne que, bien que la méthode améliore la fiabilité dans des régimes spécifiques, elle dépend des données étiquetées disponibles et peut ne pas détecter les échecs dans les groupes sous-représentés ou les conditions de déploiement non couverts par la distribution d'entraînement. Ainsi, elle est préconisée comme un composant d'un pipeline d'évaluation plus large, aux côtés de la validation spécifique à la tâche et de la supervision humaine.