Résumé technique : Échecs de compression prévisibles

1. Énoncé du problème

L'article traite d'un problème critique de fiabilité dans l'adjudication binaire fondée sur des preuves utilisant des modèles Transformer. Dans des tâches telles que la classification support/réfute, les décisions oui/non, ou les jugements de passage/échec soutenus par un vérificateur, la sortie du modèle est souvent sensible à l'ordre dans lequel les segments de preuves échangeables sont présentés.

Bien que l'ensemble des preuves soit théoriquement échangeable (le réordonnancement ne devrait pas changer la valeur de vérité), les Transformers dotés de codages positionnels produisent des probabilités variables ($q_\pi$) pour différentes permutations ($\pi$) d'une même preuve. Cette « sensibilité à l'ordre » crée une dispersion dans les prédictions, menant à des réponses peu fiables ou à des taux d'abstention incohérents. Les auteurs soutiennent que l'entraînement par minimisation de la longueur de description conditionnelle attendue permet à un modèle d'être Bayes-optimal en moyenne, tout en s'écartant significativement d'un prédicteur invariant par permutation pour un ordre donné. Cet écart entre l'espérance (moyenne sur les ordres) et la réalisation (ordre fixe) constitue un « échec de compression prévisible ».

2. Méthodologie et cadre théorique

L'article formalise ce phénomène à travers deux lentilles théoriques principales : les Violations de Martingales Quantifiées (QMV) et la Loi de Décompression au niveau de l'Espérance (EDFL).

2.1 Violations de Martingales Quantifiées (QMV)

Les auteurs traitent l'ordre des preuves comme une variable de nuisance et modélisent la dispersion induite par la sensibilité positionnelle.

• Hypothèse : Le logit de la prédiction de Bernoulli présente une sensibilité aux rangs adjacents locaux avec un profil de décroissance spécifique (par exemple, une décroissance harmonique où la sensibilité $\propto t^{-\alpha}$).
• Théorèmes 1 & 2 : Sous ces hypothèses, la dispersion absolue attendue ($E_\pi |R_\pi|$) est bornée par la sensibilité cumulative du logit aux changements de rang.
  • Si la décroissance est harmonique ($\alpha=1$), la dispersion croît en $O(\log n)$.
  • Si la décroissance est plus lente ($\alpha < 1$), elle croît de manière polynomiale ($O(n^{1-\alpha})$).
  • Si la décroissance est plus rapide ($\alpha > 1$), la dispersion est bornée ($O(1)$).
• Proposition 2 : Fournit un certificat sans hypothèse préalable utilisant la divergence de Jensen-Shannon (JSD) pour borner la dispersion via l'inégalité de Pinsker.

2.2 Loi de Décompression au niveau de l'Espérance (EDDF)

L'EDFL traduit les bornes théoriques en métriques de déploiement exploitables pour l'adjudication binaire. Elle spécialise une convexité KL et une borne de traitement de données pour les prédicats de Bernoulli.

• Concept central : Elle établit le budget d'information minimal ($\bar{\Delta}$) requis pour déplacer une probabilité d'une masse a priori ($\bar{q}$) vers une masse a posteriori cible ($p$).
• Échelle des événements rares : Pour les événements rares, le budget requis croît selon $\log(1/\bar{q})$.
• Planificateurs opérationnels : L'EDFL produit des métriques sous forme fermée :
  • Bits-to-Trust (B2T - Bits pour la confiance) : Le budget d'information minimal nécessaire pour faire confiance à une réponse avec une fiabilité cible $p^\star = 1 - h^\star$. Calculé via $KL(Ber(p^\star) \| Ber(q_{lo}))$, où $q_{lo}$ est la borne inférieure conservatrice du mélange de permutations.
  • Risk-of-Hallucination (RoH - Risque d'hallucination) : Le risque résiduel impliqué par le budget mesuré.
  • Information Sufficiency Ratio (ISR - Ratio de suffisance d'information) : Le ratio entre le budget disponible et le budget requis ($\bar{\Delta} / B2T$).

2.3 Mécanisme de déploiement

Les auteurs proposent une règle de filtrage ISR fixe (Algorithme 1) :

• Règle de décision : Répondre si $ISR \ge 1$ ; sinon, s'abstenir ou acquérir plus de preuves.
• Implémentation : Cela implique d'échantillonner $m$ permutations des preuves, de calculer la probabilité du modèle pour chacune, de calculer le budget moyen $\bar{\Delta}$ (via la divergence KL) et de le comparer au seuil B2T.
• Distribution de référence : La méthode nécessite une distribution de référence $P_{ref}$ pour le prédicat $g$. Celle-ci peut être instanciée via des oracles déterministes (ex: recherches en base de données, tests unitaires), des étiquettes de référence lors de l'évaluation, ou des vérificateurs calibrés.

3. Contributions clés

1. Sensibilité à l'ordre quantifiée : L'article prouve une borne QMV montrant que la dispersion induite par la permutation suit une loi d'échelle en $O(\log n)$ sous une sensibilité positionnelle harmonique, fournissant des constantes explicites pour cette croissance.
2. L'EDFL comme spécialisation actionnable : Il dérive la Loi de Décompression au niveau de l'Espérance, convertissant des bornes de convexité abstraites en planificateurs à forme fermée (B2T, RoH, ISR) et une frontière de décision auditable de $ISR=1$.
3. Interface Réponse/Abstention déployable : Les auteurs définissent une procédure pratique (Algorithme 1) qui utilise des mélanges de permutations pour estimer la suffisance d'information, permettant aux modèles de rejeter des réponses lorsque le budget d'information est insuffisant pour garantir une fiabilité cible.

4. Validation empirique

La théorie a été validée sur 3 059 items ancrés provenant de FEVER, HotpotQA, NQ-Open, PopQA et d'un benchmark de contrôle personnalisé, en utilisant Qwen2-7B et Llama3.1-8B.

• Échelle de la dispersion (Expérience 1) :

  • Observation que les résidus absolus moyens suivent la loi d'échelle prédite $a + b \log n$.
  • Qwen2-7B a montré une pente de dispersion ($b \approx 0,377$) nettement plus élevée que Llama3.1-8B ($b \approx 0,147$), indiquant une plus forte sensibilité positionnelle.
  • Les mélanges de permutations uniformes ont produit des écarts de Jensen positifs (améliorations de l'entropie croisée), confirmant que la moyenne sur les ordres réduit la perte. Le mélange uniforme a été jugé proche de l'optimalité MDL, avec des écarts d'optimalité $< 10^{-4}$ nats/token.

• Dose-Réponse Causale (Expérience 2) :

  • Une étude randomisée faisant varier la « dose de support » (nombre de segments de preuves de support) tout en maintenant la longueur du prompt fixe.
  • Les résultats ont montré un lien causal : l'augmentation de la dose de support diminue l'estimation du budget d'information ($\bar{\Delta}$) et réduit les taux d'hallucination. La pente ajustée indique environ 12,7 hallucinations de moins par nat d'information supplémentaire de budget.

• Audit sur données non vues (Expérience 3) :

  • Un audit pré-spécifié sur 528 items non vus utilisant un modèle Gemma-2-9B affiné.
  • En utilisant la règle de filtrage $ISR=1$ analytiquement fixée (sans ajustement a posteriori), le système a atteint un taux d'hallucination de 0,0–0,7 % avec un taux d'abstention de 20,6–27,9 % (IC à 95 %).
  • Cela démontre la capacité du point de fonctionnement à échanger la couverture contre une haute fiabilité sans revendiquer une calibration universelle.

5. Signification et affirmations

L'article prétend fournir un point de fonctionnement falsifiable et hors échantillon pour l'IA fondée sur des preuves. Sa signification réside dans :

• Réconciliation entre entraînement et déploiement : Il explique pourquoi des modèles entraînés pour minimiser l'entropie croisée (espérance) peuvent encore échouer sur des ordonnancements spécifiques (réalisation) et offre une méthode pour combler cet écart.
• Au-delà de la calibration : Au lieu de s'appuyer sur des seuils de confiance appris qui peuvent manquer de généralisation, le filtre ISR est dérivé analytiquement de principes d'information (divergence KL).
• Fiabilité vérifiable : Le cadre est limité aux prédicats relatifs au vérificateur. Les auteurs précisent explicitement que leurs garanties sont relatives à une distribution de référence induite par une spécification, un outil déterministe ou un vérificateur calibré. Ils ne revendiquent pas de calibration universelle pour la génération non restreinte ou pour des modèles sans de tels primitives de vérification.

Ce travail se positionne comme une solution « orientée déploiement », offrant une règle concrète (Répondre si $ISR \ge 1$) qui permet aux systèmes de s'abstenir lorsque le budget d'information est insuffisant pour soutenir une fiabilité cible, contrôlant ainsi le risque d'hallucination dans les tâches ancrées.