Résumé Technique : Faux Points Fixes dans les Grands Modèles de Langage

1. Énoncé du Problème

Les erreurs à haute confiance (hallucinations) dans les Grands Modèles de Langage (LLM) sont fréquemment interprétées comme des défaillances « fragiles », impliquant qu'une petite perturbation de l'entrée ou de l'état interne devrait facilement déloger la réponse incorrecte. Cet article remet en cause cette hypothèse en proposant l'existence de Faux Points Fixes : des états où un modèle est localement stable, intérieurement cohérent et faussement confiant.

Le problème central abordé est la divergence entre la stabilité locale (robustesse à la perturbation) et le suivi de la vérité (exactitude du jugement). Les auteurs soutiennent qu'un modèle peut échouer non pas parce que son raisonnement est fragile, mais parce que son jugement erroné est « verrouillé » par des dynamiques internes stables, un phénomène qualifié de mauvais calibrage stable.

2. Méthodologie

Cadre Théorique : Rétroaction Kantienne et Théorie du Contrôle

L'article cadre le problème à travers deux perspectives :

1. Auto-limitation Kantienne : S'inspirant de la Critique de la raison pure de Kant, les auteurs traitent la « critique » comme une porte de rétroaction régulatrice. Avant qu'un modèle ne s'engage sur une réponse, une politique devrait vérifier si les conditions d'un jugement justifié sont réunies (par exemple, la question est-elle répondable ? La réponse est-elle conceptuellement cohérente ?). Cela sépare la stabilité d'un engagement de la vérité de cet engagement.
2. Modèle d'État-Espace Linéaire-Gaussien : Pour formaliser la séparation entre stabilité et vérité, les auteurs utilisent un modèle de contrôle linéaire minimal. Ils définissent un opérateur d'erreur en boucle fermée $\Phi = A - KH$. Ils démontrent mathématiquement qu'un système peut avoir des dynamiques d'erreur bornées et stables ($\rho(\Phi) < 1$) tout en se stabilisant sur un état incorrect. Cela sert d'analogue théorique à un « faux point fixe ».

Métriques et Sondes

L'article introduit des métriques spécifiques pour quantifier ces concepts :

• $H_{Risk}$ (Indice Abstrait) : Un indice théorique pour les systèmes linéaires invariants dans le temps (LTI) composé de quatre descripteurs : marge d'instabilité, conditionnement, sensibilité intégrée et amplification de l'innovation.
• $H_{proxy}$ (Proxy d'Audit LLM) : Un score opérationnel, conscient des étiquettes, pour l'audit rétrospectif de domaine. Il combine :
  • Variation de Politique ($V_i$) : L'écart-type de la confiance auto-rapportée à travers différentes conditions de politique (réponse forcée, abstention prudente, auto-critique).
  • Masse Erronée Surestimée ($O_i$) : Un indicateur binaire signalant si une base de réponse forcée a produit une réponse incorrecte à haute confiance ($\ge 0,8$).
• Sonde de Sensibilité Interne : Pour tester l'hypothèse de « fragilité », les auteurs mesurent l'amplitude du mouvement de l'état caché ($S_\ell$) en réponse à de petites perturbations gaussiennes dans les plongements d'entrée. Ils comparent les éléments Corrects et Confiants (CC) avec les éléments Faux et Surestimés (OCW).

Configuration Expérimentale

• Modèles : Trois modèles instructés à poids ouverts : Llama-3.1-8B, DeepSeek-R1-Distill-Llama-8B et Qwen2.5-7B.
• Données : 532 éléments factuels binaires courts et à tour unique répartis sur 11 domaines thématiques.
• Politiques :
  • C0 : Base de réponse forcée (doit dire Oui/Non).
  • C1 : Jugement prudent (permet l'abstention uniquement pour les questions sous-spécifiées).
  • C2 : Jugement auto-critique (politique consciente du risque en un seul essai).
  • C3-R : Une porte de rétroaction explicite plus stricte, a posteriori, avec des « bloqueurs de justification » pré-déclarés (par exemple, données vagues, informations indisponibles) et un seuil fixe pour l'engagement.

3. Résultats Clés

A. La Stabilité n'Implique pas la Fragilité (Le Faux Point Fixe)

La découverte empirique centrale contredit l'hypothèse « faux signifie fragile ».

• Analyse de Sensibilité : Lors de la comparaison de la sensibilité de l'état caché ($S_\ell$) entre les groupes CC et OCW, les différences étaient négligeables.
  • Llama-3.1 : OCW était seulement +2,2 % plus sensible que CC.
  • Qwen2.5 : OCW était seulement +0,4 % plus sensible.
  • DeepSeek-R1 : +6,1 % (inconclusif dans la marge de $\pm 10\%$).
• Conclusion : Les réponses fausses et surestimées ne sont pas systématiquement plus fragiles localement que les réponses correctes et confiantes. Les réponses « fausses » sont souvent tout aussi inertes localement que les réponses « vraies », ce qui soutient l'existence d'un mauvais calibrage stable.

B. Le Compromis de l'Abstention

L'introduction de politiques conscientes de l'abstention (C1, C2) réduit les engagements erronés surestimés, mais au prix de la couverture.

• Réduction des Erreurs OC : C1 a réduit les erreurs à haute confiance de 21,1 % (C0) à 2,8 % ; C2 l'a réduite à 6,4 %.
• Coût de Couverture : Cette réduction s'est accompagnée d'une baisse significative du taux de réponse (C1 : 42,7 %, C2 : 57,1 % contre C0 : 100 %).
• Dépendance au Domaine : L'utilité de l'auto-critique variait selon le domaine. Elle a apporté le plus grand gain en Épidémiologie Médicale et en Statistiques Sociales, mais n'a offert aucun avantage (ou une utilité négative) dans les Normes Techniques et la Littérature/Médias.

C. Le Score d'Audit $H_{proxy}$

Le score $H_{proxy}$ proposé a identifié avec succès les domaines où la variation de confiance au niveau de la politique coïncidait avec des erreurs surestimées.

• Il a montré une forte corrélation de rang positive ($\rho = 0,71$) avec le gain de performance de la politique auto-critique (C2) par rapport à la base (C0).
• Bien que les métriques directes conscientes des étiquettes (comme le taux d'erreur C0) aient été de meilleurs classeurs purs, $H_{proxy}$ se distingue car il décompose l'audit en mouvement de politique et masse erronée, offrant une valeur interprétative sur où appliquer l'intervention.

D. Portes de Rétroaction Explicites (C3-R)

Le pilote C3-R, qui imposait des « bloqueurs de justification » stricts avant l'engagement, a réussi à supprimer les engagements erronés surestimés (jusqu'à 1,5 %). Cependant, cela s'est fait au prix d'une couverture sévèrement réduite (chutant à 13,4 % pour le seuil sélectionné par utilité) et n'a pas produit d'avantage de perte clair par rapport au prompt C2 plus simple. Cela suggère que, bien que les portes de rétroaction kantiennes puissent isoler la sécurité, elles ne constituent pas une politique d'amélioration des performances à elles seules.

E. Profils Épistémiques Spécifiques aux Modèles

L'article observe des comportements distincts dans les architectures de modèles :

• Qwen2.5 : Présente une très faible sensibilité locale malgré de grandes normes spectrales et des magnitudes d'activation. Les auteurs émettent l'hypothèse que cela est dû à une Inertie à Haut Rapport Signal/Bruit (SNR) : de grands états internes (normalisés par RMSNorm) compressent l'impact relatif des perturbations, rendant la trajectoire « inerte ».
• DeepSeek-R1 : Montre une sensibilité locale plus élevée et des normes d'activation plus modestes, suggérant un régime interne plus « réactif ».

4. Revendications et Signification

L'article formule trois revendications principales avec des degrés variables de force probante :

1. Cadrage Conceptuel (Fort) : La stabilité et le suivi de la vérité sont des dimensions épistémiques distinctes. Un modèle peut être localement stable et faussement confiant. Cela est soutenu par le modèle de contrôle linéaire et l'analogie de la rétroaction kantienne.
2. Résultat Négatif sur la Fragilité (Fort) : Dans les régimes testés, les éléments faux et surestimés ne sont pas systématiquement plus fragiles localement que les éléments corrects et confiants. L'explication de « calcul fragile » pour les hallucinations à haute confiance n'est pas soutenue par les sondes de sensibilité de l'état caché.
3. Audit et Mécanisme (Modéré/Exploratoire) :
   • $H_{proxy}$ est un outil d'audit rétrospectif utile pour identifier les domaines où les politiques d'abstention sont les plus pertinentes.
   • Le Mauvais Calibrage Stable est une catégorie utile pour l'audit, potentiellement pilotée par des mécanismes tels que l'Inertie à Haut SNR (compression de perturbation) ou la Compression Représentationnelle (où les distinctions pertinentes pour la vérité s'effondrent dans des régions sémantiques de rang faible).

Signification :
L'article soutient que la robustesse (stabilité) ne doit pas être confondue avec la vérité. Les métriques de fiabilité actuelles se concentrent souvent sur le fait de savoir si une réponse est cohérente ou incertaine ; ce travail met en évidence qu'un modèle peut être faussement et stablement erroné. Les auteurs proposent que la recherche future sur la sécurité doit séparer la mesure de la stabilité épistémique (robustesse à la perturbation) du suivi de la vérité, et que les « faux points fixes » représentent un mode de défaillance spécifique et stable que les tests simples d'auto-correction ou de perturbation peuvent ne pas détecter.

Limites Reconnues par l'Article :

• Le modèle linéaire-gaussien est une abstraction minimale, et non une réduction mécaniste des dynamiques des transformeurs.
• L'étude sur les LLM est limitée à un petit ensemble d'audit factuel binaire et à des modèles spécifiques à poids ouverts.
• $H_{proxy}$ est un score d'audit rétrospectif, et non un estimateur d'incertitude en temps de déploiement.
• La compression représentationnelle et l'inertie à haut SNR sont des mécanismes proposés qui nécessitent des diagnostics géométriques supplémentaires (par exemple, rang effectif, anisotropie) pour être établis empiriquement.