Résumé Technique : Où la Raison Se Brise-t-elle ? Détection des Hallucinations au Niveau des Étapes via la Géométrie du Transport des États Cachés

1. Définition du Problème

Les modèles de langage de grande taille (LLM) hallucinent fréquemment lors de tâches de raisonnement multi-étapes, générant des étapes intermédiaires fluides mais incorrectes qui propagent des erreurs vers la sortie finale. Les méthodes de détection existantes souffrent de trois limitations principales :

1. Agrégation au Niveau de la Trace : La plupart des détecteurs (par exemple, l'entropie sémantique, la cohérence de soi, SelfCheckGPT) attribuent un score de confiance unique à une sortie entière, échouant à localiser la première erreur.
2. Surcharge d'Inférence : Des méthodes comme la cohérence de soi nécessitent plusieurs passages avant et échantillonnages, ce qui est coûteux en calcul.
3. Statique vs Dynamique : Les techniques de sondage actuelles analysent souvent des énoncés factuels statiques plutôt que la dynamique d'une trajectoire de raisonnement en déployage.

L'article postule que détecter le moment précis où le raisonnement se brise (localisation de la première erreur) en un seul passage avant est une condition préalable à un déploiement digne de confiance. Le défi central consiste à identifier où une chaîne de raisonnement dévie d'un chemin cohérent sans recourir à des vérificateurs externes, à l'échantillonnage ou à des étiquettes au moment de l'inférence.

2. Méthodologie : GeoReason

Les auteurs proposent GeoReason, un cadre qui traite la séquence des représentations cachées dans un seul passage avant comme une trajectoire dans l'espace des représentations. L'hallucination est présentée non pas comme une erreur sémantique, mais comme une excursion localisée dans le coût de transport s'éloignant d'une variété stable de transitions localement cohérentes.

Le système se compose de deux composants : un Enseignant Conditionné par l'Étiquette et un Étudiant Déployable.

2.1. L'Enseignant (Limite Supérieure Diagnostique)

L'enseignant est un modèle non déployable utilisé pour quantifier l'existence d'un signal géométrique dans les états cachés. Il fonctionne comme suit :

• Normalisation de la Trace : Pour une trace étiquetée, l'enseignant calcule un système de coordonnées local centré sur le « préfixe correct » (étapes avant la première erreur). Il normalise les états cachés par rapport à la moyenne et la variance de ces étapes correctes.
• Lentille PCA Contrastive (cPCA) : L'enseignant apprend une matrice de projection $U$ en utilisant la PCA contrastive. Cette lentille est optimisée pour maximiser la séparation entre la distribution des transitions correctes ($P_0$) et celle des transitions de première erreur ($P_1$), tout en supprimant les directions à haute variance inhérentes au raisonnement correct.
  • L'objectif maximise la séparation de transport : $\Gamma(U) = \text{Tr}(U^\top M U)$, où $M = (\mu_1 - \mu_0)(\mu_1 - \mu_0)^\top + C_1 - \alpha C_0$.
• Extraction de Caractéristiques Géométriques : Dans l'espace projeté, l'enseignant extrait un bloc de caractéristiques pour chaque étape, incluant :
  • Position : Distance par rapport à la variété correcte.
  • Mouvement : Vitesse ($\|\Delta z_t\|$) et accélération ($\|\Delta^2 z_t\|$).
  • Persistance Directionnelle : Similarité cosinus entre les vecteurs de transition consécutifs.
• Notation : Un MLP léger mappe ces caractéristiques géométriques vers une probabilité d'hallucination au niveau de l'étape.

2.2. L'Étudiant (Détecteur Déployable)

L'étudiant est un modèle BiLSTM déployable conçu pour fonctionner sans étiquettes au moment de l'inférence, sans échantillonnage ni vérificateurs externes.

• Architecture : Il prend les états cachés bruts en entrée et produit des probabilités au niveau de l'étape.
• Entraînement par Distillation : L'étudiant est entraîné à reproduire le signal d'instabilité de l'enseignant en utilisant un mélange de :
  1. Perte Supervisée : Entropie croisée binaire standard sur les étiquettes d'étape.
  2. Distillation de Connaissance : Divergence de Kullback-Leibler (KL) entre les distributions de probabilité de l'étudiant et de l'enseignant (cibles douces).
  3. Distillation de Caractéristiques : Une tête auxiliaire force l'étudiant à correspondre aux représentations de caractéristiques géométriques de l'enseignant.
• Inférence : L'étudiant effectue un seul passage avant. La première erreur prédite est la première étape où la probabilité dépasse un seuil $\theta$.

3. Contributions Théoriques

L'article fournit trois garanties théoriques clés :

1. Optimalité de la cPCA (Théorème 3.1) : Il prouve que la PCA contrastive est la projection optimale pour maximiser la séparation de transport entre les états de première erreur et les états corrects sous un objectif de distance de Wasserstein 2 au carré.
2. Limite de Localisation (Théorème 3.2) : Il établit que la localisation de la première erreur en un seul passage est garantie si la première erreur crée une « marge de transport » positive par rapport aux transitions correctes précédentes. L'erreur n'a pas besoin de rester anormale indéfiniment ; la détection ne nécessite que la première étape incorrecte pour créer une excursion détectable.
3. Condition de Distillation (Proposition 3.3) : Elle réduit l'accord entre l'enseignant et l'étudiant à une condition de préservation de la marge. Si l'étudiant préserve la marge de décision de l'enseignant sous des décalages de distribution, l'index de la première erreur sera identique.

4. Résultats Expérimentaux

La méthode a été évaluée sur ProcessBench, PRM800K, HaluEval et TruthfulQA.

4.1. Performance en Domaine

• Détection au Niveau de l'Étape : Les deux modèles ont surpassé les bases de référence basées sur l'entropie, le sondage et l'attention. L'enseignant a obtenu le meilleur AUROC sur trois des quatre jeux de données (par exemple, 96,0 sur TruthfulQA). L'étudiant a obtenu les meilleures performances sur PRM800K (99,8 AUROC).
• Localisation de la Première Erreur : L'enseignant et l'étudiant ont significativement surpassé les bases de référence pour identifier l'étape exacte où le raisonnement s'est brisé. Par exemple, l'étudiant a atteint une précision de 96,8 % sur TruthfulQA.

4.2. Généralisation et Obstacles au Déploiement

• Transfert Inter-Modèles : L'enseignant a démontré une performance stable à travers différentes familles de modèles (Qwen, Llama, Mistral), confirmant qu'un signal géométrique existe dans les espaces cachés indépendamment du modèle spécifique.
• Effondrement de l'Étudiant : L'étudiant a bien performé lorsqu'il a été testé sur le même modèle sur lequel il a été entraîné, mais s'est effondré vers une performance proche du hasard (AUROC ~33–58 %) lorsqu'il a été évalué sur différentes familles de modèles ou jeux de données.
• Analyse : L'article attribue cet écart à l'échec de l'étudiant à préserver la marge de transport sous un décalage de distribution. Alors que l'enseignant capture un signal d'instabilité mécaniste intrinsèque à la géométrie des erreurs, l'étudiant apprend un signal représentatif qui absorbe les particularités d'encodage spécifiques au modèle, échouant à généraliser lorsque la distribution sous-jacente change.

5. Signification et Revendications

L'article revendique de reconsidérer la détection des hallucinations au niveau de l'étape comme un problème de dynamique de trajectoire plutôt que de vérification sémantique statique.

• Cadrage Géométrique : Il introduit une nouvelle perspective où les hallucinations sont des « excursions localisées » dans le coût de transport des états cachés, distinctes de la variété stable du raisonnement cohérent.
• Diagnostique vs Déployable : En séparant l'existence d'un signal (enseignant) de la capacité à le récupérer sans étiquettes (étudiant), les auteurs identifient l'obstacle central au déploiement : préserver la marge de transport contrastive sous un décalage de distribution.
• Rigueur Théorique : Ce travail fournit la première justification théorique pour l'utilisation de la PCA contrastive dans ce contexte et établit les conditions sous lesquelles la localisation en un seul passage est mathématiquement garantie.

Les auteurs concluent que, bien que le signal géométrique pour la détection de la première erreur soit robuste et transférable (comme le montre l'enseignant), les méthodes de distillation actuelles sont insuffisantes pour un déploiement inter-domaines car elles échouent à préserver la marge critique requise pour des frontières de décision fiables.