Résumé technique : HalluWorld : un benchmark contrôlé pour l'hallucination via des modèles de monde de référence

1. Énoncé du problème

L'hallucination demeure un mode d'échec central des grands modèles de langage (LLM), pourtant les benchmarks existants l'opérationnalisent de manière incohérente à travers des tâches telles que le résumé, la réponse à des questions et la génération augmentée par la récupération. Les approches actuelles souffrent de deux limitations principales :

1. Fragmentation : Les benchmarks confondent souvent des modes d'échec distincts (par exemple, mal lire des faits versus mal se souvenir de décisions antérieures) sous une seule étiquette, rendant incertaine la généralisation d'une stratégie d'atténuation d'un contexte à un autre.
2. Manque de contrôle : Les benchmarks existants reposent soit sur une annotation humaine avec des références fixes (sujette à la mémorisation), soit sur des observations naturalistes dans des contextes difficiles à reproduire ou à faire varier systématiquement. Crucialement, l'environnement, l'observabilité du modèle et les politiques de résolution de conflits sont généralement fixes par conception, empêchant l'isolement de modes d'échec spécifiques.

L'article soutient que pour comprendre les causes profondes de l'hallucination, l'évaluation doit être ancrée dans une formulation unifiée où l'hallucination est définie comme une erreur observable par rapport à un monde de référence explicite.

2. Méthodologie : le cadre HALLUWORLD

Les auteurs présentent HALLUWORLD, un cadre de benchmark extensible fondé sur une formulation de « modèle de monde de référence ». Ce cadre décompose l'hallucination en trois composants explicites :

• Monde de référence ($W$) : Une vérité terrain entièrement spécifiée codant les états et les transitions.
• Fonction de vue ($V$) : Un mécanisme contrôlant ce que le modèle peut observer (observabilité partielle).
• Politique de conflit ($P$) : Une règle décidant comment les conflits entre sources observables (par exemple, observation directe versus témoignage écrit) sont résolus.

Une hallucination se produit lorsque la sortie du modèle contredit le monde de référence de vérité terrain. En rendant ces composants explicites, le cadre permet de soumettre les modèles à des tests de stress systématiques en faisant varier un facteur (par exemple, la complexité du monde) tout en maintenant les autres constants.

Environnements de benchmark

HALLUWORLD implémente ce cadre à travers trois domaines distincts, totalisant 33 niveaux de grille, 7 niveaux d'échecs et 110 tâches terminales, avec 1 718 questions de sondage au total :

1. HALLUWORLD-GRID : Construit sur MiniGrid, il s'agit d'environnements entièrement synthétiques et personnalisables. Ils offrent un contrôle élevé sur l'état du monde et les mécaniques (par exemple, feu, inondation, plaques de pression) avec un chevauchement minimal avec les données de préentraînement.
   • Sondages : Perceptuel (P), Mémoire (M), Causal (C), Incertitude (U) et Composé (X).
   • Sérialisation : Prend en charge les formats Symbolique, Grille (ASCII) et Mémoire pour tester comment la présentation affecte l'hallucination.
2. HALLUWORLD-CHESS : Un domaine régi par des règles avec une forte représentation dans les données d'entraînement. Il teste la capacité du modèle à gérer des a priori adverses (déroulements typiques de parties) face à des états de plateau observés.
   • Sondages : Perceptuel (lecture statique du plateau), Causal (simulation prospective des coups) et Mémoire (suivi de l'état sur de longues séquences de coups sans le plateau).
3. HALLUWORLD-TERMINAL : Ancré dans un déploiement d'agents réalistes utilisant des trajectoires issues du Terminal-Bench. Le monde de référence est un système de fichiers Linux en direct, et la vue est l'historique brut du terminal.
   • Sondages : Dérivés de tâches réelles d'ingénierie logicielle, testant des modes d'échec tels que la mémoire obsolète, le raisonnement inter-catégoriel et la surenchère d'incertitude.

Catégories de sondages

À travers tous les domaines, le benchmark utilise cinq catégories de compétences cognitives :

• Perceptuel (P) : Lecture précise des valeurs directement présentes dans l'observation actuelle.
• Mémoire (M) : Conservation des observations passées et suivi de l'état au fil du temps.
• Causal (C) : Raisonnement sur les relations de cause à effet et simulation prospective des actions.
• Incertitude (U) : Reconnaissance des limites des preuves et abstention de répondre lorsque le contexte est insuffisant.
• Composé (X) : Intégration des preuves à travers plusieurs sections de contexte ou environnements.

3. Contributions clés

1. Opérationnalisation unifiée : L'article introduit un cadre de benchmark qui opérationnalise l'hallucination comme une erreur observable par rapport à un monde de référence explicite et une politique de conflit, dépassant les scores agrégés pour parvenir à une catégorisation fine des erreurs.
2. Suite d'environnements contrôlés : Les auteurs implémentent le cadre dans trois domaines (Grille, Échecs, Terminal) comprenant 33 niveaux de grille uniques, 7 niveaux d'échecs et 110 tâches terminales. Toutes les étiquettes d'hallucination sont générées automatiquement par construction, éliminant le besoin d'annotation humaine.
3. Outils d'extensibilité : La publication d'un éditeur de niveaux et d'un enregistreur de trajectoires pour l'environnement de grille permet à la communauté de créer des tuples environnement-sondage complexes et d'étendre le benchmark à de nouveaux scénarios.

4. Résultats expérimentaux

Les auteurs ont évalué une douzaine de modèles de pointe et à poids ouverts (incluant GPT-4o/5, Claude Opus/Sonnet, o3, et des modèles ouverts comme Qwen et DeepSeek) dans ces contextes.

Résultats généraux

• Perception vs Raisonnement complexe : L'hallucination perceptuelle sur des informations directement observées est presque résolue pour les modèles de pointe. Cependant, le suivi d'état multi-étapes (Mémoire) et la simulation prospective causale restent des défis majeurs, même pour les modèles les plus performants.
• Le paradoxe de la « réflexion » : La réflexion prolongée (Chaîne de Pensée) montre des bénéfices inconstants. Bien qu'elle améliore légèrement la précision perceptuelle, elle aggrave souvent les hallucinations causales. Les auteurs émettent l'hypothèse que le raisonnement prolongé offre plus d'opportunités de confabuler des états intermédiaires plausibles plutôt que de faire confiance aux observations directes.
• Confiance dans la source : Les modèles privilégient systématiquement le témoignage écrit (par exemple, panneaux indicateurs, tableaux d'affichage) par rapport à l'observation directe, même lorsque le témoignage contredit le monde observable.
• Incertitude : Les modèles éprouvent des difficultés significatives avec l'abstention épistémique. Dans les contextes terminaux, même les meilleurs modèles hallucinent environ 25 % du temps lorsque la réponse correcte est « ne peut pas déterminer ».

Insights spécifiques aux domaines

• Grille : Une hiérarchie cohérente de difficulté a été observée : Incertitude < Perceptuel < Mémoire < Causal. Le format de l'état de l'environnement (sérialiseur) est un facteur indépendant d'hallucination ; par exemple, la sérialisation en grille a provoqué un échec catastrophique dans le suivi d'attributs entre observations pour des modèles puissants, tandis que les formats symboliques ont préservé la précision du comptage.
• Échecs : Les catégories de longues séquences (Mémoire et Composé) ont séparé les modèles de pointe des modèles plus faibles. Bien que les meilleurs modèles aient atteint la saturation sur les sondages perceptuels et causaux à court horizon, ils ont montré des modes d'échec distincts dans le suivi d'état à long horizon.
• Terminal : C'était le domaine le plus difficile. Aucun modèle n'a atteint la saturation dans aucune catégorie de sondage individuelle. Une anomalie notable était GPT-4o-mini, qui a montré un profil de mémoire inversé unique où les taux d'hallucination de mémoire dépassaient les taux causaux, suggérant des échecs spécifiques dans le suivi d'état à long horizon.

Expériences de navigation (InNav)

Dans un contexte de navigation interactive, les auteurs ont constaté que la navigation réduit souvent l'hallucination pour les modèles de raisonnement (via un ancrage épistémique) mais peut augmenter les erreurs dans les tâches de mémoire ou à long horizon en raison de la charge cognitive. L'impact de la navigation dépend fortement de la catégorie de tâche (par exemple, bénéfique pour les tâches causales, préjudiciable pour les tâches composées multi-zones).

5. Importance et revendications

L'article revendique que HALLUWORLD offre une voie évolutive et reproductible pour mesurer et réduire les hallucinations. En ancrant l'évaluation dans des environnements explicites et contrôlables, le benchmark :

• Démêle les modes d'échec : Il révèle que les hallucinations ne sont pas un échec de capacité sous-jacent unique mais découlent de modes qualitativement distincts (perception, mémoire, causalité, incertitude).
• Permet une intervention ciblée : La capacité d'isoler des conditions spécifiques (par exemple, témoignage adversaire, format de sérialisation) permet aux chercheurs de soutenir proactivement les modèles avec des interventions ciblées plutôt que de s'appuyer sur des métriques agrégées.
• Change de paradigme : Il déplace le domaine de métriques vagues ancrées dans la source vers un problème expérimentalement traitable où les hallucinations peuvent être diagnostiquées comme des erreurs de modélisation du monde.

Les auteurs concluent que si la précision perceptuelle s'améliore, la capacité à maintenir des états de monde précis au fil du temps et à raisonner sur les états futurs reste un problème non résolu pour les modèles de pointe, suggérant que le raisonnement seul peut ne pas suffire à atténuer les hallucinations sans interventions architecturales ou d'entraînement.