Résumé Technique : Clarifier, S'abstenir ou Répondre ? Stratégies dans la Conversation avec Génération Augmentée par la Croyance

Énoncé du Problème

Les Grands Modèles de Langage (LLM) définissent une distribution probabiliste sur le texte, qui sert de représentation de l'incertitude ou de la « croyance ». Bien que la recherche existante exploite cette distribution pour des tâches étroites comme le décodage (par exemple, le Risque Bayésien Minimum) ou la prédiction sélective (par exemple, la détection d'hallucinations via l'entropie sémantique), ces approches nécessitent généralement des interventions manuelles, des décodeurs externes ou un fine-tuning. Crucialement, les LLM standards ne disposent pas de mécanisme pour « s'auto-introspecter » ou exploiter directement leur propre incertitude probabiliste lors de la génération. Les preuves empiriques suggèrent que, sans guidance explicite, les LLM clarifient rarement les entrées ambiguës ou s'abstiennent de répondre en cas d'incertitude ; ils optent plutôt par défaut pour des réponses directes, ignorant souvent l'ambiguïté de l'entrée ou les incohérences factuelles internes. Cela conduit à des hallucinations ou à des réponses incorrectes dans des contextes de Question-Réponse (QA) ambigus à plusieurs tours.

Méthodologie : Génération Augmentée par la Croyance (BAG)

Les auteurs proposent la Génération Augmentée par la Croyance (BAG), un cadre sans entraînement qui ancre les LLM dans leur propre état de croyance pour permettre des stratégies conversationnelles plus riches : répondre directement, demander une clarification ou s'abstenir.

Mécanisme Central

BAG fonctionne selon un processus en deux étapes :

1. Construction de l'État de Croyance : Étant donné une entrée $x$, le modèle génère $K$ échantillons ($Y^{(1)}, \dots, Y^{(K)}$) par échantillonnage Monte-Carlo. Contrairement aux méthodes qui réduisent ces échantillons à une seule métrique (par exemple, l'entropie ou le vote majoritaire), BAG conserve l'ensemble complet des $K$ réponses textuelles comme état de croyance $B_\theta(x)$. Cet état capture non seulement la diversité des réponses plausibles, mais aussi des indices linguistiques tels que les atténuations, les refus ou les variations contextuelles.
2. Raisonnement Stratégique : Le modèle est sollicité avec la question utilisateur originale et les $K$ réponses candidates (l'état de croyance). Il reçoit l'instruction d'analyser cet état et de sélectionner l'une des trois stratégies suivantes :
   • Réponse Directe : Si l'état de croyance montre une forte cohérence (faible incertitude) concernant la réponse.
   • Clarification : Si l'état de croyance contient des réponses plausibles sémantiquement distinctes correspondant à différentes interprétations de la question (incertitude/ambiguïté des données).
   • Abstention : Si l'état de croyance contient des faits contradictoires indiquant un manque de connaissances (incertitude épistémique/hallucination) où aucune clarification utile n'existe.

Variantes de Prompt

Les auteurs explorent trois variantes de prompt (BAG1, BAG2, BAG3) avec une complexité croissante dans les instructions :

• BAG1 : Vérification de base de la cohérence.
• BAG2 : Intègre un langage spécifique à l'incertitude et distingue l'ambiguïté (clarifier) de l'hallucination (s'abstenir).
• BAG3 : Exige que le modèle regroupe les générations par sens, interprète les groupes, puis décide d'une stratégie.
• BAG+ : Une extension où, si le modèle choisit de clarifier, il simule une réponse utilisateur (en utilisant un LLM auxiliaire) et réévalue l'état de croyance pour décider d'une réponse finale ou d'une abstention supplémentaire.

Contributions Clés

1. Accès Direct aux États de Croyance : L'article introduit une méthode pour alimenter directement le prompt avec la représentation textuelle brute de l'incertitude d'un modèle, permettant au modèle de raisonner sur sa propre distribution sans outils externes ni entraînement.
2. Sélection de Stratégie : Contrairement aux travaux antérieurs axés sur la sélection d'une seule génération ou l'atténuation d'une affirmation, BAG permet au modèle de choisir dynamiquement entre répondre, clarifier ou s'abstenir en fonction de la nature de son incertitude.
3. Applicabilité Sans Entraînement : L'approche ne nécessite aucun fine-tuning, aucune donnée externe ni accès aux poids du modèle, la rendant applicable aux modèles ouverts et fermés.
4. Analyse Empirique du Routage : L'étude fournit une décomposition détaillée de la manière dont les modèles acheminent les questions vers différentes stratégies et évalue la fidélité de ces décisions à l'entropie de l'état de croyance sous-jacent.

Résultats

Des expériences ont été menées sur le jeu de données AmbigQA (1 832 questions ambiguës) à travers six modèles (OLMo2/3, Qwen3, Gemini-2.5-Flash).

• Gains de Performance : BAG améliore considérablement la précision de la QA par rapport à la génération directe standard et aux baselines basées uniquement sur le prompt (Génération Augmentée par Stratégie, SAG). Dans de nombreux cas, BAG+ surpasse même l'« oracle de désambiguïsation » (qui fournit l'intention correcte), démontrant que le modèle peut identifier avec succès quand il manque de connaissances factuelles et s'abstenir plutôt que de deviner.
• Fidélité : Les décisions stratégiques de BAG sont plus fidèles à l'entropie de l'état de croyance interne du modèle que celles de SAG. À mesure que l'entropie de l'état de croyance augmente, les modèles BAG choisissent de plus en plus de clarifier ou de s'abstenir, tandis que SAG et la génération directe le font rarement.
• Décomposition Stratégique : Les gains de précision sont pilotés par des mécanismes différents selon le modèle. Par exemple, pour les modèles Qwen, l'amélioration est principalement pilotée par la stratégie d'abstention (évitant les hallucinations), tandis que pour Gemini, les contributions de la clarification et de la réponse directe sont plus équilibrées.
• Défis de la Désambiguïsation : Bien que BAG améliore les performances, la distinction entre la variation d'interprétation (nécessitant une clarification) et la variation d'hallucination (nécessitant une abstention) reste difficile. Les modèles génèrent parfois une « ambiguïté perçue » pour expliquer des incohérences factuelles, conduisant à des questions de clarification qui peuvent confondre les utilisateurs.
• Compromis de Breveté : L'utilisation de prompts induisant la brièveté réduit considérablement les coûts en tokens (jusqu'à 10 fois) mais peut éliminer les indices contextuels nécessaires au modèle pour détecter l'ambiguïté, impactant légèrement la précision.

Importance et Revendications

L'article affirme que BAG représente une étape vers des interactions LLM plus robustes et honnêtes en permettant aux modèles d'exploiter leur propre incertitude probabiliste pour guider le flux conversationnel. Les auteurs soulignent que :

• Les LLM standards répondent par défaut même en cas d'incertitude ; BAG corrige cela en rendant l'incertitude explicite et exploitable.
• La capacité de s'abstenir sur la base d'états de croyance internes est cruciale pour la QA factuelle, car de nombreuses erreurs proviennent d'un manque de connaissances plutôt que d'une ambiguïté d'entrée.
• Bien que la méthode soit efficace, la distinction entre l'ambiguïté et l'hallucination dans l'état de croyance n'est pas encore parfaite, et les travaux futurs devraient se concentrer sur l'amélioration de la qualité des états de croyance et le raffinement de la logique de routage.
• L'approche est une solution pratique et immédiate pour améliorer la fiabilité de la QA sans le coût du réentraînement, bien qu'elle engendre un coût computationnel de $K$ échantillons plus le prompt de raisonnement.

Les auteurs concluent que, bien que BAG améliore la précision et la fidélité, la « désambiguïsation » du moment où il faut clarifier par rapport au moment où il faut s'abstenir reste un défi ouvert, d'autant plus que les états de croyance reflètent les sorties plausibles du modèle plutôt qu'une vérité terrain garantie.