When Context Misleads: Intent-Guided Decoding for Robust Retrieval-Augmented Generation

Les modèles de langage de grande taille sont des outils puissants capables de rédiger des histoires, de répondre à des questions et de résoudre des problèmes en s'appuyant sur la vaste quantité d'informations qu'ils ont mémorisées lors de leur entraînement. Cependant, ces modèles ne sont pas parfaits ; ils oublient parfois des faits ou inventent des détails qui semblent plausibles mais qui sont erronés. Pour remédier à cela, les chercheurs ont développé une méthode appelée génération augmentée par récupération. Cette approche agit comme un bibliothécaire pour le modèle : lorsqu'une question est posée, le système recherche d'abord dans une base de données de documents externes pour trouver des preuves pertinentes, puis transmet cette preuve au modèle en même temps que la question. L'espoir est que le modèle utilise cette information fraîche pour donner une réponse plus précise. Pourtant, ce système présente une faille cachée. Parfois, les documents qu'il trouve sont trompeurs, obsolètes ou même délibérément faux. Si le modèle fait aveuglément confiance à ces documents, il répétera leurs erreurs. Inversement, si le modèle ignore totalement les documents, il pourrait passer à côté d'informations utiles ou échouer à répondre à des questions qui nécessitent des détails spécifiques provenant d'un texte fourni. Le défi central est de savoir quand faire confiance à la preuve externe et quand se fier à sa propre connaissance interne.

Une équipe de chercheurs de l'Université de Sydney a proposé une nouvelle façon de résoudre ce dilemme, appelée Décodage Guidé par l'Intention (Intent-Guided Decoding). Au lieu de forcer le modèle à toujours faire confiance aux documents ou à les ignorer systématiquement, leur système s'appuie sur des instructions explicites de l'utilisateur pour déterminer la stratégie. Dans certaines situations, un utilisateur peut lire un rapport spécifique et vouloir que le modèle réponde strictement en se basant sur ce que dit ce rapport, même si le rapport contient une erreur. Dans d'autres situations, un utilisateur peut poser une question générale de vérification des faits et vouloir que le modèle ignore un document trompeur au profit de la vérité. Les chercheurs ont construit un cadre qui s'adapte à ces instructions spécifiques. Il fonctionne en demandant au modèle de générer trois réponses potentielles différentes simultanément : une basée sur la question originale de l'utilisateur, une basée strictement sur les documents fournis, et une basée uniquement sur sa propre mémoire interne. Le système compare ensuite ces trois flux de pensée. Si les documents et la mémoire interne sont en désaccord, le système vérifie les instructions de l'utilisateur pour décider quel chemin suivre. Si l'utilisateur a explicitement demandé une adhésion stricte au texte, le système penche vers le document. Si l'utilisateur a explicitement demandé la vérité, le système penche vers la mémoire interne, filtrant ainsi efficacement l'information trompeuse.

Les chercheurs ont testé cette approche sur une grande variété de questions et différents types de modèles de langage. Ils ont créé des scénarios où les documents fournis étaient corrects et des scénarios où ils étaient délibérément faux. Dans les cas où les documents étaient trompeurs, les systèmes standards qui suivaient aveuglément le texte donnaাient souvent de mauvaises réponses. Le nouveau système, cependant, a été capable de reconnaître le conflit et de basculer vers sa connaissance interne, récupérant la bonne réponse dans de nombreux cas. Sur les tests de référence où les documents étaient trompeurs, la nouvelle méthode a amélioré la précision des réponses de pas moins de 65,4 points de pourcentage par rapport à l'approche standard. Crucialement, cette amélioration ne s'est pas faite au détriment de l'omission d'informations utiles. Lorsque l'utilisateur demandait explicitement au modèle de suivre le texte fourni, le système continuait de le faire avec précision, même lorsque le texte était correct. Cela suggère que le système parvient à équilibrer deux besoins concurrents : être fidèle au matériel source lorsqu'il est requis, et être factuellement correct lorsque le matériel source n'est pas digne de confiance.

L'étude a également révélé que le simple fait de dire à un modèle d'être « prudent » ou de « vérifier les faits » ne suffit pas à l'empêcher d'être induit en erreur par de mauvais documents. Les chercheurs ont constaté que les modèles échouent souvent à se corriger eux-mêmes à moins qu'un mécanisme spécifique ne soit en place pour peser la preuve par rapport à l'intention de l'utilisateur. Leur méthode ne nécessite pas de réentraîner le modèle ni de modifier la façon dont il recherche l'information ; elle agit plutôt comme un filtre intelligent lors de l'étape finale de la génération d'une réponse. En analysant la confiance du modèle dans ses différentes réponses potentielles et en ajustant l'influence des documents selon leur fiabilité, le système peut effectuer des ajustements fins. Par exemple, si la mémoire interne est très confiante et que le document est incertain, le système oriente doucement la réponse vers la vérité. Si le document est solide et que l'utilisateur veut le suivre, le système laisse le document guider la réponse. Cette approche nuancée permet au modèle de gérer des situations complexes où la bonne réponse dépend entièrement de ce que l'utilisateur cherche à accomplir.

En fin de compte, ce travail souligne que la relation entre un modèle de langage et sa connaissance externe n'est pas une simple question de confiance ou de méfiance. C'est une négociation dynamique qui dépend du contexte de la conversation. Les chercheurs ont démontré qu'en rendant le modèle conscient de l'intention de l'utilisateur, il est possible de créer un système qui est à la fois fiable et flexible. Cela signifie qu'à l'avenir, ces outils pourraient être plus utiles pour des tâches allant de l'analyse stricte de documents juridiques, où le respect du texte est primordial, à des requêtes de connaissances générales, où l'évitement de la désinformation est la priorité. Les conclusions suggèrent que l'avenir de l'intelligence artificielle réside non seulement dans le fait de rendre les modèles plus intelligents, mais aussi dans le fait de les rendre meilleurs pour comprendre quand écouter et quand parler d'eux-mêmes.