💬 NLP

QUACK: Questioning, Understanding, and Auditing Communicated Knowledge in Multimodal Social Deduction Agents

Ce papier présente QUACK, un cadre de déduction sociale multimodal open source qui audite les agents de modèles de langage de grande taille en reconstruisant des trajectoires de vérité terrain pour détecter et quantifier automatiquement les hallucinations, les accusations non étayées et les incohérences entre le langage et les actions.

Auteurs originaux : Ye Yuan, Rui Song, Weien Li, Zeyu Li, Haochen Liu, Xiangyu Kong, Changjiang Han, Yonghan Yang, Zichen Zhao, Zixuan Dong, Fuyuan Lyu, Bowei He, Haolun Wu, Jikun Kang, Xue Liu

Publié 2026-05-27

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Ye Yuan, Rui Song, Weien Li, Zeyu Li, Haochen Liu, Xiangyu Kong, Changjiang Han, Yonghan Yang, Zichen Zhao, Zixuan Dong, Fuyuan Lyu, Bowei He, Haolun Wu, Jikun Kang, Xue Liu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un groupe d'amis jouant à une partie à enjeux élevés de "Among Us" ou "Werewolf". Dans ce jeu, certains joueurs sont des "Crewmates" qui tentent de réparer le vaisseau, tandis qu'un seul est un "Impostor" cherchant à les saboter. Le hic ? Tout le monde doit parler, mentir et s'accuser mutuellement pour déterminer qui est qui.

Maintenant, imaginez remplacer les joueurs humains par des robots IA avancés (spécifiquement, des modèles vision-langage). Ces robots peuvent voir la carte du jeu, se déplacer et parler entre eux.

L'article présente un nouvel outil appelé QUACK (Questioning, Understanding, and Auditing Communicated Knowledge). Considérez QUACK comme un arbitre surpuissant qui ne se contente pas de regarder qui gagne la partie, mais vérifie réellement si les robots disent la vérité sur ce qu'ils ont vu et fait.

Voici le détail de son fonctionnement et des découvertes, en utilisant des analogies simples :

Le Problème : Gagner ne signifie pas être honnête

Dans la plupart des tests précédents, les chercheurs ne regardaient que le score final : "L'IA a-t-elle gagné ?"

Le Défaut : Une IA pouvait gagner le jeu en mentant parfaitement, ou perdre alors qu'elle raisonnait logiquement. Tout comme dans une vraie salle d'audience, un verdict de "Coupable" ou "Non Coupable" ne vous dit pas si les preuves étaient réelles ou si l'avocat a simplement très bien parlé.
Le Vide : Jusqu'à présent, nous n'avions pas de moyen de vérifier si les paroles d'une IA correspondaient réellement à ce que ses "yeux" et ses "pieds" avaient réellement expérimenté.

La Solution : QUACK (Le Disant-Vérité)

QUACK est un environnement de jeu et un système de notation conçus spécifiquement pour déceler les mensonges de l'IA.

Le Jeu : Les agents IA jouent sur une carte numérique avec des pièces et des couloirs. Ils peuvent voir leur environnement (images) et recevoir des résumés textuels. Ils doivent se déplacer, accomplir des tâches et parler.
Le Journal Secret : Dans les coulisses, le moteur du jeu tient un journal parfait, tick par tick, de l'endroit exact où chaque robot se trouvait, de ce qu'il a vu et de ce qu'il a fait. C'est la "Vérité Terrain".
L'Audit (La Partie Magique) : Après le jeu, QUACK prend chaque phrase prononcée par les robots lors de leurs discussions et la compare à ce journal secret.
- Exemple : Si un robot dit "J'ai vu Bob dans la Cafétéria", QUACK vérifie le journal. Si le journal indique que Bob était en fait dans la Salle des Machines, QUACK le signale comme une hallucination.

Les Quatre Façons dont l'IA "Échoue" (Les Résultats de l'Audit)

Les chercheurs ont découvert que même les modèles d'IA les plus intelligents commettent quatre types spécifiques d'erreurs lorsqu'ils tentent de mentir ou de dire la vérité dans ce jeu :

Hallucination Spatiale (Les Vues "Fantômes") :
- Analogie : Imaginez un témoin déclarant sous serment : "J'ai vu le suspect courir dans le couloir", mais la caméra de sécurité prouve que le témoin se trouvait dans un bâtiment différent à ce moment-là.
- La Découverte : Environ 15 % du temps, l'IA affirmait voir des personnes ou se trouver dans des endroits où elle ne pouvait physiquement pas être. Elle "se souvenait" de choses qui ne s'étaient jamais produites.
Accusation Sans Fondement (Le Blâme "Fusil à Pompe") :
- Analogie : Un détective pointant un suspect et disant : "Je pense qu'il l'a fait", tout en admettant : "Je ne sais pas pourquoi, j'ai juste l'impression".
- La Découverte : Plus de la moitié des accusations formulées par l'IA l'ont été sans aucune preuve réelle que l'IA avait vue. Elles ne faisaient que deviner ou inventer des choses pour paraître convaincantes.
Effondrement de la Déception (Le Mauvais "Menteur") :
- Analogie : Un espion tentant de mentir sur son alibi mais disant accidentellement : "J'étais à la banque", alors que la banque était fermée ce jour-là. Le mensonge est si évident qu'il s'effondre immédiatement.
- La Découverte : Lorsque l'IA jouait l'"Impostor", ses mensonges étaient souvent grossiers et facilement démentis par les journaux de jeu. Elles ne créaient pas de mensonges subtils et ingénieux ; elles inventaient simplement des faits instantanément faux.
Incohérence Langage-Action (Le "Bavardage") :
- Analogie : Quelqu'un disant : "J'étais occupé à réparer le moteur", tandis que le journal montre qu'ils étaient en fait assis immobiles, ne faisant rien.
- La Découverte : L'IA décrivait accomplir des tâches qu'elle n'avait jamais réellement commencées ou terminées.

La Grande Conclusion

Le résultat le plus surprenant est que gagner la partie ne signifiait pas que l'IA était ancrée dans la réalité.

L'un des modèles d'IA les plus puissants a gagné la partie plus de 80 % du temps. Cependant, lorsque QUACK a audité ses paroles, il a découvert que ce "sage" gagnant mentait encore sur sa localisation 16 % du temps et formulait des accusations sans fondement 54 % du temps.

En bref : QUACK nous a montré que les agents IA peuvent être excellents pour gagner des jeux de déduction sociale, mais qu'ils sont souvent terribles pour dire la vérité sur ce qu'ils ont réellement expérimenté. Ils peuvent être de très persuasifs menteurs, ou de très confiants menteurs, même lorsque les faits sont bien présents dans les journaux.

Les auteurs ont rendu ce système entier (le jeu, les journaux et l'outil d'audit) gratuitement afin que d'autres chercheurs puissent l'utiliser pour tester si leurs propres agents IA sont "honnêtes" concernant leurs actions, et non pas simplement bons pour gagner.

Résumé technique : QUACK – Questionnement, compréhension et audit des connaissances communiquées par des agents de déduction sociale multimodaux

1. Énoncé du problème

Les modèles de langage à grande échelle (LLM) et les modèles vision-langage (VLM) sont de plus en plus déployés en tant qu'agents interactifs capables de percevoir des environnements, de communiquer et de raisonner dans l'incertitude. Une exigence critique pour ces agents est l'ancrage (grounding) : leurs énoncés en langage naturel concernant leur localisation, leurs observations et leurs actions doivent rester fidèles à leur trajectoire réellement perçue.

Les benchmarks d'évaluation actuels pour les jeux de déduction sociale (par exemple, Among Us, Werewolf) présentent deux limitations principales :

Évaluation centrée sur le résultat : La plupart des évaluations reposent sur les résultats du jeu (taux de victoire, taux de survie, précision des votes). Ces métriques ne permettent pas de distinguer un agent qui réussit grâce à un raisonnement cohérent d'un agent qui réussit malgré la production d'affirmations incohérentes ou hallucinées.
Limites du texte seul : Les environnements existants restreignent largement les agents aux interactions textuelles. Sans observations visuelles ancrées et trajectoires reconstituables, il est impossible de déterminer si le dialogue d'un agent correspond à ce qu'il a réellement perçu et fait, rendant difficile l'identification de modes d'échec spécifiques tels que l'hallucination spatiale ou les accusations non étayées.

Il existe un manque de cadres capables d'auditer si le langage d'un agent est ancré dans sa perception multimodale et ses actions sur de longues périodes dans des contextes adversariaux multi-agents.

2. Méthodologie : Le cadre QUACK

Les auteurs présentent QUACK, un environnement open source et un cadre d'évaluation conçus pour auditer le raisonnement social multimodal ancré.

2.1 L'environnement

QUACK est formalisé comme un jeu de Markov partiellement observable joué sur une carte structurée en graphe.

Rôles : Les agents se voient attribuer des rôles cachés, soit Oies (équipage) soit Canards (imposteurs).
- Les Oies gagnent en complétant des tâches liées à des lieux ou en éjectant tous les Canards.
- Les Canards gagnent en atteignant la parité de vote (Canards vivants $\ge$ Oies vivantes) et peuvent éliminer les Oies situées au même endroit.
Observations : Les agents reçoivent des entrées multimodales à chaque point de décision :
- Vue globale ( $I_{global}$ ) : Une carte rendue montrant la disposition des pièces et les coûts de déplacement, mais aucun autre joueur.
- Vue locale ( $I_{local}$ ) : Une image rendue de la pièce actuelle, montrant uniquement les joueurs visibles, les corps et les événements de mouvement témoins.
- Résumé structuré ( $\tau$ ) : Un encodage textuel du statut de transit, des événements témoins, de l'avancement des tâches et des temps de recharge.
Actions : Les agents effectuent des actions telles que se déplacer, compléter des tâches, signaler des corps, convoquer des réunions et tuer (pour les Canards). Ils participent également à une « conversation de proximité » (énoncés libres entendus uniquement par les agents dans la même pièce) et à des discussions formelles lors des réunions.
Rejouabilité : Crucialement, chaque épisode génère des journaux d'événements structurés au niveau du moteur, créant une trajectoire de vérité terrain tick par tick pour chaque agent. Cela permet une relecture et une vérification exactes.

2.2 Cadre d'évaluation à trois niveaux

QUACK évalue les agents à travers trois niveaux complémentaires :

Niveau 1 (Résultats du jeu) : Métriques standard incluant les taux de victoire, la précision des éjections, l'achèvement des tâches et la survie.
Niveau 2 (Trajectoires comportementales) : Métriques dérivées des trajectoires reconstituées, telles que la couverture spatiale, l'efficacité des tâches, les taux de tuerie et l'utilisation des temps de recharge.
Niveau 3 (Vérification des énoncés) : La contribution principale. Ce niveau audite la cohérence entre les énoncés de discussion d'un agent et sa trajectoire de vérité terrain.

2.3 Pipeline de vérification des énoncés

Le pipeline du Niveau 3 opère en deux étapes :

Extraction des affirmations : Un LLM analyse les énoncés de discussion libres en affirmations structurées et vérifiables. Cinq types d'affirmations sont définis :
- Lieu/Itinéraire : Affirmations sur l'endroit où se trouvait un joueur.
- Observation : Affirmations sur la vue d'un autre joueur.
- Activité : Affirmations sur les tâches, les déplacements ou l'attente.
- Accusation : Soupçonner un joueur d'être un Canard.
- Défense : Soutenir un joueur.
Vérification des affirmations : Chaque affirmation est vérifiée par rapport à la trajectoire de vérité terrain reconstituée de l'agent pour la fenêtre temporelle pertinente. Les verdicts incluent Vrai, Faux, Mauvaise pièce, Presque raté (partiellement vrai) ou Non vérifiable.

Ce pipeline opérationnalise quatre modes d'échec d'ancrage spécifiques :

Hallucination spatiale : Affirmer un lieu ou une observation qui contredit la propre trajectoire de l'agent.
Accusation non étayée : Accuser un joueur sans preuve ancrée (distinguant entre la précision de l'accusation et son ancrage).
Effondrement de la tromperie : Un Canard produisant des mensonges facilement falsifiables (par exemple, affirmer avoir vu un joueur mort) plutôt que des tromperies subtiles et proches de la réalité.
Incohérence langage-action : Activités ou itinéraires déclarés qui entrent en conflit avec les actions enregistrées.

Le pipeline a été validé par rapport à une annotation humaine, atteignant une précision de 99,5 % et un rappel de 98,7 % dans l'extraction et la vérification des affirmations.

3. Configuration expérimentale et résultats

Les auteurs ont évalué trois VLMs de pointe (GPT-5.5, GEMINI-3.1-PRO, CLAUDE-OPUS-4.7) sur 270 jeux, à la fois dans des configurations homogènes (tous les agents utilisant le même modèle) et dans des configurations adversariales inter-modèles (Oies contre Canards de modèles différents).

Principales constatations

Écart entre résultat et ancrage : Des taux de victoire élevés n'impliquent pas un raisonnement ancré. Par exemple, GPT-5.5 a atteint un taux de victoire de 81,1 % en tant qu'Oie, mais a tout de même halluciné 16,4 % de ses affirmations spatiales et a formulé 54,5 % de ses accusations sans preuve ancrée.
Hallucinations systématiques : Même les agents les plus performants hallucinent une fraction substantielle des affirmations spatiales vérifiables. Le taux d'hallucination spatiale regroupé pour tous les modèles était de 15,1 % (environ 1 affirmation sur 7).
Accusations infondées : Le taux d'accusations non étayées regroupé était de 53,5 %. Plus de la moitié de toutes les accusations ont été formulées sans aucune preuve que l'accusateur aurait pu réellement observer, indépendamment du fait que l'accusation se soit avérée correcte par hasard.
Effondrement de la tromperie : Les Canards ont présenté un taux de tromperie de 22,1 %. Crucialement, la sophistication de la tromperie était proche de zéro ; les mensonges étaient « franchement falsifiables » (par exemple, affirmer être dans une pièce alors que le journal montre que l'agent était ailleurs) plutôt que subtils.
Écart de détection des mensonges : Même lorsqu'un Canard racontait un mensonge vérifiable, l'équipage (Oies) a échoué à les éjecter dans environ 25 % des cas (taux moyen d'éjection après un mensonge de 75,2 %), indiquant un écart entre les preuves disponibles et la capacité déductive de l'équipage.

Les trois modèles partageaient le même profil d'échec qualitatif, différant principalement par le degré plutôt que par la nature.

4. Importance et contributions

L'article revendique les contributions suivantes :

Environnement QUACK : Un environnement de déduction sociale multimodal open source avec observabilité partielle et journaux entièrement rejouables, permettant la reconstruction de trajectoires de vérité terrain pour les agents.
Évaluation à trois niveaux : Un cadre qui va au-delà des taux de victoire pour mesurer les trajectoires comportementales et la cohérence au niveau des énoncés, abordant directement l'« ancrage » du langage des agents.
Pipeline de vérification des énoncés : Une méthode pour auditer automatiquement les affirmations des agents par rapport aux états du monde reconstitués, opérationnalisant quatre modes d'échec qualitatifs en quantités mesurables.
Preuve empirique d'échec : Démonstration que même les VLMs de pointe présentent des défaillances d'ancrage systématiques et diagnostiquables dans les tâches de raisonnement social, invisibles pour les métriques standard basées sur les résultats.

Implications plus larges

Les auteurs soutiennent que l'ancrage est un axe distinct de capacité dans les contextes de langage multi-agents qui n'est pas capturé par le succès des tâches et nécessite une mesure directe. Ils postulent que les jeux de déduction sociale servent d'instrument unique pour étudier la génération ancrée car ils combinent de fortes incitations à formuler des affirmations vérifiables (et à mentir) avec un état du monde entièrement récupérable – une combinaison rarement disponible dans les tâches de langage ouvertes.

Le travail est présenté comme diagnostique, visant à révéler quand les agents formulent des affirmations non ancrées pour faciliter leur détection et leur atténuation, plutôt que d'optimiser les agents pour la tromperie. Les auteurs publient le moteur, le cadre et les journaux pour soutenir la reproduction indépendante et l'examen de l'ancrage des agents.