Where Norms and References Collide: Evaluating LLMs on Normative Reasoning

Résumé Technique : Évaluation des LLM sur le Raisonnement Normatif

Énoncé du Problème
Les agents incarnés, tels que les robots, opèrent dans des environnements situés où une communication réussie repose souvent sur la Résolution de Référence Basée sur les Normes (NBRR - Norm-Based Reference Resolution). Ce processus nécessite d'interpréter des expressions référentielles (par exemple, « passe-moi la tasse ») en inférant des normes sociales implicites ancrées dans un contexte physique et social (par exemple, choisir une tasse propre plutôt qu'une sale dans un contexte de service). Bien que les grands modèles de langage (LLM) démontrent de solides capacités en raisonnement de sens commun général et en questions-réponses, il reste à déterminer s'ils peuvent identifier et appliquer de manière fiable ces normes spécifiques et physiquement ancrées, particulièrement lorsqu'elles sont implicites, sous-spécifiées ou en conflit. Les ensembles de données existants pour la résolution de référence (par exemple, Winograd Schema, WinoGrande) ou la modélisation des normes sociales (par exemple, Social Chemistry 101) ne parviennent pas à intégrer les contraintes physiques et les nuances situationnelles nécessaires à la NBRR.

Méthodologie
Pour combler cette lacune, les auteurs introduisent SNIC (Situated Norms in Context), un banc d'essai diagnostique validé par l'humain conçu pour sonder la capacité des LLM à extraire et utiliser des principes normatifs pour la résolution de référence.

1. Construction du Jeu de Données :

   • Génération de Semences : Le processus a débuté avec 120 scénarios conçus à la main, regroupés en neuf catégories de raisonnement normatif (par exemple, servir avec des objets propres, prioriser l'élimination des dangers).
   • Validation Humaine : Une étude en ligne impliquant 210 participants a validé l'ensemble initial. Les participants ont sélectionné des référents dans des scénarios ambigus et ont fourni des justifications. Les auteurs ont filtré les données pour ne conserver que les 51 questions « semences » où le référent guidé par la norme était le choix de la pluralité (le plus sélectionné) parmi les participants.
   • Augmentation Procédurale : En utilisant une stratégie d'augmentation basée sur des règles, les 51 semences validées ont été étendues en un ensemble de données de 9 000 exemples. Ce processus a fait varier les types d'objets, leurs propriétés (par exemple, propre vs sale), les cadres (par exemple, cuisine, bibliothèque) et les tâches (par exemple, nettoyage, service) tout en maintenant la structure normative centrale des scénarios sources.
   • Format : Le jeu de données comprend des vignettes en langage naturel et, pour certaines évaluations, une représentation formelle en Prolog (logique du premier ordre) afin d'éliminer l'ambiguïté concernant l'identité et les propriétés des objets.

2. Protocole d'Évaluation :
   Les auteurs ont évalué un ensemble diversifié de LLM de pointe (incluant Granite, Phi, Llama-3, Qwen et les variantes de GPT-4) sous trois conditions distinctes :

   • Description Uniquement : Le modèle reçoit la description de la scène en langage naturel.
   • Description + Formalisation : Le modèle reçoit la description de la scène plus une spécification formelle de la scène en Prolog.
   • Description + Formalisation + Normes Explicites : Le modèle reçoit la scène, la formalisation et une liste explicite des normes sociales à suivre.

Résultats Clés

• Performance de Base : Sans guidage explicite, les LLM peinent à identifier de manière cohérente le référent correct basé sur les normes implicites. La précision moyenne de tous les modèles dans les configurations « Description Uniquement » et « Description + FOL » était d'environ 44 %, le modèle le plus performant (GPT-4.1) atteignant environ 59,62 % dans la configuration formalisée.
• Impact de la Formalisation : L'ajout de la formalisation Prolog n'a pas amélioré significativement les performances de manière générale. Dans certains cas (par exemple, Llama-3 3B), la performance a chuté, suggérant que les modèles peuvent manquer de la capacité à exploiter la logique formelle pour résoudre les ambiguïtés sociales ou que la formalisation ne compense pas un manque de connaissances normatives.
• Impact des Normes Explicites : Lorsque les normes sociales spécifiques étaient explicitement fournies dans le contexte, la performance des modèles a augmenté de manière significative, la précision moyenne passant à 70,51 %. GPT-4.1 a atteint une précision de 99,6 % dans ce cadre. Cela indique que si les LLM peuvent suivre des normes lorsqu'ils sont instruits, ils manquent de la capacité intrinsèque à les inférer à partir du contexte seul.
• Conflits de Normes : L'analyse des corrélations entre les catégories de normes a révélé que les modèles privilégient souvent certaines tâches (par exemple, la propreté) par rapport à d'autres (par exemple, la sécurité) de manière incohérente, suggérant un manque de compréhension robuste concernant la force déontique (priorité) des normes conflictuelles.

Contributions Clés

• Jeu de Données SNIC : La création d'un jeu de données à grande échelle (9 000 instances), validé par l'humain, spécifiquement conçu pour évaluer la résolution de référence basée sur les normes dans des contextes physiquement ancrés.
• Cadre de Diagnostic : Une méthodologie d'évaluation contrôlée qui isole la capacité des LLM à gérer les normes implicites, les conflits de normes et l'ancrage physique, se distinguant ainsi du raisonnement de sens commun général.
• Preuve Empirique : La démonstration que les LLM actuels présentent un « angle mort » dans le raisonnement normatif, peinant à appliquer des contraintes sociales implicites sans instruction explicite, même lorsqu'ils sont fournis avec des représentations de scènes formelles.

Signification et Revendications
L'article affirme que SNIC révèle une limitation critique des modèles de langage contemporains : leur incapacité à raisonner de manière cohérente sur les normes sociales physiquement situées. Les auteurs soutiennent que si les LLM excellent dans les tâches impliquant des faits fréquemment énoncés, ils peinent avec les normes qui sont implicites, culturellement partagées ou dépendantes du contexte. Cette lacune pose un défi important pour le déploiement de systèmes basés sur le langage dans des environnements socialement situés et incarnés (par exemple, la robotique), où les agents doivent résoudre les ambiguïtés en se basant sur des attentes partagées plutôt que sur des instructions explicites. Ce travail souligne la nécessité de stratégies d'alignement et d'entraînement supplémentaires qui ciblent spécifiquement l'intégration des connaissances normatives implicites, plutôt que de compter uniquement sur l'échelle des données de pré-entraînement. Les auteurs restent modestes, notant que leur banc d'essai textuel n'évalue pas le raisonnement multimodal ou les affordances physiques, et que l'évolution rapide des LLM rend difficile toute généralisation large à l'ensemble des modèles de pointe.