Surprisal Minimisation over Goal-directed Alternatives Predicts Production Choice in Dialogue

1. Énoncé du problème

L'article aborde une ambiguïté fondamentale dans les modèles informationnels de la production langagière : comment interpréter les mesures de coût (telles que la surprise, la densité d'information uniforme et la longueur) soit comme orientées vers l'émetteur (effort de production), soit comme orientées vers le récepteur (effort de compréhension).

Les modèles précédents traitent souvent ces coûts implicitement ou supposent un ensemble fixe d'alternatives sans distinguer entre :

• Alternatives orientées vers un objectif : Énoncés qui réalisent la même intention communicative que le choix réel de l'émetteur.
• Alternatives agnostiques quant à l'objectif : Énoncés qui sont plausibles dans le contexte mais qui peuvent réaliser des objectifs communicatifs différents.

Les auteurs soutiennent que l'interprétation d'une fonction de coût dépend entièrement de l'ensemble des alternatives sur lequel elle est évaluée. Sans définir explicitement ces espaces d'alternatives, il est impossible de déterminer si un émetteur minimise son propre effort ou optimise la compréhension du récepteur.

2. Méthodologie

A. Cadre théorique : Choix sensible au coût

Les auteurs formalisent la production langagière comme un choix probabiliste parmi des alternatives contextuelles. Ils définissent deux ensembles d'alternatives distincts pour tout contexte $c$ et tout point de choix donné :

1. Ensemble agnostique quant à l'objectif ($A_c$) : Généré par échantillonnage à partir d'un modèle de langage conditionné uniquement par le contexte (et potentiellement l'historique du dialogue). Ces éléments représentent l'incertitude du récepteur quant à ce que l'émetteur pourrait dire ensuite.
2. Ensemble orienté vers un objectif ($A_{c,g}$) : Généré par échantillonnage à partir d'un modèle de langage conditionné par le contexte et un objectif communicatif fixe ($g$). Ces éléments représentent l'incertitude de l'émetteur quant à la manière de réaliser une intention spécifique.

La probabilité de production est modélisée à l'aide d'une règle softmax sur le coût :
$$P_S(a | c, g) \propto \exp(-\alpha C(a; c))$$
Où $C$ est le coût et $\alpha$ un paramètre de sensibilité.

• Interprétation orientée vers l'émetteur : Minimisation du coût sur $A_{c,g}$ (choisir le moyen le plus facile de dire la même chose).
• Interprétation orientée vers le récepteur : Minimisation du coût sur $A_c$ (choisir un énoncé facile à traiter pour le récepteur compte tenu de son incertitude).

B. Configuration expérimentale

• Jeu de données : Le corpus Switchboard Dialogue Act (dialogues parlés naturalistes).
• Traitement des données : 1 342 énoncés ont été sélectionnés (10 à 30 mots, actes déclaratifs ou interrogatifs). Chacun a été divisé au verbe racine (point de choix) en un contexte ($c$) et une continuation humaine ($a^*$).
• Génération d'alternatives :
  • Agnostique quant à l'objectif : GPT-4o a été sollicité pour compléter des phrases avec des quantités variables d'historique de dialogue (aucun historique, énoncé précédent, historique complet).
  • Orienté vers un objectif : GPT-4o a été sollicité pour générer 10 paraphrases uniques de la continuation humaine, contraintes de commencer par le même contexte.
  • Filtrage : Un LLM en tant que juge (GPT-4o) a vérifié que les alternatives orientées vers un objectif étaient de véritables paraphrases (98,75 % de précision).
• Mesures de coût :
  1. Surprise : $-\log p(a|c)$ (estimée via GPT-2 Small).
  2. Uniformité locale : Variance de la surprise entre mots adjacents.
  3. Uniformité globale : Variance de la surprise sur l'ensemble de la phrase.
  4. Longueur : Nombre de mots dans la continuation.
• Alignement : Pour éviter les confusions distributionnelles, les auteurs ont utilisé un échantillonnage stratifié pour aligner les alternatives générées sur les énoncés humains en termes de longueur et d'uniformité globale.

C. Techniques d'analyse

1. Minimisation déterministe du coût : Calcul du rang de la continuation humaine parmi ses alternatives. Si les humains minimisent le coût, le choix humain devrait fréquemment être de rang 1 (coût le plus faible).
2. Sensibilité probabiliste au coût : Utilisation d'un modèle de régression logistique par paires pour prédire si une continuation humaine est préférée à une alternative générée en fonction de la différence de coût ($\Delta C$). Cela teste une sensibilité graduée plutôt qu'une minimisation stricte.

3. Contributions clés

1. Espaces d'alternatives explicites : L'article fournit une méthode fondée sur des principes pour opérationnaliser les pressions « émetteur » vs « récepteur » en générant explicitement des ensembles d'alternatives orientées vers un objectif et agnostiques quant à l'objectif à l'aide de grands modèles de langage (LLM).
2. Réinterprétation du coût : Il démontre que la même métrique de coût (par exemple, la surprise) produit des pouvoirs prédictifs et des interprétations différents selon l'ensemble d'alternatives utilisé.
3. Cadre évolutif : Il introduit un pipeline évolutif pour étudier les préférences de production dans des dialogues ouverts, allant au-delà des variantes syntaxiques restreintes vers des alternatives riches et ancrées dans le contexte.

4. Résultats clés

A. Analyse déterministe (Résultats de rang 1)

• Surprise (Orientée vers un objectif) : Le prédicteur le plus fort. 53,4 % des continuations humaines étaient l'option de surprise la plus faible parmi les alternatives orientées vers un objectif (augmentation de 3,24 fois par rapport au hasard). Cela soutient une vision orientée vers l'émetteur : les émetteurs choisissent la réalisation la plus prévisible de leur objectif intentionnel.
• Surprise (Agnostique quant à l'objectif) : Effet plus faible (15,2 % de rang 1), suggérant que les émetteurs ne minimisent pas principalement la surprise par rapport à l'incertitude large du récepteur.
• Longueur : A montré l'effet relatif le plus fort dans le cadre agnostique quant à l'objectif (3,69 fois par rapport au hasard), suggérant que la minimisation de la longueur est une pression orientée vers le récepteur (réduction de l'effort de traitement).
• Uniformité : A montré des résultats mitigés, avec des résultats de rang 1 supérieurs au hasard mais moins cohérents que la surprise.

B. Analyse probabiliste (Régression logistique)

• Surprise : Le coefficient de la surprise était significativement négatif (indiquant une préférence pour une surprise plus faible) et ~7 fois plus fort dans la condition orientée vers un objectif que dans la condition agnostique quant à l'objectif. Cela confirme que la surprise fonctionne principalement comme une contrainte du côté de la production (effort de l'émetteur).
• Uniformité : Un coût plus faible (uniformité plus élevée) prédisait le choix dans la condition orientée vers un objectif, mais la relation s'inversait dans la condition agnostique quant à l'objectif (un coût plus élevé/une uniformité plus faible était parfois préféré), indiquant des dynamiques complexes orientées vers le récepteur.
• Longueur : Prédit le choix dans la condition agnostique quant à l'objectif mais n'a eu aucun effet significatif dans la condition orientée vers un objectif, renforçant l'idée que la longueur est une contrainte orientée vers le récepteur.

5. Importance et conclusion

L'étude conclut que la minimisation de la surprise par rapport aux alternatives orientées vers un objectif fournit l'explication la plus robuste des choix de production humains dans le dialogue. Cela soutient la vision selon laquelle les émetteurs agissent comme des agents rationnels minimisant leur propre effort de production (contrôle cognitif) lorsqu'ils choisissent parmi les réalisations d'une intention fixe.

Inversement, la longueur et l'uniformité semblent fonctionner davantage comme des pressions orientées vers le récepteur, où les émetteurs ajustent leur production pour faciliter la compréhension lorsque l'objectif communicatif n'est pas fixe ou lorsqu'ils considèrent l'incertitude plus large du récepteur.

Impact plus large :

• Théorique : Résout l'ambiguïté des mesures de coût en les reliant explicitement à l'espace des alternatives.
• Méthodologique : Établit un cadre pour l'utilisation de LLM afin de simuler « ce qui aurait pu être dit » (contre-factuels) pour tester des théories psycholinguistiques à grande échelle.
• Pratique : Suggère que les systèmes de génération de langage naturel devraient optimiser la minimisation de la surprise sur des alternatives orientées vers un objectif pour paraître plus humains en termes d'efficacité de production.

Limites : L'étude est limitée à l'anglais, à des points de choix syntaxiques spécifiques (verbes racine) et repose sur des LLM tant pour l'estimation du coût que pour la génération d'alternatives, ce qui peut ne pas refléter parfaitement la cognition humaine ou couvrir des contextes à faibles ressources.