One if by Land, Two if by Sea, Three if by Four Seas, and More to Come -- Values of Perception, Prediction, Communication, and Common Sense in Decision Making

Résumé technique : Valeurs de la perception, de la prédiction, de la communication et du sens commun dans la prise de décision

Formulation du problème
Ce travail traite du défi consistant à définir et quantifier rigoureusement la valeur d'opérations cognitives spécifiques — perception, prédiction, communication et sens commun — dans le contexte des systèmes de prise de décision autonomes. Les auteurs cadrent un problème de prise de décision générique où un agent choisit une action $u$ dans un espace $\mathcal{U}$ pour minimiser l'espérance de la perte $\mathbb{E}[\ell(X, Y, u)]$. Ici, $X$ représente un état observable aléatoire, $Y$ représente un état inobservable aléatoire, et $\ell$ est une fonction de perte dépendant de ces deux états et de l'action. Le problème central consiste à déterminer le bénéfice quantitatif de l'acquisition et de l'utilisation de différents types de connaissances (distributions marginales, distributions conjointes, états observés ou états inobservés) pour réduire la perte attendue minimale (le risque).

Méthodologie
L'article adopte un cadre décisionnel pour définir la « valeur » d'une opération comme la réduction du risque obtenue en incorporant cette opération par rapport à une référence où l'opération est absente. La méthodologie procède comme suit :

1. Définitions des valeurs opérationnelles :

   • Sens commun : Défini comme la valeur de la connaissance de la distribution conjointe $P_{X,Y}$ (dépendance statistique) par rapport à l'hypothèse d'indépendance ($P_X P_Y$). Il quantifie le bénéfice du raisonnement sur les corrélations sans observation directe.
   • Perception (étroite) : Définie comme la valeur de l'observation de $X$ et de l'action basée sur celle-ci, sans mettre à jour les croyances concernant $Y$ sur la base de $X$ (c'est-à-dire en traitant $Y$ comme indépendant de $X$).
   • Prédiction : Définie comme la valeur de la mise à jour de la croyance concernant $Y$ sur la base de l'observation de $X$ (en utilisant la distribution postérieure $P_{Y|X}$) par rapport à l'action basée sur $X$ tout en ignorant la dépendance vis-à-vis de $Y$.
   • Perception + Prédiction : La valeur combinée de l'observation de $X$ et de la prédiction de $Y$ basée sur $X$.
   • Communication : Définie comme la valeur de l'accès direct à l'état inobservable $Y$ (en plus de $X$) pour éclairer la décision.

2. Réalisation informationnelle :
   Les auteurs associent ces valeurs décisionnelles à des mesures de la théorie de l'information en considérant un cas spécifique où la fonction de perte est l'opposé du logarithme de la vraisemblance ($\ell = -\log u(x,y)$). Dans ce cadre, les valeurs définies correspondent à :

   • Sens commun $\leftrightarrow$ Information mutuelle $I(X; Y)$.
   • Perception $\leftrightarrow$ Entropie conditionnelle $H(X|Y)$.
   • Prédiction $\leftrightarrow$ Information mutuelle $I(X; Y)$.
   • Perception + Prédiction $\leftrightarrow$ Entropie $H(X)$.
   • Communication $\leftrightarrow$ Entropie conditionnelle $H(Y|X)$.

3. Analyse fonctionnelle :
   L'article analyse les propriétés mathématiques de ces valeurs, spécifiquement leur concavité et leur convexité par rapport aux distributions de probabilité sous-jacentes. Il utilise des divergences décisionnelles (généralisations de la divergence de Kullback-Leibler) pour prouver ces propriétés.

4. Extension multi-agents :
   Le cadre est étendu à des scénarios impliquant $n$ agents. Les auteurs définissent l'importance d'un agent spécifique en fonction de la réduction de risque obtenue en observant et en prédisant cet agent, soit de manière isolée, soit séquentiellement après que d'autres agents ont été pris en compte.

Résultats clés et conclusions

• Non-négativité des valeurs combinées : La valeur de la prédiction seule, la valeur de la communication et la valeur combinée de la perception et de la prédiction sont prouvées comme étant toujours non négatives.
• Valeur négative de la perception : Une conclusion critique est que la valeur de la perception sans prédiction peut être négative. L'article démontre, via un exemple numérique (et un scénario de conduite impliquant un camion et un véhicule occulté), qu'observer une variable $X$ et agir en fonction de celle-ci sans mettre à jour la croyance sur la variable dépendante $Y$ peut conduire à de meilleures décisions que d'agir uniquement sur la connaissance préalable (le sens commun). Cela suggère que les données sensorielles brutes, si elles ne sont pas correctement contextualisées par la prédiction, peuvent être préjudiciables.
• Dépendance de l'ordre dans les systèmes multi-agents : Dans les contextes multi-agents, l'importance d'un agent n'est pas absolue mais dépend de l'ordre d'observation. L'article propose un algorithme glouton pour déterminer l'ordre optimal de perception et de prédiction afin de maximiser la réduction du risque, en se basant uniquement sur la distribution conjointe connue et la fonction de perte.
• Propriétés mathématiques :
  • La valeur de la perception + prédiction est concave par rapport à la distribution marginale $P_X$ (pour une $P_{Y|X}$ fixée).
  • La valeur de la communication est concave en $P_{Y|X}$ (pour une $P_X$ fixée) et linéaire en $P_X$.
  • Les valeurs du sens commun et de la prédiction sont convexes en la distribution conditionnelle $P_{Y|X}$ (pour des marginales fixes).

Signification et revendications
Les auteurs affirment que ce travail offre une voie formelle et rigoureuse pour répondre à des questions pratiques de conception de systèmes autonomes, telles que :

• Si l'observation et la prédiction d'un agent spécifique sont nécessaires.
• L'importance relative de différents agents.
• La séquence optimale de traitement de l'information provenant de plusieurs agents.

L'article postule que ces quantités définies offrent des perspectives aux sciences cognitives et neurales, expliquant potentiellement comment les décideurs naturels utilisent l'information provenant de diverses sources. De plus, les résultats suggèrent que la « valeur de l'information » trouvée dans la littérature antérieure (ex: Blackwell, Lindley, DeGroot) peut être vue comme un cas particulier de la valeur combinée de la perception et de la prédiction définie ici. Le travail propose également que ces valeurs théoriques pourraient servir d'étiquettes de « vérité terrain » (ground truth) pour entraîner des modèles d'apprentissage automatique qui hiérarchisent les agents dans des environnements à ressources limitées, comblant ainsi une lacune où les méthodes actuelles reposent souvent sur des étiquettes humaines ou des règles heuristiques.

Le titre et le cadrage sont inspirés d'une conférence du professeur Robert Gallager, établissant un parallèle avec le système de signal historique (« Un si par terre, deux si par mer ») pour illustrer la hiérarchie de la valeur de l'information dans la prise de décision.