One if by Land, Two if by Sea, Three if by Four Seas, and More to Come -- Values of Perception, Prediction, Communication, and Common Sense in Decision Making

Technische Samenvatting: Waarden van Perceptie, Predictie, Communicatie en Common Sense bij Besluitvorming

Probleemformulering
Dit werk behandelt de uitdaging om de waarde van specifieke cognitieve operaties — perceptie, predictie, communicatie en common sense — rigoureus te definiëren en te kwantificeren binnen de context van autonome besluitvormingssystemen. De auteurs formuleren een generiek besluitvormingsprobleem waarbij een agent een actie $u$ selecteert uit een ruimte $\mathcal{U}$ om de verwachte verliesfunctie $\mathbb{E}[\ell(X, Y, u)]$ te minimaliseren. Hierbij is $X$ een willekeurige observeerbare toestand, $Y$ een willekeurige onobserveerbare toestand, en $\ell$ een verliesfunctie die afhankelijk is van zowel deze toestanden als de actie. Het kernprobleem betreft het bepalen van het kwantitatieve voordeel van het verwerven en benutten van verschillende soorten kennis (marginale distributies, gezamenlijke distributies, geobserveerde toestanden of ongeobserveerde toestanden) om het minimale haalbare verwachte verlies (risico) te verminderen.

Methodologie
Het artikel hanteert een besluittheoretisch kader om de "waarde" van een operatie te definiëren als de reductie in risico die wordt bereikt door die operatie te integreren vergeleken met een baseline waarbij de operatie afwezig is. De methodologie verloopt als volgt:

1. Definities van Operationele Waarden:

   • Common Sense: Gedefinieerd als de waarde van het kennen van de gezamenlijke distributie $P_{X,Y}$ (statistische afhankelijkheid) ten opzichte van het aannemen van onafhankelijkheid ($P_X P_Y$). Het kwantificeert het voordeel van het redeneren over correlaties zonder directe observatie.
   • Perceptie (Nauwe zin): Gedefinieerd als de waarde van het observeren van $X$ en handelen op basis daarvan, zonder de overtuigingen over $Y$ bij te stellen op basis van $X$ (dat wil zeggen, $Y$ als onafhankelijk van $X$ behandelen).
   • Predictie: Gedefinieerd als de waarde van het bijstellen van de overtuiging over $Y$ op basis van de observatie van $X$ (het benutten van de posterieure $P_{Y|X}$) vergeleken met handelen op basis van $X$ terwijl de afhankelijkheid van $Y$ wordt genegeerd.
   • Perceptie + Predictie: De gecombineerde waarde van het observeren van $X$ en het voorspellen van $Y$ op basis van $X$.
   • Communicatie: Gedefinieerd als de waarde van het direct toegang krijgen tot de onobserveerbare toestand $Y$ (naast $X$) om de beslissing te informeren.

2. Informatietheoretische Realisatie:
   De auteurs mappen deze besluittheoretische waarden naar informatiewetenschappelijke maten door een specifiek geval te overwegen waarbij de verliesfunctie de negatieve log-likelihood is ($\ell = -\log u(x,y)$). In deze setting komen de gedefinieerde waarden overeen met:

   • Common Sense $\leftrightarrow$ Wederzijdse Informatie $I(X; Y)$.
   • Perceptie $\leftrightarrow$ Conditionele Entropie $H(X|Y)$.
   • Predictie $\leftrightarrow$ Wederzijdse Informatie $I(X; Y)$.
   • Perceptie + Predictie $\leftrightarrow$ Entropie $H(X)$.
   • Communicatie $\leftrightarrow$ Conditionele Entropie $H(Y|X)$.

3. Functionele Analyse:
   Het artikel analyseert de wiskundige eigenschappen van deze waarden, specifiek hun convexiteit en concaviteit met betrekking tot de onderliggende waarschijnlijkheidsverdelingen. Er wordt gebruikgemaakt van besluittheoretische divergenties (generalisaties van de Kullback-Leibler-divergentie) om deze eigenschappen te bewijzen.

4. Multi-Agent Extensie:
   Het kader wordt uitgebreid naar scenario's met $n$ agenten. De auteurs definiëren het belang van een specifieke agent op basis van de reductie in risico die wordt verkregen door het observeren en voorspellen van die agent, hetzij in isolatie, hetzij sequentieel na de account van andere agenten.

Belangrijkste Resultaten en Bevindingen

• Niet-negativiteit van Gecombineerde Waarden: Er is bewezen dat de waarde van predictie alleen, de waarde van communicatie, en de gecombineerde waarde van perceptie en predictie altijd niet-negatief zijn.
• Negatieve Waarde van Perceptie: Een cruciale bevinding is dat de waarde van perceptie zonder predictie negatief kan zijn. Het artikel demonstreert via een numeriek voorbeeld (en een rij-scenario met een vrachtwagen en een afgeschermd voertuig) dat het observeren van een variabele $X$ en handelen op basis daarvan, zonder de overtuiging over de afhankelijke variabele $Y$ bij te stellen, kan leiden tot slechtere beslissingen dan handelen enkel op basis van voorkennis (common sense). Dit suggereert dat ruwe sensorische data, indien niet correct gecontextualiseerd via predictie, nadelig kan zijn.
• Ordeafhankelijkheid in Multi-Agent Systemen: In multi-agent settings is het belang van een agent niet absoluut, maar hangt het af van de volgorde van observatie. Het artikel biedt een gulzig (greedy) algoritme om de optimale volgorde van perceptie en predictie te bepalen om risicoreductie te maximaliseren, waarbij uitsluitend wordt vertrouwd op de bekende gezamenlijke distributie en de verliesfunctie.
• Wiskundige Eigenschappen:
  • De waarde van perceptie + predictie is concaaf in de marginale distributie $P_X$ (voor een vaste $P_{Y|X}$).
  • De waarde van communicatie is concaaf in $P_{Y|X}$ (voor een vaste $P_X$) en lineair in $P_X$.
  • De waarden van common sense en predictie zijn convex in de conditionele distributie $P_{Y|X}$ (voor vaste marginalen).

Betekenis en Claims
De auteurs beweren dat dit werk een rigoureus, formeel pad biedt om praktische vragen te beantwoorden bij het ontwerp van autonome systemen, zoals:

• Of het observeren en voorspellen van een specifieke agent noodzakelijk is.
• Het relatieve belang van verschillende agenten.
• De optimale sequentie voor het verwerken van informatie van meerdere agenten.

Het artikel stelt dat deze gedefinieerde grootheden inzichten kunnen bieden in de cognitieve en neurowetenschappen, wat potentieel kan verklaren hoe natuurlijke besluitvormers informatie uit verschillende bronnen benutten. Voorts suggereren de resultaten dat de "waarde van informatie" gevonden in eerdere literatuur (bijv. Blackwell, Lindley, DeGroot) kan worden beschouwd als een speciaal geval van de gecombineerde waarde van perceptie en predictie die hier wordt gedefinieerd. Het werk stelt ook voor dat deze theoretische waarden als "ground truth" labels kunnen dienen voor het trainen van machine learning-modellen die agenten prioriteren in omgevingen met beperkte middelen, waarmee een gat wordt gedicht waar huidige methoden vaak vertrouwen op menselijke labels of heuristische regels.

De titel en inkadering zijn geïnspireerd door een lezing van Prof. Robert Gallager, waarbij een parallel wordt getrokken met het historische signaalsysteem ("One if by Land, Two if by Sea") om de hiërarchie van de informatiewaarde in besluitvorming te illustreren.