One if by Land, Two if by Sea, Three if by Four Seas, and More to Come -- Values of Perception, Prediction, Communication, and Common Sense in Decision Making

Resumen Técnico: Valores de Percepción, Predicción, Comunicación y Sentido Común en la Toma de Decisiones

Formulación del Problema
Este trabajo aborda el desafío de definir y cuantificar rigurosamente el valor de operaciones cognitivas específicas —percepción, predicción, comunicación y sentido común— dentro del contexto de los sistemas de toma de decisiones autónomos. Los autores plantean un problema genérico de toma de decisiones donde un agente selecciona una acción $u$ de un espacio $\mathcal{U}$ para minimizar la pérdida esperada $\mathbb{E}[\ell(X, Y, u)]$. Aquí, $X$ representa un estado observable aleatorio, $Y$ representa un estado no observable aleatorio, y $\ell$ es una función de pérdida que depende de ambos estados y de la acción. El problema central consiste en determinar el beneficio cuantitativo de adquirir y utilizar diferentes tipos de conocimiento (distribuciones marginales, distribuciones conjuntas, estados observados o estados no observados) para reducir la pérdida esperada mínima alcanzable (riesgo).

Metodología
El artículo adopta un marco de teoría de la decisión para definir el "valor" de una operación como la reducción del riesgo lograda al incorporar dicha operación en comparación con un escenario base donde la operación está ausente. La metodología procede de la siguiente manera:

1. Definiciones de Valores Operacionales:

   • Sentido Común: Definido como el valor de conocer la distribución conjunta $P_{X,Y}$ (dependencia estadística) en comparación con asumir la independencia ($P_X P_Y$). Cuantifica el beneficio de razonar sobre las correlaciones sin observación directa.
   • Percepción (Estrecha): Definida como el valor de observar $X$ y actuar basándose en él, sin actualizar las creencias sobre $Y$ a partir de $X$ (es decir, tratando a $Y$ como independiente de $X$).
   • Predicción: Definida como el valor de actualizar la creencia sobre $Y$ basándose en la observación de $X$ (utilizando la posterior $P_{Y|X}$) en comparación con actuar sobre $X$ ignorando la dependencia con $Y$.
   • Percepción + Predicción: El valor combinado de observar $X$ y predecir $Y$ basándose en $X$.
   • Comunicación: Definida como el valor de acceder directamente al estado no observable $Y$ (además de $X$) para informar la decisión.

2. Realización Teórico-Informacional:
   Los autores vinculan estos valores de la teoría de la decisión con medidas de la teoría de la información al considerar un caso específico donde la función de pérdida es el logaritmo negativo de la verosimilitud ($\ell = -\log u(x,y)$). En este entorno, los valores definidos corresponden a:

   • Sentido Común $\leftrightarrow$ Información Mutua $I(X; Y)$.
   • Percepción $\leftrightarrow$ Entropía Condicional $H(X|Y)$.
   • Predicción $\leftrightarrow$ Información Mutua $I(X; Y)$.
   • Percepción + Predicción $\leftrightarrow$ Entropía $H(X)$.
   • Comunicación $\leftrightarrow$ Entropía Condicional $H(Y|X)$.

3. Análisis Funcional:
   El artículo analiza las propiedades matemáticas de estos valores, específicamente su concavidad y convexidad con respecto a las distribuciones de probabilidad subyacentes. Utiliza divergencias de la teoría de la decisión (generalizaciones de la divergencia de Kullback-Leibler) para demostrar estas propiedades.

4. Extensión Multi-Agente:
   El marco se extiende a escenarios con $n$ agentes. Los autores definen la importancia de un agente específico basándose en la reducción del riesgo obtenida al observar y predecir a ese agente, ya sea de forma aislada o secuencialmente después de haber contabilizado a otros agentes.

Resultados Clave y Hallazgos

• No Negatividad de los Valores Combinados: Se demuestra que el valor de la predicción por sí sola, el valor de la comunicación y el valor combinado de la percepción y la predicción son siempre no negativos.
• Valor Negativo de la Percepción: Un hallazgo crítico es que el valor de la percepción sin la predicción puede ser negativo. El artículo demuestra, mediante un ejemplo numérico (y un escenario de conducción que involucra un camión y un vehículo oculto), que observar una variable $X$ y actuar sobre ella sin actualizar la creencia sobre la variable dependiente $Y$ puede conducir a decisiones peores que actuar únicamente con el conocimiento previo (sentido común). Esto sugiere que los datos sensoriales brutos, si no se contextualizan adecuadamente mediante la predicción, pueden ser perjudiciales.
• Dependencia del Orden en Sistemas Multi-Agente: En entornos multi-agente, la importancia de un agente no es absoluta, sino que depende del orden de observación. El artículo proporciona un algoritmo voraz (greedy) para determinar el orden óptimo de percepción y predicción para maximizar la reducción del riesgo, basándose únicamente en la distribución conjunta conocida y la función de pérdida.
• Propiedades Matemáticas:
  • El valor de percepción + predicción es cóncavo en la distribución marginal $P_X$ (para una $P_{Y|X}$ fija).
  • El valor de la comunicación es cóncavo en $P_{Y|X}$ (para una $P_X$ fija) y lineal en $P_X$.
  • Los valores de sentido común y de predicción son convexos en la distribución condicional $P_{Y|X}$ (para marginales fijas).

Significancia y Reivindicaciones
Los autores afirman que este trabajo proporciona un camino formal y riguroso para responder a preguntas prácticas en el diseño de sistemas autónomos, tales como:

• Si es necesario observar y predecir un agente específico.
• La importancia relativa de diferentes agentes.
• La secuencia óptima para procesar la información de múltiples agentes.

El artículo postula que estas cantidades definidas ofrecen perspectivas para las ciencias cognitivas y neuronales, explicando potencialmente cómo los decisores naturales utilizan la información de diversas fuentes. Además, los resultados sugieren que el "valor de la información" encontrado en la literatura previa (por ejemplo, Blackwell, Lindley, DeGroot) puede verse como un caso especial del valor combinado de percepción y predicción definido aquí. El trabajo también propone que estos valores teóricos podrían servir como etiquetas de "verdad fundamental" (ground truth) para entrenar modelos de aprendizaje automático que prioricen agentes en entornos con recursos limitados, abordando un vacío donde los métodos actuales suelen depender de etiquetas humanas o reglas heurísticas.

El título y el encuadre están inspirados en una charla del Prof. Robert Gallager, trazando un paralelismo con el sistema histórico de señales ("Uno si es por tierra, dos si es por mar") para ilustrar la jerarquía del valor de la información en la toma de decisiones.