One if by Land, Two if by Sea, Three if by Four Seas, and More to Come -- Values of Perception, Prediction, Communication, and Common Sense in Decision Making

Resumo Técnico: Valores de Percepção, Predição, Comunicação e Senso Comum na Tomada de Decisão

Formulação do Problema
Este trabalho aborda o desafio de definir e quantificar rigorosamente o valor de operações cognitivas específicas — percepção, predição, comunicação e senso comum — dentro do contexto de sistemas de tomada de decisão autônomos. Os autores formulam um problema de tomada de decisão genérico onde um agente seleciona uma ação $u$ de um espaço $\mathcal{U}$ para minimizar a perda esperada $\mathbb{E}[\ell(X, Y, u)]$. Aqui, $X$ representa um estado observável aleatório, $Y$ representa um estado não observável aleatório e $\ell$ é uma função de perda dependente de ambos os estados e da ação. O problema central envolve determinar o benefício quantitativo de adquirir e utilizar diferentes tipos de conhecimento (distribuições marginais, distribuições conjuntas, estados observados ou estados não observados) para reduzir a perda mínima alcançável (risco).

Metodologia
O artigo adota um framework de teoria da decisão para definir o "valor" de uma operação como a redução do risco alcançada ao incorporar essa operação em comparação com um baseline onde a operação está ausente. A metodologia procede da seguinte forma:

1. Definições de Valores Operacionais:

   • Senso Comum: Definido como o valor de conhecer a distribuição conjunta $P_{X,Y}$ (dependência estatística) em comparação com assumir independência ($P_X P_Y$). Quantifica o benefício de raciocinar sobre correlações sem observação direta.
   • Percepção (Estrita): Definida como o valor de observar $X$ e agir com base nele, sem atualizar crenças sobre $Y$ com base em $X$ (ou seja, tratando $Y$ como independente de $X$).
   • Predição: Definida como o valor de atualizar a crença sobre $Y$ com base na observação de $X$ (utilizando a posterior $P_{Y|X}$) em comparação com agir sobre $X$ ignorando a dependência em relação a $Y$.
   • Percepção + Predição: O valor combinado de observar $X$ e prever $Y$ com base em $X$.
   • Comunicação: Definida como o valor de acessar o estado não observável $Y$ diretamente (além de $X$) para informar a decisão.

2. Realização Teoria-Informacional:
   Os autores mapeiam esses valores da teoria da decisão para medidas da teoria da informação ao considerar um caso específico onde a função de perda é o logaritmo negativo da verossimilhança ($\ell = -\log u(x,y)$). Nesse cenário, os valores definidos correspondem a:

   • Senso Comum $\leftrightarrow$ Informação Mútua $I(X; Y)$.
   • Percepção $\leftrightarrow$ Entropia Condicional $H(X|Y)$.
   • Predição $\leftrightarrow$ Informação Mútua $I(X; Y)$.
   • Percepção + Predição $\leftrightarrow$ Entropia $H(X)$.
   • Comunicação $\leftrightarrow$ Entropia Condicional $H(Y|X)$.

3. Análise Funcional:
   O artigo analisa as propriedades matemáticas desses valores, especificamente sua concavidade e convexidade em relação às distribuições de probabilidade subjacentes. Utiliza divergências da teoria da decisão (generalizações da divergência de Kullback-Leibler) para provar essas propriedades.

4. Extensão Multiagente:
   O framework é estendido para cenários envolvendo $n$ agentes. Os autores definem a importância de um agente específico com base na redução de risco obtida ao observar e prever esse agente, seja isoladamente ou sequencialmente após outros agentes terem sido contabilizados.

Principais Resultados e Descobertas

• Não-Negatividade de Valores Combinados: É provado que o valor da predição isolada, o valor da comunicação e o valor combinado de percepção e predição são sempre não-negativos.
• Valor Negativo da Percepção: Uma descoberta crítica é que o valor da percepção sem a predição pode ser negativo. O artigo demonstra através de um exemplo numérico (e um cenário de direção envolvendo um caminhão e um veículo oculto) que observar uma variável $X$ e agir sobre ela sem atualizar a crença sobre a variável dependente $Y$ pode levar a decisões piores do que agir apenas com o conhecimento prévio (senso comum). Isso sugere que dados sensoriais brutos, se não forem devidamente contextualizados através da predição, podem ser prejudiciais.
• Dependência de Ordem em Sistemas Multiagentes: Em ambientes multiagentes, a importância de um agente não é absoluta, mas depende da ordem de observação. O artigo fornece um algoritmo guloso para determinar a ordem ótima de percepção e predição para maximizar a redução de risco, baseando-se apenas na distribuição conjunta conhecida e na função de perda.
• Propriedades Matemáticas:
  • O valor de percepção + predição é côncavo na distribuição marginal $P_X$ (para uma $P_{Y|X}$ fixa).
  • O valor de comunicação é côncavo em $P_{Y|X}$ (para uma $P_X$ fixa) e linear em $P_X$.
  • Os valores de senso comum e predição são convexos na distribuição condicional $P_{Y|X}$ (para marginais fixas).

Significância e Alegações
Os autores afirmam que este trabalho fornece um caminho formal e rigoroso para responder a questões práticas no design de sistemas autônomos, tais como:

• Se observar e prever um agente específico é necessário.
• A importância relativa de diferentes agentes.
• A sequência ótima para processar informações de múltiplos agentes.

O artigo postula que essas quantidades definidas oferecem insights para as ciências cognitivas e neurais, potencialmente explicando como tomadores de decisão naturais utilizam informações de diversas fontes. Além disso, os resultados sugerem que o "valor da informação" encontrado na literatura anterior (ex: Blackwell, Lindley, DeGroot) pode ser visto como um caso especial do valor combinado de percepção e predição definido aqui. O trabalho também propõe que esses valores teóricos poderiam servir como rótulos de "verdade fundamental" (ground truth) para treinar modelos de aprendizado de máquina que priorizam agentes em ambientes de recursos limitados, abordando uma lacuna onde os métodos atuais frequentemente dependem de rótulos humanos ou regras heurísticas.

O título e o enquadramento são inspirados por uma palestra do Prof. Robert Gallerger, traçando um paralelo com o sistema histórico de sinais ("Um se por terra, Dois se por mar") para ilustrar a hierarquia do valor da informação na tomada de decisão.