When Is Generalized Bayes Bayesian? A Decision-Theoretic Characterization of Loss-Based Updating

Resumo Técnico: "Quando o Bayes Generalizado é Bayesiano? Uma Caracterização Teoria-da-Decisão da Atualização Baseada em Perda"

Problema

A literatura sobre "Bayes generalizado" (incluindo posteriors de Gibbs, quasi-posteriors e atualização baseada em perda) cresceu significativamente, oferecendo um arcabouço para atualizar distribuições através da exponenciação de perda cumulativa em vez de verossimilhanças. Embora esses métodos sejam amplamente utilizados em inferência robusta, econometria e problemas inversos, a terminologia "posterior" cria uma ambiguidade operacional. Posteriors Bayesianos padrão representam crenças condicionais derivadas de um modelo de probabilidade conjunta (framework de Savage/Anscombe-Aumann), suportando interpretações específicas como probabilidades de apostas (betting odds) e uso de evidência de verossimilhanças marginais. Em contraste, atualizações baseadas em perda são frequentemente impulsionadas por funções de perda escolhidas pelo usuário sem um modelo de amostragem subjacente. O artigo aborda a questão crítica: Sob quais condições uma atualização baseada em perda retém as propriedades de coerência de um posterior de crença Bayesiano, e quando ela deve ser interpretada estritamente como um objeto da teoria da decisão?

Metodologia e Arcabouço

Os autores empregam uma abordagem da teoria da decisão para distinguir entre dois objetos distintos frequentemente confundidos na literatura:

1. Posteriors de Crença: Crenças condicionais sobre estados de incerteza derivadas de preferências sobre atos, satisfazendo axiomas de consistência dinâmica (Savage, 1954; Anscombe e Aumann, 1963).
2. Posteriors de Decisão: Regras de decisão aleatorizadas (distribuições sobre ações/parâmetros) escolhidas para otimizar um funcional de preferência após a observação de dados.

O artigo formaliza a atualização baseada em perda como um operador $\Psi$ que mapeia uma distribuição de base $\pi$ e uma perda cumulativa $L_n$ para uma regra $q(\cdot|x)$. A análise baseia-se em axiomas relativos à coerência sequencial (agrupamento ou batching), separabilidade entre subproblemas independentes e a estrutura de preferências sobre regras aleatorizadas.

Principais Contribuições e Resultados

1. O Divisor de Equivalência Bayesiana (Teorema 1)
O artigo estabelece uma condição necessária e suficiente rigorosa para que um posterior de Bayes generalizado possa ser interpretado como um posterior de crença Bayesiano comum.

• Resultado: Um posterior baseado em perda $q(\theta|x) \propto \pi(\theta)\exp\{-\eta \ell(\theta; x)\}$ coincide com um posterior Bayesiano derivado de um modelo conjunto se, e somente se, a função de perda $\ell(\theta; x)$ for, a menos de um termo dependente apenas dos dados $c(x)$ e um fator de escala, o negativo do logaritmo da verossimilhança:
  $$\ell(\theta; x) = -\frac{1}{\eta} \log p_\theta(x) + c(x)$$
• Implicação: Se a perda não for o negativo do logaritmo da verossimilhança (ex: perdas de funções de critério em econometria), a distribuição resultante não pode ser interpretada como um estado de crença condicional. Ela deve ser tratada como um posterior de decisão. O artigo fornece um diagnóstico (Corolário 1) baseado na "função de partição" $A(\theta) = \int \exp\{-\eta \ell(\theta; x)\} d\mu(x)$; se $A(\theta)$ depender de $\theta$, a atualização não é Bayesiana.

2. Fundamentação Teoria-da-Decisão para o Bayes Generalizado (Corolário 2)
Para casos em que a perda não é o logaritmo da verossimilhança, o artigo fornece uma caracterização positiva do Bayes generalizado como uma regra de decisão aleatorizada ótima.

• Metodologia: Os autores assumem que um tomador de decisão otimiza um funcional variacional trocando a perda esperada pelo custo de desvio de uma base $\pi$.
• Axioma Chave: Separabilidade entre subproblemas independentes (Axioma A4). Se o espaço de ações e a base fatoram, e as perdas são aditivas, a regra ótima deve fatorar.
• Resultado: Sob coerência sequencial e separabilidade, o custo de desvio único que satisfaz esses axiomas é a divergência de Kullback-Leibler (KL) (até uma escala). Consequentemente, a regra ótima é a forma de Bayes generalizado (Gibbs):
  $$q^*(\cdot|x) = \arg\min_{q} \left\{ \int \ell(\theta; x) q(d\theta) + \frac{1}{\eta} D_{KL}(q \parallel \pi) \right\}$$
• Significância: Isso justifica o Bayes generalizado não como "Bayes sem um modelo", mas como a regra ótima para um tomador de decisão com especificações de preferência sobre regras aleatorizadas, onde a taxa de aprendizado $\eta$ é um parâmetro estrutural da especificação de preferência, não uma propriedade fixa de uma verossimilhança.

3. Não-Canonicidade da Verossimilhança Marginal e Fatores de Bayes (Seção 4)
O artigo demonstra que a "verossimilhança marginal generalizada" (a constante de normalização $Z(x)$ do posterior de Gibbs) não é uma quantidade de evidência canônica fora do regime de posterior de crença.

• Resultado: O posterior de decisão $q(\cdot|x)$ é invariante à adição de qualquer termo dependente apenas dos dados $c(x)$ à perda. No entanto, a constante de normalização $Z(x)$ reescala por $e^{-\eta c(x)}$.
• Implicação: Fatores de Bayes construídos a partir de verossimilhanças marginais generalizadas são mal definidos sem estrutura adicional, pois dependem de convenções arbitrárias (ex: centralização de verossimilhanças empíricas). O artigo propõe a pontuação preditiva invariante ao deslocamento (ex: densidade preditiva logarítmica prequencial) como a alternativa canônica para comparação de modelos no regime de posterior de decisão.

4. Degenerescência de Preferências Lineares (Seção 5)
O artigo aborda a interpretação da aleatorização em posteriors baseados em perda.

• Resultado: Se as preferências sobre regras de decisão aleatorizadas satisfizerem o padrão do axioma de independência de von Neumann-Morgenstern (vNM), a regra ótima colapsa para uma massa pontual (degenerada) na melhor ação pura.
• Implicação: Posteriors generalizados não-degenerados (que são comuns na prática) requerem preferências não lineares sobre regras de decisão (ex: penalidades de entropia). A aleatorização não é meramente um mecanismo de desempate, mas uma característica estrutural das preferências de risco/regularização do tomador de decisão.

Significância e "Livro de Coerência"

O artigo conclui fornecendo um "livro de coerência" (Tabela 1) que lista quais propriedades Bayesianas sobrevivem no regime de posterior de decisão e quais não:

• Posteriors de Crença: Suportam permutabilidade (exchangeability), o princípio da verossimilhança e verossimilhanças marginais bem definidas.
• Posteriors de Decisão: Suportam coerência sequencial (consistência de operador) e otimalidade sob perda especificada, mas não suportam permutabilidade como uma restrição de crença, o princípio da verossimilhança ou resumos de evidência canônicos como fatores de Bayes.

Implicações Práticas:

1. Calibragem da Taxa de Aprendizado: No regime de posterior de decisão, a taxa de aprendizado $\eta$ não é fixada por um modelo probabilístico. É um componente estrutural que deve ser explicitamente calibrado (ex: via loss-likelihood bootstrap ou seleção de taxa de aprendizado segura) para garantir robustez ou cobertura.
2. Padrões de Relato: Os autores recomendam que profissionais que utilizam o Bayes generalizado relatem explicitamente a função de perda, o método de calibração para $\eta$, a interpretação do resultado (crença vs. decisão) e o critério de comparação de modelos utilizado (favorecendo a pontuação preditiva sobre $Z(x)$).

Conclusão
O artigo esclarece que o Bayes generalizado é um mecanismo coerente para selecionar regras de decisão aleatorizadas sob especificações explícitas de perda e base. Ele recupera a atualização de crença Bayesiana padrão apenas no caso específico em que a perda é o negativo do logaritmo da verossimilhança. Fora deste caso, o método é uma ferramenta de regularização da teoria da decisão, e suas propriedades (como a falta de evidência canônica) devem ser compreendidas dentro desse arcabouço, e não através da lente da coerência de crença clássica.