A General Framework for Cutting Feedback within Modularised Bayesian Inference

Resumo Técnico: Um Framework Geral para Cortar Feedback na Inferência Bayesiana Modularizada

Autores: Yang Liu e Robert J.B. Goudie (MRC Biostatistics Unit, University of Cambridge)
Data: Outubro de 2024

1. O Problema

A inferência bayesiana padrão é uma ferramenta poderosa quando se acredita que todo o modelo está corretamente especificado. No entanto, em cenários complexos do mundo real, é comum que partes do modelo estejam mal especificadas (misspecification). Se um componente do modelo é incorreto, a inferência bayesiana padrão permite que esse erro se propague através de todo o sistema, contaminando a estimativa de parâmetros em módulos que, de outra forma, seriam confiáveis.

Embora existam abordagens robustas (como likelihoods temperadas ou distribuições de cauda pesada), elas tratam o modelo como um todo. A inferência modularizada oferece uma alternativa ao dividir o modelo em "módulos" e isolar as partes suspeitas. O método específico de inferência de corte (cut inference) visa "cortar o feedback" de módulos suspeitos para proteger a inferência em módulos confiáveis.

O problema central abordado neste artigo é a falta de uma definição formal e geral de "módulo" e de um framework sistemático para aplicar o corte de feedback em estruturas complexas (grafos acíclicos direcionados - DAGs) com mais de dois módulos. Estudos anteriores focaram quase exclusivamente em casos de dois módulos, deixando a generalização para estruturas arbitrárias ambígua.

2. Metodologia

Os autores propõem um framework formal baseado em Grafos Acíclicos Direcionados (DAGs) que satisfazem a propriedade de fatorização de Markov. A metodologia é construída sobre os seguintes pilares:

• Definição de "Módulo Bayesiano Autocontido" (Self-contained Bayesian Module):
  Os autores definem formalmente um módulo não apenas como um conjunto de parâmetros, mas como um conjunto de variáveis (observáveis e parâmetros) associado a um subconjunto de variáveis observáveis de interesse ($X^*$). Um módulo é "autocontido" se a inferência dos seus parâmetros associados pode ser realizada usando apenas informações internas ao módulo (e seus ancestrais diretos), sem depender de variáveis externas que não sejam necessárias para a sua estrutura causal.

• Regras para Construção e Ordenação:

  • Regra 1: Define como expandir um conjunto de observáveis iniciais para formar um módulo autocontido completo, incorporando todos os ancestrais necessários no DAG.
  • Regra 2: Estabelece a ordenação dos módulos (pai-filho) baseada na estrutura do DAG. Se houver uma aresta direcionada de um parâmetro compartilhado para um módulo específico, define-se quem é o módulo "pai" (confiável) e quem é o "filho" (suspeito).
  • Regra 3: Descreve como construir o sub-grafo de corte ($G_{cut}$), removendo arestas que permitem o fluxo de informação do módulo filho para o pai.

• Distribuição de Corte (Cut Distribution):
  A distribuição de corte é construída substituindo a posteriori padrão do módulo pai pela sua distribuição marginal (inferida apenas com seus dados), enquanto o módulo filho é inferido condicionalmente aos parâmetros já estimados pelo pai (inferência bayesiana autocontida condicional).

  • Justificativa Teórica: Os autores provam que a distribuição de corte é a melhor aproximação da distribuição conjunta que satisfaz a condição de corte, minimizando a Divergência de Kullback-Leibler (KL).

• Técnica de Divisão Sequencial (Sequential Splitting):
  Para lidar com $N$ módulos, o framework não exige uma definição complexa de múltiplos módulos simultaneamente. Em vez disso, propõe uma técnica recursiva:

  1. Divide o modelo em dois módulos.
  2. Divide um dos módulos resultantes em dois novos.
  3. Repete o processo até que todos os módulos desejados sejam formados.
     Isso permite generalizar o caso de dois módulos para qualquer estrutura de DAG complexa, mantendo a consistência teórica.

3. Contribuições Chave

1. Definição Formal de Módulo: Resolve a ambiguidade literária ao definir um módulo como um "Módulo Bayesiano Autocontido", baseado em variáveis observáveis e suas dependências no DAG, em vez de apenas em parâmetros.
2. Generalização para Múltiplos Módulos: Estende a inferência de corte, anteriormente restrita a pares de módulos, para estruturas arbitrárias de DAGs através da técnica de divisão sequencial.
3. Algoritmo Sistemático: Apresenta um algoritmo (Algoritmo 1) que, dado um DAG e uma partição de observáveis, determina automaticamente a ordem dos módulos e constrói a distribuição de corte correspondente.
4. Justificativa de Otimização: Demonstra que a distribuição de corte minimiza a Divergência KL em relação à distribuição conjunta, validando-a como a melhor aproximação possível sob a restrição de corte de feedback.
5. Inferência Condicional Autocontida: Introduz o conceito de realizar inferência dentro de um módulo condicionando-se a parâmetros já inferidos por módulos ancestrais, permitindo o isolamento de erros de especificação.

4. Resultados e Aplicações Ilustrativas

Os autores validam o framework através de exemplos teóricos e simulações numéricas:

• Modelo de Atribuição de Salmonella: Aplicação em um modelo epidemiológico onde a identificação de fontes de contaminação sofre de problemas de identificabilidade. O uso de corte de within-module (dentro do módulo) permitiu estimar parâmetros de exposição usando apenas dados de validação externa, ignorando a incerteza dos dados principais, reduzindo viés.
• Modelo de Regressão Longitudinal com Misspecification:
  • Cenário: Um modelo de regressão gaussiana onde a função de ligação entre tempos consecutivos é mal especificada (adicionando um viés $\delta$).
  • Comparação: A inferência bayesiana padrão acumula o viés ao longo do tempo, resultando em estimativas distorcidas.
  • Resultado do Corte: Ao cortar o feedback entre os passos de tempo (tratando cada passo como um módulo filho do anterior), o viés de estimativa é reduzido drasticamente. As estimativas da inferência de corte distribuem-se em torno do valor verdadeiro, enquanto a inferência padrão permanece enviesada.
  • Simulação: Gráficos mostram que, mesmo com viés determinístico nos dados, a inferência de corte recupera a precisão, embora com uma variância ligeiramente maior (trade-off esperado ao não usar toda a informação disponível).

5. Significância e Impacto

Este trabalho é fundamental para a estatística bayesiana moderna por:

• Viabilidade Prática: Torna a inferência de corte aplicável a modelos complexos e realistas que não se encaixam na estrutura simples de dois módulos.
• Robustez: Oferece uma solução rigorosa para o problema de especificação parcial de modelos, permitindo que analistas confiem em partes do modelo que são bem compreendidas, enquanto isolam partes incertas.
• Fundamentação Teórica: Fornece a base matemática necessária para o desenvolvimento futuro de algoritmos de amostragem (MCMC) e métodos variacionais específicos para estruturas modulares complexas.
• Flexibilidade: Permite que a confiança nos dados varie entre diferentes partes do modelo, uma característica essencial em áreas como epidemiologia, ecologia e ciências sociais, onde dados de diferentes fontes possuem qualidades distintas.

Em resumo, Liu e Goudie transformam a inferência de corte de uma técnica ad hoc para dois módulos em um framework matemático robusto e generalizável, permitindo a construção de modelos bayesianos que são ao mesmo tempo flexíveis e resistentes a erros de especificação.