Resumo Técnico: Treinamento de Surrogados Bayesianos em Múltiplas Fontes de Dados

Declaração do Problema

Modelos surrogados são amplamente utilizados para aproximar modelos de simulação complexos e computacionalmente caros para tarefas como quantificação de incerteza, análise de sensibilidade e resolução de problemas inversos. No entanto, existe uma limitação fundamental: os modelos surrogados são tipicamente treinados exclusivamente com dados de simulação. Como o modelo de simulação subjacente é frequentemente uma simplificação imperfeita de sistemas do mundo real (omitindo processos, sofrendo de especificações incorretas ou possuindo condições de contorno inadequadas), o surrogado herda essas imprecisões. Por outro lado, dados de medição do mundo real contêm informações valiosas sobre o sistema verdadeiro, mas são frequentemente escassos, ruidosos e carecem do conhecimento completo dos parâmetros de entrada (por exemplo, variáveis de forçamento desconhecidas) exigidos pelo modelo de simulação.

Os métodos existentes para integrar essas fontes de dados enfrentam vários desafios:

1. Assimetria: Os dados de simulação possuem entradas totalmente especificadas, enquanto os dados do mundo real frequentemente possuem entradas desconhecidas.
2. Pressupostos de Homogeneidade: Muitas abordagens assumem fontes de dados homogêneas ou dependem de famílias específicas de surrogados (por exemplo, Processos Gaussianos) com pressupostos simplificados.
3. Falta de Estratégias de Ponderação: Há literatura limitada sobre como ponderar adequadamente fontes de dados heterogêneas durante o treinamento para refletir níveis variados de confiança ou credibilidade.
4. Integração Indireta: Alguns métodos não utilizam dados do mundo real diretamente para o treinamento do surrogado, mas sim para calibração post-hoc ou modelagem de discrepância.

O artigo propõe um framework geral para abordar essas questões treinando modelos surrogados bayesianos em múltiplas fontes de dados (simulação e mundo real) utilizando novas estratégias de ponderação que operam independentemente da família de surrogado escolhida.

Metodologia

Os autores propõem um framework que combina duas fontes de dados distintas:

• Dados de Simulação ($D_S$): Gerados a partir de um modelo baseado em física $M$ com entradas conhecidas $x_S$ e parâmetros incertos $\omega_S$.
• Dados do Mundo Real ($D_R$): Gerados a partir de um processo desconhecido $G$ com entradas conhecidas $x_R$, mas parâmetros desconhecidos $\omega_R$ e ruído de medição.

O framework introduz duas abordagens probabilísticas para integração ponderada, controladas por um fator de ponderação $\beta \in [0, 1]$:

1. Ponderação da Predição Posterior (PW)

Este método treina dois modelos surrogados separados independentemente:

• Um surrogado baseado em simulação ($f_{M_S}$) treinado em $D_S$ e usado para inferir parâmetros desconhecidos a partir de $D_R$.
• Um surrogado orientado a dados ($f_{M_R}$) treinado exclusivamente em $D_R$.

A previsão final é uma soma ponderada de suas distribuições preditivas posteriores:
$$p_{pw, \beta}(\hat{y}_R | \hat{x}_R, D_S, D_R) = \beta \cdot p(\hat{y}_R | \hat{x}_R, D_S, D_R, f_{M_S}) + (1 - \beta) \cdot p(\hat{y}_R | \hat{x}_R, D_R, f_{M_R})$$
Aqui, $\beta$ controla a influência relativa do modelo baseado em simulação. Esta abordagem permite visualizar a discrepância entre as duas fontes observando a superposição de suas distribuições preditivas.

2. Escalonamento de Potência das Verossimilhanças (PS)

Este método treina um único modelo surrogado integrando diretamente ambas as fontes de dados na função de verossimilhança via escalonamento de potência. A posterior conjunta é definida como:
$$p_{ps}^\beta(\omega'_R, \sigma', c | D_S, D_R) \propto p(y_R | x_R, \omega'_R, \sigma', c)^{\alpha_R} \cdot p(y_S | x_S, \omega_S, \sigma', c)^{\alpha_S} \cdot p(\omega'_R, \sigma') p(c)$$
Os fatores de escala $\alpha_R$ e $\alpha_S$ são derivados de $\beta$ para garantir que, à medida que $\beta$ se aproxima de 0 ou 1, a influência de uma fonte de dados diminua enquanto a outra permanece totalmente utilizada. O método emprega um procedimento MCMC em duas etapas:

1. Treinamento Conjunto: Estimação dos coeficientes do surrogado $c$ e parâmetros intermediários usando a verossimilhança escalonada por potência.
2. Inferência Refinada: Reestimativa dos parâmetros do mundo real desconhecidos $(\omega_R, \sigma_R)$ usando apenas a verossimilhança completa dos dados do mundo real $D_R$, condicionada à posterior de $c$ da etapa 1. Isso evita o "duplo uso" dos dados reais e garante que os parâmetros sejam inferidos com base em evidências do mundo real.

Implementação

O framework é projetado para ser agnóstico ao surrogado, aplicável a qualquer surrogado probabilístico (por exemplo, Expansões em Caos Polinomial, Processos Gaussianos, Redes Neurais) implementável em linguagens de programação probabilística como Stan ou PyMC. Os autores utilizam Monte Carlo via Cadeias de Hamilton (HMC) para amostragem.

Contribuições Principais

1. Estratégias de Ponderação Novas: Introdução de dois métodos distintos (PW e PS) para combinar fontes de dados heterogêneas durante o treinamento do surrogado, oferecendo um contínuo entre modelos puramente orientados a dados e puramente baseados em simulação.
2. Tratamento da Assimetria: O método PS aborda especificamente a assimetria das fontes de dados (entradas conhecidas vs. desconhecidas) através de um procedimento de inferência em duas etapas que separa o treinamento de coeficientes do refinamento de parâmetros.
3. Agnosticismo ao Surrogado: As estratégias de ponderação propostas são independentes da família específica de surrogado, permitindo ampla aplicabilidade em diferentes contextos de modelagem.
4. Capacidade Diagnóstica: O framework fornece um mecanismo para diagnosticar limitações estruturais em modelos de simulação visualizando as informações concorrentes dos dados de simulação e do mundo real.

Resultados

Os autores avaliam os métodos utilizando dois estudos de caso:

Estudo de Caso 1: Exemplo Sintético

• Configuração: Um modelo de simulação captura uma tendência global, enquanto os dados "reais" incluem um termo periódico adicional não presente na simulação.
• Descobertas:
  • Fora da Amostra (OOS): O surrogado orientado a dados ($\beta=0$) apresenta o melhor desempenho, pois ajusta perfeitamente os dados locais.
  • Fora da Distribuição (OOD): O surrogado baseado em simulação ($\beta=1$) apresenta o melhor desempenho devido à sua capacidade de extrapolar com base em leis físicas.
  • Desempenho Híbrido: Para $\beta$ intermediário, o método Escalonamento de Potência (PS) geralmente alcançou menor RMSE (mais próximo da verdade sintética), enquanto a Ponderação da Predição Posterior (PW) forneceu melhor ELPD (melhor modelagem de incerteza).
  • Comparação com KOH: O método PS superou o framework padrão de calibração Kennedy-O'Hagan (KOH) na recuperação da função média para certos valores de $\beta$, embora o KOH se destacasse na quantificação de incerteza.

Estudo de Caso 2: Modelagem Epidemiológica (Modelo SIR)

• Configuração Sintética: Um modelo SIR mal especificado (taxa de recuperação fixa) versus dados reais com uma taxa de recuperação diferente.
  • Resultados: O PS mostrou desempenho superior em regiões OOD ao aproveitar os dados de simulação como regularizador para prevenir previsões extremas do modelo orientado a dados. O PW forneceu uma superposição visual das tendências conflitantes (declínio mais acentuado nos dados versus declínio mais lento na simulação).
• Configuração do Mundo Real: Dados de COVID-19 da Itália (primeira onda).
  • Resultados: O modelo orientado a dados falhou em extrapolar (prevendo aumentos de infecção), enquanto o modelo baseado em simulação mostrou alta incerteza e previu um declínio excessivamente forte. A abordagem de Escalonamento de Potência alcançou um ELPD ótimo em $\beta \approx 0,45$, equilibrando as duas fontes. O método PW mostrou melhoria monótona com $\beta$, mas não atingiu o desempenho máximo do PS.

Significado e Alegações

O artigo afirma que essas abordagens de modelagem híbrida oferecem uma maneira flexível de melhorar a precisão preditiva e a cobertura, particularmente em regimes desafiadores fora da distribuição onde o treinamento de fonte única falha.

• Insights Diagnósticos: Os autores enfatizam que a visualização das distribuições preditivas posteriores (especialmente via PW) serve como uma ferramenta diagnóstica. Permite aos modeladores identificar processos ausentes ou especificações incorretas no modelo de simulação observando onde a simulação e os dados reais divergem.
• Compensações: O artigo nota modestamente que o método ótimo e o fator de ponderação dependem do cenário específico e da métrica de avaliação.
  • Escalonamento de Potência é recomendado para recuperar a verdade subjacente e alcançar previsões de média robustas, pois utiliza dados de simulação como regularizador durante o treinamento.
  • Ponderação da Predição Posterior é recomendada para fins diagnósticos e interpretação intuitiva de fontes de informação concorrentes, embora possa ser menos robusta se o componente orientado a dados estiver mal restringido.
• Direções Futuras: Os autores sugerem que, embora tenham focado em duas fontes, o framework pode ser estendido para múltiplas fontes. Eles também observam que encontrar o $\beta$ ótimo via busca linear pode ser computacionalmente caro para o PS, sugerindo trabalhos futuros sobre amostragem por importância ou correspondência de momentos para reduzir os custos de reajuste.

Em resumo, o artigo apresenta um framework que move a modelagem de surrogados de ser um mero "substituto" para simulações caras para se tornar um componente de uma ferramenta diagnóstica para modelagem híbrida, capaz de aproveitar tanto o conhecimento mecânico quanto a evidência empírica.