Resumo Técnico: Ensamble Bayesiano via Otimização Online e Bayes Empírico

Definição do Problema

O artigo aborda o desafio de combinar múltiplos modelos Bayesianos para inferência preditiva em um cenário de aprendizado online. Embora a combinação de modelos (ensembles) seja uma prática bem estabelecida na estatística e no aprendizado de máquina, os métodos existentes enfrentam limitações específicas quando os dados chegam sequencialmente e o processo gerador de dados real é desconhecido.

Os principais métodos para o ensemble Bayesiano são:

1. Média de Modelos Bayesianos (BMA - Bayesian Model Averaging): Pesa os modelos com base em suas verossimilhanças marginais. Embora seja ótimo no cenário "M-fechado" (onde o verdadeiro modelo está entre os candidatos), a BMA sofre de "colapso de peso" em cenários "M-abertos" (onde o verdadeiro modelo não está presente), concentrando todo o peso em um único modelo que pode não generalizar bem.
2. Empilhamento Bayesiano (Bayesian Stacking): Otimiza um critério de log-score (verossimilhança preditiva) sobre um conjunto de validação para encontrar combinações convexas ótimas de modelos. No entanto, o empilhamento padrão é tipicamente um processo em lote (batch) que requer conjuntos de dados separados, tornando-o inadequado para cenários estritamente online onde os pesos devem ser atualizados conforme novos dados chegam sem reservar dados para validação.

O artigo busca preencher essa lacuna formulando o Empilhamento Bayesiano Online (OBS - Online Bayesian Stacking): um método para combinar modelos Bayesianos de forma adaptativa em tempo real, otimizando o log-score sobre distribuições preditivas, enquanto fornece um arcabouço teórico para entender sua relação com a BMA online.

Metodologia

1. Conexão com a Seleção de Portfólio Online (OPS)

A principal percepção metodológica é a reinterpretação do empilhamento Bayesiano como um problema de Seleção de Portfólio Online Universal (OPS).

• Analogia: As densidades preditivas dos $K$ modelos, $p_k(y_t | x_t, D_{t-1})$, são tratadas como vetores de "razão de preço" (retornos) de $K$ ativos em um mercado financeiro.
• Objetivo: O objetivo de maximizar o log-verossimilhança cumulativo (log-score) é matematicamente equivalente a maximizar o log-patrimônio de um portfólio.
• Algoritmos: Essa conexão permite que os autores utilizem algoritmos eficientes e teoricamente fundamentados da literatura de Otimização Convexa Online (OCO), especificamente:
  • Gradiente Exponenciado (EG - Exponentiated Gradients): Uma regra de atualização multiplicativa.
  • Passo de Newton Online (ONS - Online Newton Step): Utiliza informações de segunda ordem para limites de regret mais estreitos.
  • Soft-Bayes: Uma variante que fornece limites de regret sem assumir variabilidade de mercado limitada (gradientes).
  • D-ONS (Discounted ONS): Uma extensão projetada para ambientes não estacionários, incorporando um fator de esquecimento na informação de segunda ordem.

2. Análise Teórica de Regret e Funções de Perda

O artigo estabelece propriedades teóricas distintas para o OBS versus a BMA Online (O-BMA):

• O-BMA como Hedge: Os autores demonstram que as atualizações da O-BMA são equivalentes ao algoritmo Hedge com uma taxa de aprendizado $\eta=1$ e uma função de perda específica. A O-BMA minimiza o regret em relação ao melhor especialista individual (seleção de modelo).
• OBS como Otimização de Mistura: O OBS minimiza o regret em relação à melhor combinação convexa de especialistas (combinação de modelos).
• Limites de Regret: Ao mapear o OBS para o OPS, o artigo deriva limites de regret. Sob suposições suaves, o OBS alcança um regret de $O(\sqrt{T})$ (ex: via Soft-Bayes) ou $O(\log T)$ (via ONS com gradientes limitados). Em contraste, a O-BMA alcança regret constante apenas em relação ao melhor modelo individual, que pode ser arbitrariamente ruim se o melhor modelo individual for um preditor ruim comparado a uma mistura.

3. Perspectiva de Bayes Empírico

Os autores fornecem uma interpretação de Bayes Empírico (EB) para explicar as patologias da BMA:

• BMA como EB sobre Indicadores: A BMA realiza EB sobre uma variável indicadora, efetivamente selecionando um único modelo com a maior verossimilhança marginal. Isso leva ao fenômeno de "colapso", onde o ensemble degenera para um único modelo, mesmo que uma mistura pudesse fornecer melhor precisão preditiva.
• OBS como EB sobre Pesos: O OBS realiza EB diretamente nos próprios pesos da mistura, tratando-os como hiperparâmetros a serem otimizados. Isso evita o colapso ao buscar a combinação ponderada ideal em vez de um único vencedor.

Principais Contribuições

1. Conexão Inovadora: O artigo estabelece uma equivalência rigorosa entre o Empilhamento Bayesiano Online e a Seleção de Portfólio Online Universal, permitendo o uso de algoritmos eficientes de OCO para ensembles Bayesianos.
2. Clarificação Teórica: Esclarece a distinção entre O-BMA e OBS, mostrando que eles otimizam funções de custo diferentes (seleção de modelo vs. combinação de modelo) e fornece limites de regret para o OBS baseados na literatura de OPS.
3. Explicação de Bayes Empírico: Oferece um argumento de EB convincente explicando por que a BMA colapsa em cenários M-abertos e como o empilhamento naturalmente evita esse problema.
4. Abordagem Híbrida: Os autores propõem um método híbrido que mantém tanto as misturas O-BMA quanto as do OBS, sendo estas médias via uma camada secundária, para alcançar regret constante em relação ao melhor modelo individual, mantendo a expressividade do OBS.

Resultados Experimentais

Os autores avaliam o OBS em quatro cenários usando ensembles de modelos de última geração (Processos Gaussianos, Redes Neurais Bayesianas Variacionais e modelos de Volatilidade Estocástica estimados via Monte Carlo Sequencial):

1. Regressão Linear de Brinquedo (Toy): Em um cenário "Aberto" (o verdadeiro modelo não está no ensemble), as variantes do OBS (EG, ONS) superaram significativamente a O-BMA, que colapsou para um único modelo ruim. Em um cenário "Fechado", o OBS teve um desempenho quase tão bom quanto o teoricamente ideal da O-BMA.
2. Inferência Variacional Online (MNIST): Usando Redes Neurais Bayesianas, o OBS superou consistentemente a O-BMA e a DMA (Dynamic Model Averaging). A BMA colapsou para uma única rede, enquanto o OBS convergiu para pesos equilibrados.
3. Previsão Financeira (S&P 500): Ao realizar o ensemble de diversos modelos GARCH, os métodos OBS (EG, ONS, Soft-Bayes) superaram a O-BMA e a DMA. Neste ambiente não estacionário, o D-ONS (Discounted ONS) alcançou o melhor desempenho.
4. Regressão Não Estacionária: Em conjuntos de dados com desvio de covariável (ex: dados de robótica), os métodos OBS, particularmente o D-ONS e o Soft-Bayes, foram robustos e superaram consistentemente a O-BMA e a DMA padrão.

Descoberta Principal: Em todos os casos testados, o OBS superou significativamente a BMA online. O custo computacional do OBS foi considerado negligenciável em comparação ao custo de treinamento online e predição dos modelos de ML subjacentes.

Significância e Alegações

O artigo afirma que o Empilhamento Bayesiano Online (OBS) fornece uma alternativa principial, teoricamente fundamentada e empiricamente superior à BMA online, particularmente em cenários realistas "M-abertos", onde o processo gerador de dados real não está contido no conjunto de modelos candidatos.

• Orientação Prática: Os autores sugerem que os praticantes devem preferir o OBS na maioria das aplicações de aprendizado de máquina (que são tipicamente M-abertas). Eles recomendam algoritmos específicos de OCO baseados no ambiente: D-ONS para não estacionariedade antecipada, ONS para cenários gerais com computação suficiente e Soft-Bayes para robustez sem limites de gradiente.
• Ponte Teórica: O trabalho une o aprendizado de ensemble Bayesiano ao rico arcabouço teórico de otimização convexa online e seleção de portfólio, oferecendo novas ferramentas para analisar e melhorar o desempenho preditivo Bayesiano.
• Modéstia: Os autores reconhecem que, embora o OBS seja geralmente superior, a O-BMA permanece ótima em cenários estritamente M-fechados. Eles também observam que a escolha do algoritmo OCO e dos hiperparâmetros (como taxas de aprendizado) pode influenciar o desempenho, embora os métodos propostos sejam geralmente robustos a essas escolhas dentro de intervalos razoáveis.

O artigo conclui que a conexão entre o OBS e a seleção de portfólio abre novos caminhos para pesquisa em aprendizado contínuo, regret adaptativo e inicialização de ensembles Bayesianos.