Resumo Técnico: SunBURST

1. O Problema: A Maldição da Dimensionalidade na Evidência Bayesiana

A comparação de modelos bayesianos requer o cálculo da evidência marginal (ou verossimilhança marginal), definida como:
$$Z = \int L(\theta)\pi(\theta) d\theta$$
Onde $L(\theta)$ é a verossimilhança e $\pi(\theta)$ é o prior.

O cálculo de $Z$ torna-se computacionalmente proibitivo em altas dimensões devido à maldição da dimensionalidade:

• Volume Exponencial: O volume do espaço de parâmetros cresce exponencialmente com a dimensão $d$, enquanto a massa posterior concentra-se em uma fração exponencialmente pequena desse volume.
• Limitações dos Métodos Atuais: Métodos baseados em amostragem (como Nested Sampling - MultiNest, PolyChord, dynesty) sofrem com escalabilidade. O custo computacional escala tipicamente como $O(K \cdot d^2)$ ou pior, onde $K$ é o número de modos e $d$ a dimensão. Em dimensões acima de 50-100, esses métodos tornam-se inviáveis ou exigem tempos de execução de horas/dias para precisões aceitáveis.
• Gargalo de GPU: Embora GPUs ofereçam paralelismo massivo, algoritmos como o Nested Sampling são inerentemente sequenciais (a contração do volume de prior depende do passo anterior), impedindo a aceleração total via GPU.

2. Metodologia: SunBURST

O SunBURST (Seeded Universe Navigation—Bayesian Unification via Radial Shooting Techniques) é um algoritmo determinístico e nativo de GPU que substitui a exploração global de volume por uma integração geométrica centrada em modos.

A abordagem assume que a massa posterior pode ser bem aproximada localmente por estruturas Gaussianas em torno de um número finito de modos. O pipeline consiste em quatro módulos principais (nomeados em homenagem às formas de Tai Chi Chuan de Guang Ping Yang):

Módulo 1: CarryTiger (Detecção de Modos)

• Objetivo: Descobrir os modos (picos) da distribuição posterior.
• Técnica: Lançamento de raios (ray casting) através do hipercubo de prior em quatro geometrias complementares (vértice-a-vértice, vértice-a-aresta, parede-a-parede e "sunburst" do centro).
• Exploração ChiSao: Utiliza uma estratégia de "mãos coladas" (sticky hands) com oscilações de convergência e anti-convergência. Amostras que encontram picos reais "grudam" (convergem), enquanto outras continuam explorando.
• Paralelismo: Todo o processo de lançamento de raios e avaliação de verossimilhança é massivamente paralelizado na GPU.

Módulo 2: GreenDragon (Refinamento de Picos)

• Objetivo: Refinar a localização dos modos encontrados com precisão de máquina ($< 10^{-12}$).
• Técnica: Uso de L-BFGS em lote (batched L-BFGS) para otimização.
• Filtragem: Eliminação de pontos de sela e duplicatas usando a métrica $L_\infty$.
• Saída: Gera o TrajectoryBank, que armazena as trajetórias de otimização para detecção de geometria posterior sem custo adicional de avaliação.

Módulo 3: BendTheBow (Cálculo da Evidência)

• Objetivo: Calcular a contribuição de evidência de cada modo.
• Técnica: Aproximação de Laplace.
  • Se o posterior for alinhado aos eixos, usa apenas o Hessian diagonal (custo $O(d)$).
  • Se houver correlações (rotação), detecta a necessidade de um Hessian completo via análise das trajetórias do GreenDragon ou sondagem de diferenças finitas (custo $O(d^2)$, mas paralelizável na GPU).
• Cálculo: A evidência de cada modo é calculada analiticamente como uma integral Gaussiana. A evidência total é a soma logarítmica das contribuições de todos os modos.

Módulo 4: GraspBirdsTail (Opcional - Redução de Dimensionalidade)

• Realiza decomposição espectral do Hessian para identificar direções informativas, de ruído e degeneradas.
• Permite a redução da dimensionalidade do problema para passar a amostradores downstream (como PolyChord ou dynesty) se a caracterização completa do posterior for necessária.

3. Principais Contribuições

1. Escalabilidade Sub-linear: O SunBURST alcança uma escala de tempo de parede de aproximadamente $O(d^{0.7})$ (na prática, quase constante em baixas dimensões e sub-linear em altas), permitindo cálculos em até 1024 dimensões em segundos.
2. Precisão Numérica: Para posteriors Gaussianos e quase-Gaussianos, o algoritmo atinge erro relativo abaixo de $10^{-12}$ (precisão de ponto flutuante duplo), pois a aproximação de Laplace é exata para distribuições Gaussianas.
3. Aceleração Massiva em GPU: Ao transformar a integração de volume em um problema de otimização local paralelizável, o SunBURST explora totalmente a arquitetura de GPU, superando métodos de CPU e GPU sequenciais em várias ordens de magnitude.
4. Detecção Automática de Modos: Não requer conhecimento prévio do número ou localização dos modos, utilizando otimização em lote para descobri-los automaticamente.

4. Resultados e Desempenho

Os benchmarks foram realizados em uma GPU NVIDIA RTX 3080 (Laptop) comparando com dynesty, UltraNest e JAXNS.

• Precisão: Em posteriors Gaussianos, o SunBURST atingiu erro de 0% (precisão de máquina) em todas as dimensões testadas (2D a 1024D).
• Tempo de Execução:
  • 1024 Dimensões: Concluído em 6,8 segundos (configuração rápida).
  • 64 Dimensões: 0,23 segundos.
• Comparação com Competidores:
  • O dynesty (com 20 workers paralelos) falhou em convergir ou atingiu timeouts (>1 hora) para dimensões > 64D.
  • O SunBURST foi 73x a 7.800x mais rápido que o dynesty em dimensões médias e altas.
  • O JAXNS (outro método acelerado por GPU) foi superado por 113x a 600x em dimensões equivalentes.
• Limitações em Não-Gaussianos:
  • O método funciona excepcionalmente bem para posteriors Gaussianos, misturas de Gaussianas e estruturas levemente curvas ("banana").
  • Em distribuições com caudas pesadas (ex: Student-t, Cauchy), assimetria forte ou estruturas oca (ex: "Ring"), a aproximação de Laplace introduz erros significativos (até $10^{21}$ vezes), pois não captura a massa de cauda ou geometrias não pontuais. No entanto, a detecção do pico (localização do modo) permaneceu 100% confiável mesmo nesses casos.

5. Significado e Implicações

O SunBURST representa uma mudança de paradigma no cálculo de evidência bayesiana:

• Viabilidade em Alta Dimensão: Torna viável a comparação de modelos em dimensões anteriormente consideradas intratáveis (ex: cosmologia, problemas inversos complexos) em tempo real.
• Reavaliação da Complexidade: Demonstra que a complexidade algorítmica clássica ($O(d^2)$) pode ser mitigada para tempos de parede quase constantes ($O(1)$ ou $O(d^{0.5})$) através de paralelismo massivo em GPU, desde que o problema seja reformulado para evitar dependências sequenciais.
• Aplicações Práticas: Permite análise de sensibilidade de priores exaustiva, otimização de hiperparâmetros baseada em evidência e comparação de modelos em tempo real em cenários onde métodos de amostragem tradicionais falham.

Conclusão: O SunBURST não substitui métodos de amostragem para todos os casos (especialmente posteriors altamente não-Gaussianos), mas oferece a solução definitiva e de alta precisão para a vasta classe de problemas físicos e de engenharia onde a estrutura local do posterior é bem comportada (Gaussiana), resolvendo o gargalo de escalabilidade dimensional.