Towards accurate extreme event likelihoods from diffusion model climate emulators

Resumo Técnico: Rumo a Probabilidades Precisas de Eventos Extremos a partir de Emuladores Climáticos Baseados em Modelos de Difusão

Enunciação do Problema
Emuladores climáticos baseados em aprendizado de máquina (ML), particularmente modelos de difusão como Climate in a Bottle (cBottle), oferecem experimentação eficiente em termos de custos para planejamento de cenários e adaptação. Uma capacidade fundamental desses modelos é a "orientação" (guidance), onde podem ser direcionados para gerar estados específicos de interesse, como Ciclones Tropicais (CTs) em locais definidos pelo usuário. No entanto, existe uma limitação crítica: embora modelos orientados possam superamostrar eventos extremos raros, eles não informam inerentemente aos usuários sobre a probabilidade dessas amostras geradas sob a distribuição de dados verdadeira e não orientada. Sem essa informação probabilística, é difícil distinguir entre extremos plausíveis e artefatos do processo de orientação, limitando a utilidade desses modelos para atribuição rigorosa de eventos extremos e avaliação de riscos.

Metodologia
Os autores propõem um framework para recuperar estimativas precisas de densidade de probabilidade para amostras orientadas usando o modelo de difusão cBottle. A metodologia baseia-se na fundação teórica dos Modelos Probabilísticos de Difusão com Remoção de Ruído (DDPMs) e na Equação Diferencial Ordinária (EDO) do Fluxo de Probabilidade (PF).

1. Amostragem Orientada: O modelo cBottle, um emulador climático baseado em difusão com resolução de 5 km, é condicionado a temperaturas da superfície do mar (TSMs) e posição solar. Para gerar CTs, um termo de orientação de classificador é adicionado à EDO-PF. Os autores refinam a implementação da orientação ao:

   • Utilizar uma escala de orientação constante ($\gamma$) em vez da escala adaptativa usada em trabalhos anteriores.
   • Aplicar a orientação apenas dentro de uma "janela de remoção de ruído" específica (níveis de ruído $\sigma \in [15, 20]$) onde o sinal de CT é gerado, em vez de em toda a trajetória. Isso evita valores de divergência implausíveis e reduz o custo computacional.

2. Cálculo da Razão de Chances: Para quantificar o quanto a orientação altera a probabilidade de uma amostra, os autores calculam a razão de chances $o(x) = p_{\text{não-orientado}}(x) / p_{\text{orientado}}(x)$.

   • Usando a formulação da EDO-PF, eles computam a densidade de log-probabilidade de uma amostra integrando a divergência do campo de velocidade da amostra de volta ao prior gaussiano.
   • O log da razão de chances é decomposto em três termos: a diferença nas probabilidades latentes ($\Delta_{\text{latente}}$), a diferença nas divergências dos escores do desruizador ($\Delta_{\text{desruizador}}$) e a divergência do termo de orientação ($\Delta_{\text{orientação}}$).
   • Essas divergências são estimadas usando o estimador de traço de Skilling-Hutchinson com diferenciação automática.

3. Amostragem por Importância: As razões de chances calculadas são usadas para realizar amostragem por importância. Em vez de retirar $K$ amostras da distribuição não orientada (o que raramente produz CTs), os autores retiram amostras da distribuição orientada e as reponderam pela razão de chances. Isso permite a estimativa da probabilidade verdadeira de eventos extremos com erro padrão reduzido em comparação à amostragem de Monte Carlo simples.

4. Análise de Probabilidade ERA5: Os autores também aplicam o modelo não orientado para calcular a probabilidade de dados de reanálise do mundo real ERA5 (especificamente anomalias de temperatura na Antártida) para testar a resposta do modelo a perturbações de TSM e eventos extremos.

Principais Resultados

• Otimização da Janela de Orientação: O estudo demonstra que a orientação é eficaz e numericamente estável apenas dentro de um intervalo estreito de ruído ($\sigma \approx 15-20$). Aplicar orientação em toda a trajetória leva a valores de divergência negativos e amostras implausíveis. Restringir a orientação a essa janela produz geração estável de CTs com divergência positiva.
• Variância nas Razões de Chances: Os autores observam que a variância das razões de chances calculadas aumenta significativamente com forças de orientação mais intensas. Embora a orientação forte produza mais CTs, os pesos resultantes tornam-se altamente variáveis. Consequentemente, as estimativas de amostragem por importância mais robustas são alcançadas com escalas de orientação mais fracas, exigindo amostragem repetida para reduzir a variância.
• Recuperação Precisa de Probabilidades: Apesar da variância, as estimativas de amostragem por importância recuperam com sucesso a frequência de CTs do modelo de controle não orientado. Para limiares extremos (por exemplo, percentil 99,999), a estimativa de amostragem por importância alcança menor incerteza do que uma estimativa padrão de Monte Carlo do modelo não orientado, trocando efetivamente a incerteza de amostragem pela incerteza de pesos.
• Comparação com ERA5: Ao comparar a climatologia de CTs do cBottle com registros históricos do ERA5, os padrões espaciais correspondem bem, embora o cBottle subestime a frequência absoluta e a confiança dos CTs. Os autores observam que esse viés é inerente ao treinamento atual e à arquitetura do modelo, e não ao método de orientação ou amostragem.
• Probabilidades de Amostras ERA5: Para a onda de calor antártica de março de 2022, o modelo atribui valores típicos de log-probabilidade para aquela época do ano, mostrando um ciclo sazonal pronunciado (maior probabilidade no verão, menor no inverno) em vez de uma correlação direta com a magnitude da anomalia de temperatura. O modelo atribui corretamente probabilidades mais altas a eventos de calor sob perturbações de TSM de +2K em comparação com -2K, mas a log-probabilidade não serve efetivamente como um proxy direto para a extremidade do evento em si.

Significado e Alegações
O artigo apresenta "resultados precoces, mas encorajadores", demonstrando que emuladores climáticos baseados em modelos de difusão podem fornecer não apenas amostras sintéticas de eventos extremos, mas também estimativas probabilísticas precisas de suas probabilidades.

• Novidade: Segundo os autores, esta é a primeira aplicação de cálculo de razões de chances como a razão de probabilidades de amostras sob modelos de difusão orientados versus não orientados para permitir amostragem por importância para extremos climáticos.
• Utilidade: O método permite que pesquisadores superamostrem eventos raros (como CTs) para estudos de impacto, mantendo o rigor estatístico em relação à sua probabilidade real de ocorrência.
• Limitações e Trabalho Futuro: Os autores são modestos quanto ao custo computacional atual, notando um desaceleração de 33 vezes para uma única amostra orientada com cálculo de razão de chances em comparação com a amostragem não orientada. Eles sugerem que melhorias futuras, como destilação de modelos ou orientação sem classificador, poderiam tornar essa abordagem mais eficiente em termos de custos. Eles também enfatizam que a precisão das probabilidades é fundamentalmente limitada pela fidelidade do modelo cBottle subjacente, particularmente sua representação das intensidades de CTs.

O trabalho visa estimular pesquisas adicionais na extração de informações probabilísticas de modelos de difusão, posicionando-os como ferramentas confiáveis para avaliação de riscos climáticos e planejamento de cenários.