Resumo Técnico: Conjuntos Rashomon Restritos ao Horizonte para Previsão Caótica

Declaração do Problema

A multiplicidade preditiva (a existência de múltiplos modelos com precisão equivalente, mas previsões divergentes) e a dinâmica caótica (onde pequenas diferenças iniciais levam a resultados que divergem exponencialmente) são dois desafios fundamentais no aprendizado de máquina que historicamente evoluíram de forma isolada. Embora o efeito Rashomon seja bem caracterizado em tarefas de previsão estáticas, as estruturas existentes falham em contabilizar a dinâmica temporal. Por outro lado, a literatura sobre previsão caótica tipicamente otimiza para um único "melhor" modelo, sem caracterizar a multiplicidade de alternativas igualmente precisas.

Essa desconexão cria riscos críticos em aplicações de segurança crítica (por exemplo, despacho de energia eólica, gestão de tráfego, previsão meteorológica). Em sistemas caóticos, modelos que concordam em previsões de curto prazo podem divergir exponencialmente à medida que o horizonte de previsão se estende. Os métodos atuais de seleção, que dependem de métricas de precisão estáticas como RMSE, carecem de uma maneira principial de escolher entre modelos quase ótimos quando a utilidade a jusante depende do comportamento de longo prazo. Este artigo aborda a lacuna investigando como o caos transforma a estrutura da equivalência preditiva ao longo do tempo e como selecionar modelos que maximizem a utilidade da decisão a jusante, em vez da precisão da previsão isoladamente.

Metodologia

Estrutura Teórica

Os autores introduzem Conjuntos Rashomon Restritos ao Horizonte, uma extensão teórica do conjunto Rashomon clássico que varia com o tempo de antecedência da previsão $k$.

• Definição: Para um tempo de antecedência $k$ e tolerância $\epsilon_k$, o conjunto $R^{(k)}_{\epsilon_k}$ contém todos os modelos $h$ cuja perda $L_k(h)$ está dentro de $\epsilon_k$ da perda ótima $L^*_k$.
• Contração Exponencial: O artigo prova (Teorema 1) que, em sistemas caóticos, o tamanho efetivo deste conjunto contrai-se exponencialmente com o tempo de antecedência. A taxa de contração é governada pelo expoente de Lyapunov máximo ($\lambda_{max}$), que quantifica a sensibilidade do sistema às condições iniciais.
• Métricas Ponderadas por Lyapunov: Para abordar a importância variável de diferentes horizontes, os autores propõem Razões Rashomon Ponderadas por Lyapunov (Definição 2). Essas métricas ponderam a discordância dos modelos por um fator de decaimento exponencial $e^{-\lambda_{max}k}$, fornecendo limites mais rigorosos sobre a ambiguidade preditiva efetiva do que as métricas clássicas não ponderadas (Teorema 2).

Abordagem Algorítmica

O artigo desenvolve Algoritmos de Seleção Alinhados à Decisão (Algoritmo 1) que selecionam modelos do conjunto Rashomon variante no tempo com base em funções de utilidade a jusante, em vez de erro de previsão.

• Processo: O algoritmo amostra modelos da interseção de conjuntos restritos ao horizonte, calcula a ação ótima a jusante para cada modelo em vários horizontes e agrega a utilidade usando pesos de Lyapunov.
• Convergência: A análise teórica (Teorema 3) estabelece limites de complexidade de amostra para este processo de seleção, mostrando que o tamanho de amostra necessário cresce exponencialmente com o horizonte de decisão efetivo ponderado pelo expoente de Lyapunov.

Implementação Experimental

• Construção do Modelo: Os autores constroem conjuntos Rashomon enumerando sistematicamente variantes de Computadores de Reservatório. Eles variam hiperparâmetros incluindo o tamanho do reservatório ($N_r$), raio espectral ($\rho$), esparsidade ($p$) e taxa de vazamento ($\alpha$), resultando em 1.080 configurações candidatas.
• Estimativa de Lyapunov: O expoente de Lyapunov máximo é estimado usando o algoritmo de Rosenstein em espaços de fase embutidos com atraso temporal, verificados contra verdades fundamentais sintéticas.
• Tolerância Adaptativa: A tolerância $\epsilon_k$ é definida adaptativamente com base na faixa de desempenho empírica em cada horizonte, garantindo que o tamanho do conjunto permaneça gerenciável (10–100 modelos) enquanto reflete a equivalência específica do horizonte.

Principais Resultados

Sistemas Sintéticos

Experimentos nos sistemas Lorenz-96 e Kuramoto-Sivashinsky validam as alegações teóricas:

• Contração do Conjunto: Medições empíricas confirmam que a cardinalidade do conjunto Rashomon decai exponencialmente com o tempo de antecedência, com taxas de decaimento correspondendo estreitamente às previsões teóricas baseadas em $\lambda_{max}$ ($R^2 > 0,95$).
• Força do Caos: O aumento da força do caos (via parâmetro de forçamento $F$) acelera a contração do conjunto. Para caos forte, o conjunto colapsa para menos de 10 modelos no horizonte 30, enquanto caos mais fraco retém ~50 modelos.

Aplicações do Mundo Real

A estrutura foi avaliada em três conjuntos de dados do mundo real: Energia Eólica SDWPF, Tráfego METR-LA e Clima ERA5.

• Utilidade da Decisão: O método de seleção alinhado à decisão proposto melhorou a qualidade da decisão a jusante em 18–34% em comparação com as linhas de base (Único Melhor, Média do Ensemble, Seleção Aleatória).
• Dependência do Horizonte: As melhorias foram monotônicas com o horizonte de previsão. Por exemplo, em energia eólica, os ganhos de utilidade aumentaram de 18,4% em 6 horas para 27,2% em 24 horas. No tráfego, os ganhos subiram de 21,3% (30 min) para 31,7% (60 min).
• Diversidade Arquitetural: Incluir famílias de modelos diversas (Reservatórios, CNNs, Transformers) no pool de candidatos gerou ganhos adicionais de utilidade (até 38%) em comparação com a seleção dentro de uma única família, sugerindo que a diversidade arquitetural complementa a diversidade de hiperparâmetros.

Significado e Alegações

O artigo alega estabelecer a primeira conexão rigorosa entre a teoria do caos e a multiplicidade preditiva. Suas principais contribuições são:

1. Unificação Teórica: Demonstra que o caos transforma fundamentalmente a equivalência preditiva, fazendo com que o espaço de modelos "igualmente bons" diminua exponencialmente à medida que as previsões se estendem em direção ao horizonte de previsibilidade do sistema.
2. Orientação Prática: Fornece uma estrutura principial para seleção de modelos em domínios caóticos de segurança crítica, indo além de métricas centradas na precisão para uma seleção centrada na utilidade.
3. Desempenho: A estrutura supera consistentemente estratégias de seleção padrão em tarefas de previsão caótica do mundo real, oferecendo melhorias substanciais na qualidade da decisão enquanto mantém precisão preditiva competitiva.

Os autores reconhecem limitações, observando que a estrutura depende de estimativas precisas do expoente de Lyapunov (que podem ser difíceis para sistemas de alta dimensão ou parcialmente observados) e assume o acesso a um pool suficientemente grande de modelos quase ótimos. Eles sugerem que trabalhos futuros devem explorar adaptação online, otimização multiobjetivo e aplicações em modelagem climática e EDOs neurais.