Resumo Técnico: Preconformidade Online via Otimização Online

Declaração do Problema

A preconformidade oferece uma estrutura fundamentada para quantificação de incerteza com garantias de cobertura em amostras finitas. Embora avanços recentes tenham estendido esses métodos para cenários online e sequenciais, as abordagens existentes tipicamente operam em um único nível de cobertura ($1-\alpha$). Quando múltiplos níveis de cobertura são necessários simultaneamente — um cenário comum em aplicações como previsão meteorológica, previsão macroeconômica e gestão de riscos, onde os usuários possuem tolerâncias a riscos heterogêneas —, os métodos online padrão devem ser executados independentemente para cada $\alpha$.

Essa execução independente leva a uma limitação crítica: os conjuntos de previsão resultantes não são garantidos de serem aninhados. Em termos práticos, um conjunto de previsão para um nível de confiança mais alto (por exemplo, 99%) deve ser um superconjunto do conjunto para um nível de confiança mais baixo (por exemplo, 90%). Sem essa propriedade de aninhamento, as estimativas de incerteza podem ser incoerentes e difíceis de interpretar. Além disso, a estimação independente falha em aproveitar os ganhos de eficiência estatística conhecidos da regressão de quantis conjunta, onde a imposição de restrições de não-cruzamento permite o compartilhamento de informações entre quantis.

O artigo aborda o desafio de desenvolver métodos de preconformidade online que produzam simultaneamente conjuntos de previsão aninhados em uma gama de níveis de cobertura, mantendo garantias de cobertura de longo prazo, mesmo sob sequências de dados não estacionárias ou adversárias.

Metodologia

Os autores propõem dois algoritmos inovadores baseados em uma perspectiva de otimização online. Eles enquadram o problema de atualizar os limiares de preconformidade como uma tarefa de aprendizado online, onde o objetivo é minimizar uma função de perda conjunta enquanto impõe restrições de monotonicidade aos limiares.

1. Formulação do Problema

Seja $s_t$ uma pontuação de não conformidade limitada no tempo $t$. Para uma sequência de níveis de não cobertura $0 = \alpha_0 < \alpha_1 < \dots < \alpha_K < \alpha_{K+1} = 1$, o objetivo é estimar limiares $q_{t,i}$ de modo que os conjuntos de previsão $C^i_t = \{y : s_t(x,y) \le q_{t,i}\}$ sejam aninhados ($C^{i+1}_t \subseteq C^i_t$). Isso requer que os limiares sejam monotonicamente decrescentes: $q_{t,1} \ge q_{t,2} \ge \dots \ge q_{t,K}$.

Atualizações online padrão (por exemplo, Inferência Conformal Adaptativa) tratam cada quantil independentemente:
$$q_{t+1,i} = q_{t,i} - \eta_t (\alpha_i - \text{err}_{t,i})$$
onde $\text{err}_{t,i}$ é o indicador de não cobertura. Essa abordagem carece de acoplamento entre níveis e não garante monotonicidade.

2. Algoritmos Propostos

O artigo introduz dois métodos que modificam a regra de atualização para impor monotonicidade por meio de técnicas de otimização online:

A. Descida de Gradiente Exponenciado (EG)

Este método aproveita o algoritmo de Gradiente Exponenciado aplicado a um espaço de parâmetros transformado.

• Parametrização: Em vez de atualizar os limiares diretamente, o algoritmo atualiza as lacunas normalizadas entre quantis consecutivos ($w_{t,i}$) em um simplex truncado. Essa mudança de variáveis ($q_{t,i} = B \sum_{j=i}^K w_{t,j}$) garante inerentemente que, se os pesos forem não negativos, os quantis estejam ordenados.
• Regra de Atualização: O algoritmo minimiza uma função de perda conjunta $g_t(\bar{w})$ usando atualizações EG. O gradiente para cada coordenada agrega discrepâncias de não cobertura em todos os níveis de quantil relevantes, induzindo um acoplamento global.
• Mecanismo: Quando o método é excessivamente conservador ou subestima a cobertura, o termo de erro cumulativo ajusta as lacunas em toda a curva de quantis simultaneamente. Isso permite que o método "empreste força" entre níveis, coordenando ajustes para preservar o aninhamento naturalmente.

B. Descida de Gradiente Projetado (PG)

Este método utiliza a descida de Gradiente Projetado com um conjunto de restrições específico.

• Regra de Atualização: O algoritmo primeiro realiza atualizações de gradiente independentes no vetor de quantis $\bar{q}_t$ com base na função de perda conjunta.
• Projeção: O vetor resultante é então projetado no conjunto convexo de sequências decrescentes ($Q = \{\bar{q} : B \ge q_1 \ge \dots \ge q_K \ge 0\}$).
• Mecanismo: Essa projeção é implementada usando o Algoritmo de Pool Adjacent Violators (PAVA). Diferentemente do EG, o PG opera via correção local: atualiza os quantis independentemente e depois os ajusta minimamente para restaurar a restrição de ordenação. Não redistribui inerentemente informações entre níveis durante a etapa de gradiente.

3. Garantias Teóricas

Os autores estabelecem limites teóricos para ambos os métodos:

• Cobertura: Ambos os métodos fornecem garantias de cobertura de longo prazo, assegurando que a taxa empírica de não cobertura convirja para o alvo $\alpha_i$ para todos os níveis.
• Arrependimento e Erro: O artigo deriva limites para o arrependimento dinâmico e o desvio dos quantis estimados dos quantis verdadeiros ($\|\bar{q}_t - \bar{q}^*_t\|_2$). Esses limites dependem da variação dinâmica dos quantis verdadeiros ($V_T$) e do tamanho do passo $\eta$. O limite do método EG sugere eficiência aprimorada devido ao acoplamento estruturado, enquanto o PG garante viabilidade (aninhamento) em cada passo de tempo.

Contribuições Principais

1. Formulação Inovadora: Introdução de uma estrutura de preconformidade online que produz conjuntos de previsão aninhados em múltiplos níveis de cobertura, permitindo quantificação de incerteza calibrada sobre todo o espectro de riscos.
2. Inovação Algorítmica: Proposta de dois algoritmos online (EG e PG) baseados em otimização convexa que estimam conjuntamente limiares de preconformidade enquanto impõem estritamente a monotonicidade.
3. Garantias Teóricas: Estabelecimento de garantias de cobertura de longo prazo para todos os níveis, juntamente com provas que asseguram conjuntos de previsão aninhados em cada passo de tempo.
4. Validação Empírica: Demonstração de que esses métodos alcançam cobertura estável, conjuntos estritamente aninhados e eficiência estatística aprimorada em comparação com bases de referência de nível único independentes.

Resultados Experimentais

Os métodos foram avaliados em conjuntos de dados sintéticos e do mundo real.

Dados Sintéticos

• Configuração: Um ambiente não estacionário onde as distribuições de pontuação evoluem via um passeio aleatório refletido latente.
• Descobertas: O método de Gradiente Exponenciado (EG) alcançou um erro de rastreamento $\ell_1$ menor em comparação com o rastreador de quantis independente e o método de Gradiente Projetado. Isso apoia a hipótese de que compartilhar informações entre quantis melhora a eficiência estatística no rastreamento de distribuições que variam no tempo. O método PG performou de forma semelhante ao rastreador independente, indicando ganhos limitados da otimização conjunta neste cenário específico em comparação com o EG.

Dados do Mundo Real (Inflação dos EUA)

• Configuração: Previsão da inflação do Índice de Preços ao Consumidor (CPI) dos EUA usando um modelo AR(3) com janelas rolantes.
• Descobertas:
  • Calibração: Todos os métodos eventualmente convergiram para baixo erro de calibração. No entanto, o rastreador de quantis sem restrições exibiu comportamento oscilatório (sobre-correção), enquanto os métodos propostos com restrições mostraram trajetórias mais estáveis.
  • Aninhamento e Suavidade: Métodos de base (rastreador independente e projeção post-hoc) produziram faixas de previsão com distorções ocasionais e regiões não aninhadas. Em contraste, os métodos propostos (especialmente o EG) produziram conjuntos de previsão mais suaves e coerentes que preservaram estritamente a estrutura aninhada.
  • Interpretabilidade: A atualização EG produziu faixas de previsão mais suaves ao coordenar quantis adjacentes por meio de discrepâncias cumulativas, reduzindo mudanças abruptas entre níveis.

Significado e Alegações

O artigo afirma que seu significado principal reside em abordar a incoerência das estimativas de incerteza em cenários online de múltiplos níveis. Ao impor restrições estruturais (monotonicidade) por meio de otimização online, os métodos propostos fornecem um espectro de riscos coerente.

As principais alegações incluem:

• Eficiência Estatística: A estimação conjunta melhora a eficiência ao compartilhar informações entre quantis, um benefício demonstrado explicitamente pelo desempenho superior de rastreamento do método EG.
• Interpretabilidade: Os conjuntos de previsão aninhados resultantes são essenciais para contextos de tomada de decisão onde as partes interessadas exigem estimativas de incerteza consistentes entre diferentes tolerâncias a riscos (por exemplo, planejadores de emergência vs. formuladores de políticas).
• Estabilidade: Impor monotonicidade conjuntamente com as atualizações estabiliza a dinâmica de aprendizado, prevenindo as oscilações erráticas observadas em rastreadores sem restrições.
• Contexto Mais Amplo: O trabalho preenche a lacuna entre robustez adversarial (garantias em cenários de pior caso) e eficiência estatística (rastreamento de distribuições que variam no tempo), enquadrando a preconformidade online como um problema de rastreamento de quantis que variam no tempo com análise de arrependimento dinâmico.

Os autores observam que trabalhos futuros poderiam explorar taxas de aprendizado adaptativas para aprimorar ainda mais o desempenho em ambientes não estacionários, mas a contribuição atual foca nos benefícios estruturais da estimação conjunta sob regimes de tamanho de passo fixo.