Resumo Técnico: Predição Parcialmente Performativa

Definição do Problema

O artigo aborda as limitações das estruturas existentes de predição performativa, que modelam o deslocamento de distribuição como puramente endógeno (induzido pelo modelo implantado $\theta$). Na predição performativa clássica, a distribuição de dados $D(\theta)$ muda apenas em resposta às ações do aprendiz. No entanto, os autores observam que, em domínios consequenciais realistas (ex: finanças, saúde, políticas públicas), os deslocamentos de distribuição raramente são puramente endógenos. Eles são frequentemente impulsionados por uma mistura da influência do modelo e fatores exógenos (ex: efeitos sazonais, forças de mercado, mudanças de políticas) que evoluem independentemente do aprendiz.

Para capturar essa interação, o artigo introduz a Predição Parcialmente Performativa. Neste cenário, a distribuição de dados no turno $t$ é uma mistura variante no tempo:
$$D_t(\theta) = (1 - \alpha_t)D(\theta) + \alpha_t P_t$$
onde:

• $D(\theta)$ é o componente performativo dependente do modelo $\theta$.
• $P_t$ é uma distribuição exógena que evolui ao longo do tempo de forma independente de $\theta$.
• $\alpha_t \in [0, 1]$ controla a força relativa do deslocamento exógeno.

Este framework generaliza a predição performativa clássica (recuperada quando $\alpha_t = 0$) e se aproxima de um cenário de deslocamento puramente exógeno (quando $\alpha_t = 1$). O desafio central é que o "alvo" (o modelo ideal ou estável) não é mais estático; ele deriva devido tanto às ações do aprendiz quanto à evolução externa de $P_t$.

Metodologia e Estrutura

1. Redefinindo Objetivos: Regret Dinâmico

Como o ambiente é não estacionário, o objetivo de convergir para um único modelo fixo (como na estabilidade ou otimalidade performativa) é insuficiente. Os autores propõem medir o desempenho via regret dinâmico em relação a sequências de benchmarks variantes no tempo:

• Regret de Estabilidade Performativa ($Reg^{PS}_T$): Compara a sequência do aprendiz $\{\theta_t\}$ contra a sequência de pontos performativamente estáveis $\{\theta^{PS}_t\}$, onde $\theta^{PS}_t$ minimiza o risco desacoplado dada a distribuição induzida por $\theta^{PS}_t$.
• Regret de Otimalidade Performativa ($Reg^{PO}_T$): Compara o aprendiz contra a sequência de pontos performativamente ótimos $\{\theta^{PO}_t\}$, que minimizam o risco performativo $PR_t(\theta) = \mathbb{E}_{Z \sim D_t(\theta)}[\ell(Z, \theta)]$.

2. Ferramenta Analítica Principal: Comprimento de Caminho (Path Length)

Uma quantidade central nos limites teóricos é o comprimento de caminho, definido como o movimento cumulativo da sequência comparadora:
$$\sum_{t=1}^{T-1} \Delta^{PS}_t \quad \text{onde} \quad \Delta^{PS}_t = \|\theta^{PS}_t - \theta^{PS}_{t+1}\|$$
O artigo estabelece que os limites de regret dependem explicitamente deste comprimento de caminho, que é impulsionado pela taxa de mudança da distribuição exógena $P_t$ e pelo coeficiente de mistura $\alpha_t$.

3. Algoritmos Analisados

O artigo analisa várias heurísticas de aprendizado padrão adaptadas a este cenário:

• Minimização de Risco Repetida (RRM): Atualiza $\theta_{t+1} = \arg\min_\theta \mathbb{E}_{Z \sim D_t(\theta_t)}[\ell(Z, \theta)]$.
• Gradiente Descendente Repetido (RGD): Utiliza gradientes esperados completos.
• Gradiente Descendente Estocástico (SGD): Inclui variantes "gananciosas" (um exemplo por implantação) e "preguiçosas" (múltiplos exemplos/atualizações por implantação).
• Algoritmos de Ordem Zero: Utilizados para otimalidade performativa onde os gradientes do risco performativo são intratáveis. Isso inclui métodos de Duas Implantações (ZGD2) e Implantação Única (ZGD) que perturbam o modelo para estimar gradientes.

Principais Contribuições e Resultados

1. Limites Teóricos para Estabilidade

Os autores derivam limites de regret para RRM e RGD que explicitamente equilibram deslocamentos endógenos e exógenos.

• Teorema 3.2 (RRM): Sob suposições de convexidade forte e suavidade, o regret de estabilidade é limitado por:
  $$Reg^{PS}_T(ARRM) = O\left(1 + \sum_{t=1}^{T-1} \Delta^{PS}_t\right)$$
  O fator de contração necessário para convergência é relaxado em comparação ao cenário clássico: $\epsilon < \frac{\mu}{(1-\alpha_{\min})\beta_z}$.
• Insight: Quando os deslocamentos são majoritariamente performativos ($\alpha_t \approx 0$), o comprimento de caminho desaparece e o regret é constante. Quando os deslocamentos são majoritariamente exógenos ($\alpha_t \approx 1$), o regret depende da não estacionaridade de $P_t$. Se $P_t$ flutua rapidamente, o regret pode ser grande; se $P_t$ for próximo de constante, o regret permanece baixo.

2. Limites Teóricos para Otimalidade

Para otimalidade performativa, o artigo utiliza técnicas de otimização de ordem zero.

• Teoremas 5.2 & 5.3: Os autores fornecem limites de regret para algoritmos de ordem zero de duas implantações e de implantação única. Os limites escalam com a dimensão $d$, o horizonte de tempo $T$ e o comprimento de caminho da sequência ótima $\sum \Delta^{PO}_t$.
• Trade-off de Convexidade: O artigo observa que, embora um componente exógeno grande ($\alpha_t \approx 1$) torne o rastreamento do alvo mais difícil (aumentando o comprimento de caminho), também torna o risco performativo mais propenso a ser convexo (já que a parte exógena é convexa se a perda for). Por outro lado, o feedback endógeno forte pode tornar o risco performativo não convexo, mesmo que a perda seja convexa.

3. Validação Empírica

Experimentos em um conjunto de dados de pontuação de crédito (modelo de resposta estratégica) e dados gaussianos sintéticos validam os achados teóricos:

• Deslocamentos Exógenos Aleatórios: Um decaimento mais rápido de $\alpha_t$ (reduzindo o peso do termo exógeno móvel) leva a um menor regret.
• Deslocamentos Exógenos Estacionários: Manter $\alpha_t$ maior (mais próximo de uma distribuição fixa, não performativa) resulta em menor regret.
• As curvas de regret empírico alinham-se com os limites superiores teóricos em relação à ordenação dos diferentes cronogramas de $\alpha_t$.

Significância e Alegações

O artigo afirma fornecer o primeiro framework que unifica deslocamentos de distribuição endógenos e exógenos sob um único modelo de aprendizado. Sua principal significância reside em:

1. Generalização: Ele generaliza estritamente a predição performativa clássica, mostrando que algoritmos padrão (como RRM) permanecem eficazes, mas requerem reavaliação das condições de convergência na presença de ruído exógeno.
2. Benchmarking Dinâmico: Ele altera o paradigma de equilíbrios estáticos para regret dinâmico, reconhecendo que, em sistemas do mundo real, o "melhor" modelo é um alvo móvel.
3. Identificação de Trade-offs: Caracteriza explicitamente o equilíbrio entre a dificuldade de rastrear um alvo móvel (drift exógeno) e a dificuldade de otimizar um cenário não convexo (feedback endógeno).

Os autores mantêm a modéstia quanto a questões em aberto, observando que encontrar limites inferiores para as taxas de regret (particularmente para o SGD ganancioso) e relaxar as suposições de regularidade (convexidade, sensibilidade) permanecem áreas abertas para pesquisas futuras. Eles também sugerem que as definições de regret podem naturalmente se estender a modelos de mistura não lineares além do atual framework linear.