Optimal Regularization for Performative Learning

Resumo Técnico: Regularização Ótima para Aprendizado Performativo

Definição do Problema
No aprendizado performativo, a distribuição dos dados reage ao modelo implantado, criando um ciclo de feedback onde usuários estratégicos adaptam suas características para manipular o sistema ou profecias autorrealizáveis alteram resultados (ex: em aprovações de empréstimos ou policiamento preditivo). Essa dinâmica complica o aprendizado supervisionado padrão, pois otimizar para a distribuição de dados atual pode direcionar a distribuição para um novo estado, potencialmente pior. Embora métodos existentes tentem estimar e otimizar para esses efeitos performativos, eles frequentemente dependem de implantações repetidas e da caracterização precisa do deslocamento da distribuição, o que é inviável em configurações de alta dimensão ou quando a implantação é limitada a uma única instância após o treinamento (Minimização de Risco Repetido, ou RRM). O artigo aborda o desafio de mitigar esses efeitos sem estimar explicitamente o deslocamento da distribuição, focando, em vez disso, no papel da regularização.

Metodologia
Os autores investigam o impacto da regularização ridge em regressão linear sob efeitos performativos, analisando dois regimes distintos:

1. Regime de População: Uma configuração com dados suficientes para recuperar exatamente os coeficientes de regressão em cada implantação. Os autores modelam o efeito performativo como um deslocamento linear no rótulo ($y = x^\top \theta^*_{pop} + x^\top D\theta + w$), onde $D$ codifica a performatividade. Eles derivam o ponto fixo da sequência RRM e analisam o risco excessivo como uma função do parâmetro de regularização $\lambda$.
2. Regime Sobre-Parametrizado: Uma configuração de alta dimensão onde o número de características $p$ excede o número de amostras $n$ ($p/n = \kappa > 1$). Aqui, os autores utilizam ferramentas da estatística de alta dimensão para estabelecer um equivalente determinístico do risco no ponto fixo performativo. Este equivalente depende apenas da covariância da população, dos parâmetros reais, da matriz performativa $D$ e da força da regularização, efetivamente neutralizando a aleatoriedade de amostras finitas.

A análise distingue entre características preditivas (que correlacionam com o rótulo verdadeiro) e características espúrias (que não o fazem), examinando como a performatividade interage com ambas, particularmente quando estão correlacionadas via matriz de covariância.

Principais Contribuições e Resultados

• Descobertas do Regime de População:

  • O parâmetro de regularização ótimo $\lambda^*_{pop}$ é mostrado como proporcional à força do efeito performativo ($\bar{b}$).
  • A regularização mitiga a perda de desempenho causada pela performatividade. Um risco excessivo zero pode ser alcançado se a covariância for isotrópica e o efeito performativo for uniforme entre as características.
  • Na presença de estruturas de covariância complexas ou efeitos performativos altamente variáveis, o risco permanece significativo, mas a regularização ótima ainda fornece a melhor mitigação possível.
  • O artigo observa que, em alguns casos, a regularização ótima pode ser negativa (ou seja, "anti-regularização"), um fenômeno observado anteriormente em configurações sobre-parametrizadas, mas aqui mostrado como ocorrendo no regime de população devido à performatividade.

• Descobertas do Regime Sobre-Parametrizado:

  • Os autores derivam um equivalente determinístico para o risco, revelando uma fenomenologia matizada em relação à direção da regularização ótima:
    • Baixo Ruído: Quando a variância do ruído é pequena, a regularização ótima move-se na mesma direção do efeito performativo nas características preditivas.
    • Alto Ruído: Quando o ruído é grande, a regularização ótima move-se na direção oposta ao efeito performativo. Isso é interpretado como o modelo revertendo ao seu "prior" quando o ruído domina.
  • Melhoria do Risco: Contrariamente ao regime de população, onde a performatividade piora o risco, o artigo descobre que, no regime sobre-parametrizado, se a performatividade reforça tendências existentes ( $\bar{b}$ positivo), o risco otimamente regularizado pode, na verdade, melhorar em comparação ao caso não performativo.
  • Características Espúrias: O efeito da performatividade nas características espúrias é geralmente atenuado pelo fator $\rho^2$ (a correlação entre características preditivas e espúrias), tornando seu impacto na regularização ótima e no risco menos pronunciado do que nas características preditivas.

• Validação Empírica:

  • Experimentos com dados sintéticos e conjuntos de dados do mundo real (Housing e LSAC) confirmam as previsões teóricas.
  • Na configuração do tipo população (grande $n$), a regularização ótima aumenta com a força da performatividade, e o risco aumenta com a performatividade.
  • Na configuração sobre-parametrizada (pequeno $n$), o comportamento alinha-se com a previsão teórica de alto ruído: a regularização ótima diminui conforme a força da performatividade aumenta, e o risco melhora.
  • As descobertas estendem-se além da regressão ridge para outros regularizadores (Dropout, Lasso, Elastic Net) e até para redes neurais em um cenário de classificação estratégica, sugerindo a robustez do fenômeno.

Significância e Alegações
O artigo afirma ser o primeiro a utilizar ferramentas estatísticas de alta dimensão para estudar o aprendizado performativo. Sua principal significância reside em demonstrar que a regularização é um mecanismo principiado, tratável e agnóstico para lidar com efeitos performativos, mesmo quando a natureza exata do deslocamento da distribuição é desconhecida.

Os autores argumentam que, enquanto os métodos baseados em estimativa são limitados a cenários de baixa dimensão ou exemplos simplificados, a regularização oferece uma solução prática para cenários do mundo real onde a implantação é custosa e repetida. O trabalho sugere que os profissionais podem antecipar deslocamentos performativos e ajustar a regularização de acordo (escalonando-a com a força esperada do efeito) para melhorar a robustez e o desempenho do modelo. O artigo mantém um tom modesto, reconhecendo que, embora a teoria foque em modelos lineares e dados aleatórios, os resultados empíricos em dados do mundo real e redes neurais sugerem que esses insights se generalizam, embora mais trabalho seja necessário para explorar dados e modelos mais complexos.