Resumo Técnico: Teoria da Aprendizagem Performativa

1. Definição do Problema

Sistemas de aprendizado de máquina evoluíram de analisadores passivos de dados para moldadores ativos do mundo. Em muitos domínios, a implantação de modelos preditivos influencia os próprios resultados que eles visam prever, um fenômeno conhecido como predições performativas (PP). Embora trabalhos anteriores (ex: Perdomo et al., 2020; Brown et al., 2022) tenham formalizado a PP e estudado a estabilidade e otimalidade de modelos sob loops de feedback ao nível populacional, uma lacuna crítica permanece: a generalização sob performatividade.

Especificamente, a literatura existente não aborda adequadamente quão bem os modelos generalizam de uma amostra finita para uma população quando:

1. A própria amostra reage às previsões do modelo (ex: usuários em um teste beta mudando o comportamento com base em recomendações de aplicativos).
2. A população reage às previsões.
3. Ambas reagem, potencialmente de formas conflitantes.

A questão central é se e quão bem os modelos treinados em amostras performativas conseguem generalizar para uma população performativa, e quais são os limites teóricos para esse erro de generalização.

2. Metodologia e Estrutura

Os autores introduzem a Teoria da Aprendizagem Performativa (PLT), inserindo as predições performativas dentro da teoria estatística do aprendizado. A estrutura generaliza o cenário padrão ao considerar a evolução tanto da distribuição da amostra ($\hat{d}_t$) quanto da distribuição da população ($d_t$) ao longo do tempo $t$.

Definições e Premissas Principais

• Transição com Estado (Stateful Transition): A evolução da distribuição é governada por um mapa de transição desconhecido $Tr$, onde $d_t = Tr(d_{t-1}, \theta_t)$. Isso generaliza modelos sem estado (stateless) onde $d_t$ depende apenas de $\theta_t$.
• Minimização de Risco: O estudo considera tanto a Minimização de Risco Repetida (RRM) na população quanto a Minimização de Risco Empírico Repetida (RERM) na amostra.
• Condições: A análise baseia-se em premissas padrão da literatura de PP:
  • Convexidade Forte: A função de perda $\ell$ é $\gamma$-fortemente convexa nos parâmetros $\theta$.
  • Sensibilidade de Wasserstein: O mapa de transição $Tr$é$(\varepsilon, p)$-conjuntamente sensível, significando que a distância de Wasserstein entre distribuições muda linearmente com a mudança nos parâmetros e distribuições anteriores.
  • Regularidade: A perda é Lipschitz em relação aos dados e continuamente diferenciável em relação aos parâmetros.

Abordagem Teórica

Os autores derivam limites de generalização analisando a distância de Wasserstein entre distribuições. Eles utilizam:

• Limites de Convergência: Aproveitando Fournier & Guillin (2015) para limitar a distância entre a amostra inicial e a população real.
• Limites de Deslocamento Intra-Amostra: Derivando limites sobre o quanto a distribuição da amostra se desloca devido a efeitos performativos dentro do loop de treinamento.
• Números de Cobertura: Utilizando integrais de entropia de números de cobertura (Kolmogorov & Tikhomirov, 1959) em vez de complexidades de Rademacher para lidar com a natureza dinâmica do suporte da distribuição.
• Dualidade no Espaço de Wasserstein: Enquadrando predições autonegativas (população) e autoperformativas/autofatídicas (amostra) como funcionais de risco min-max e min-min, respectivamente, permitindo o uso da teoria de processos empíricos para aprendizado localmente distributivamente robusto e favorável.

3. Principais Contribuições e Resultados

O artigo aborda quatro questões de pesquisa específicas (RQ1–RQ4) relativas a diferentes cenários de performatividade:

RQ1: Generalização sob Performatividade de Amostra

• Cenário: Um modelo é retreinado em uma amostra que reage às previsões, mas a população não reage (ou ainda não é observada).
• Resultado (Teorema 3.7): Os autores provam um limite superior para o excesso de risco $R(d_0, \hat{\theta}_T) - \inf R(d_0, \theta)$.
• Insight Principal: O limite depende da taxa de resposta performativa ($m/n$, a fração de unidades da amostra que mudam o comportamento). Se $m = o(n)$, o limite desaparece conforme $n \to \infty$. No entanto, se a amostra reage fortemente, o limite cresce, indicando um trade-off: manipular a amostra para melhorar os resultados degrada a capacidade de aprender propriedades generalizáveis a partir dessa amostra.

RQ2: Generalização sob Performatividade Total

• Cenário: O modelo é treinado em uma amostra e, em seguida, implantado em uma população que reage às previsões.
• Resultado (Teoremas 3.10 & 3.13): Limites são derivados para o excesso de risco performativo (erro na população deslocada) e para o gap de generalização (diferença entre o risco na população deslocada e o risco na amostra deslocada).
• Insight Estrutural: No pior caso, a amostra cria uma "câmara de eco empírica" através de predições autofatídicas (confirmando a previsão de forma enganosa), enquanto a população autonegativa as (agindo de forma oposta). Isso cria um gap fundamental entre o desempenho de treinamento e o desempenho fora da amostra.
• Corolário 3.11: Um insight prático sugere que os limites de generalização mais estreitos são obtidos utilizando o ajuste inicial ($\hat{\theta}_0$) em dados fora da amostra, enquanto se estima o deslocamento da população a partir dos deslocamentos observados na amostra, em vez de retreinar repetidamente na amostra distorcida.

RQ3: Excesso de Risco Performativo Cumulativo

• Cenário: Um modelo é treinado em uma amostra e, em seguida, implementado em uma população onde é retreinado repetidamente sobre a população em mudança.
• Resultado (Teorema 3.16): O artigo fornece limites para o erro cumulativo ao longo do tempo. A análise mostra que o erro acumulado é impulsionado pelo deslocamento inicial da amostra para a população e pelos subsequentes dinâmicas populacionais.

RQ4: Gap Inferencial

• Cenário: Comparação entre o minimizador de risco empírico (treinado em amostras) e o minimizador de risco teórico (treinado na população).
• Status: O artigo observa que isso é parcialmente respondido por trabalhos recentes (Li et al., 2025b) para casos assintóticos ($n \to \infty$) e identifica a análise de amostra finita para performatividade com estado como uma direção aberta.

4. Ilustração Empírica

Os autores ilustram seus limites usando dados administrativos reais da Agência Federal de Emprego da Alemanha (1975–2017) relativos ao perfil de candidatos a emprego.

• Configuração: Um modelo de regressão logística prevê o risco de desemprego de longo prazo. Indivíduos de alto risco são designados para treinamento profissional, o que (se eficaz) reduz seu risco de desemprego, criando um efeito performativo.
• Descobertas: Os limites quantificam com sucesso o gap de generalização. À medida que a fração de candidatos designados para treinamento ($\xi$) aumenta, o termo performativo no limite cresce, demonstrando o trade-off mudança-aprendizado: quanto mais o modelo altera a população (ao designar mais treinamentos), menos confiáveis tornam-se suas previsões para a população geral.

5. Significância e Alegações

O artigo afirma iniciar o estudo da aprendibilidade sob performatividade. Suas principais contribuições são:

1. Fundação Teórica: Estabelece o primeiro conjunto de limites de generalização para predições performativas que consideram amostras finitas e a distinção entre reações da amostra e da população.
2. Trade-off Fundamental: Formaliza um trade-off entre intervenção (mudar o mundo via previsões) e inferência (aprender a partir dos dados resultantes). Quanto mais um modelo influencia seu ambiente, mais difícil se torna generalizar a partir dos dados resultantes.
3. Mecanismo de Câmara de Eco: Identifica um mecanismo específico onde as amostras podem "enganar" os modelos através de profecias autofatídicas, enquanto as populações as "negam", levando a gaps de generalização inflados.
4. Orientação Prática: Oferece uma recomendação contraintuitiva, mas teoricamente fundamentada: ao enfrentar a performatividade, confiar no ajuste inicial do modelo combinado com estimativas do deslocamento (derivadas das reações da amostra) pode fornecer garantias mais estreitas do que o retreinamento contínuo em dados distorcidos.

Os autores mantêm um tom modesto, reconhecendo que seus limites dependem de condições de regularidade específicas (convexidade forte, continuidade Lipschitz) e que o mapa de transição $Tr$ é tratado como uma caixa preta. Eles posicionam este trabalho como um passo fundamental para compreender as limitações de sistemas preditivos em domínios de alto risco, como serviços de emprego, finanças e justiça criminal, onde as previsões moldam ativamente os resultados.