Resumo Técnico: Simulando Eutopia: Revisitando a Equidade de Longo Prazo com Resultados, Performatividade e Dinâmicas

1. Declaração do Problema

Os tomadores de decisão baseados em IA (ADMs) modernos, como credores de crédito, não operam em ambientes passivos. Suas decisões moldam ativamente os comportos socioeconômicos das populações que servem, um fenômeno conhecido como performatividade. Embora a literatura existente sobre equidade algorítmica tenha estudado extensivamente métricas de curto prazo (ex: paridade demográfica em um único ponto de decisão) e equidade de longo prazo em ambientes estáticos, ela negligencia amplamente duas realidades críticas dos ADMs modernos:

1. Dinâmicas Endógenas: O comportamento da população (ex: taxas de solicitação, acumulação de riqueza) muda em resposta à política do ADM.
2. Viés de Resultado vs. Predição: A maioria das métricas de equidade foca em disparidades em predições instantâneas em vez de equidade subsequente (ex: distribuição de riqueza a longo prazo).

Consequentemente, algoritmos de aprendizado otimizados para equidade de curto prazo ou equidade de longo prazo estática podem, inadvertidamente, amplificar desvantagens estruturais ou falhar em alcançar uma equidade genuína quando implantados em cenários performativos. O artigo aborda a questão: Quais são os efeitos de longo prazo das interações performativas entre tomadores de decisão baseados em IA e a sociedade humana em termos de eficiência e equidade?

2. Metodologia

2.1 Formalização: PeMDP (Processo de Decisão de Markov Performativo)

Os autores formalizam o problema de concessão de crédito como um Processo de Decisão de Markov Performativo (PeMDP). Diferente dos MDPs padrão, onde as dinâmicas de transição são exógenas, em um PeMDP, as funções de transição e recompensa são reativas à política $\pi$ implantada.

• Estado: Inclui características dos solicitantes, pertencimento a grupos, média de riqueza do grupo, intensidades de Hawkes (taxas de solicitação) e taxas cumulativas de inadimplência.
• Ação: Decisões binárias de empréstimo (aprovar/negar) para um lote de solicitantes.
• Dinâmicas:
  • Transição de Riqueza: Empréstimos aprovados aumentam a riqueza do tomador se forem pagos, ou resultam em perda se houver inadimplência. Solicitantes negados não experimentam mudança de riqueza.
  • Dinâmica de Solicitação: Modelada via um processo de Hawkes. A taxa de chegada de solicitações para um grupo demográfico é endógena, respondendo a padrões de aprovação observados e à riqueza média atual do grupo (capturando o "Efeito Mateus", onde grupos mais ricos solicitam com mais frequência).
• Objetivo: Os autores adotam um critério de recompensa média ($V^\pi = \lim_{T \to \infty} \frac{1}{T} \mathbb{E}[\sum r_t]$) para otimizar o comportamento de estado estacionário em vez de retornos descontados de curto prazo.

2.2 Ambiente de Simulação: Eutopia

Para abordar a falta de bancos de teste para equidade performativa, os autores desenvolveram o Eutopia, um simulador de empréstimos.

• Característica Principal: É um ambiente contínuo onde o estado (riqueza, histórico de solicitações) persiste através dos episódios, mantendo o ciclo de feedback performativo.
• Componentes:
  • Processo de Chegada de Hawkes: Captura o agrupamento temporal de solicitações impulsionado pela riqueza do grupo e aprovações passadas.
  • Modelo de Transição de Riqueza: Simula a acumulação de riqueza baseada nos resultados de pagamento de empréstimos.
  • Rótulos Seletivos: Resultados de pagamento são observados apenas para solicitantes aprovados, simulando o viés de seleção do mundo real.

2.3 Gerador de Dados: LOANLY

Para povoar o Eutopia com dados realistas, os autores criaram o LOANLY, um gerador de dados performativos.

• Base: Construído sobre o conjunto de dados UCI Adult Income para garantir heterogeneidade demográfica e econômica realista.
• Mecanismo: Gera riqueza inicial, confiabilidade de crédito (ground-truth) e tipos financeiros fixos (valor do empréstimo, probabilidade de inadimplência, ganho de riqueza).
• Performatividade: Codifica parâmetros que governam como a população responde às decisões ao longo do tempo, permitindo o estudo de como os outputs do modelo moldam os dados usados para o retreinamento.

2.4 Algoritmos de Aprendizado e Objetivos

O estudo compara dois paradigmas de aprendizado:

1. RL Passivo (RL): Gradiente de Política padrão (REINFORCE) que trata o ambiente como estático (ignorando o deslocamento de distribuição).
2. RL Performativo (PERL): Gradiente de Política Performativa (PePG) que modela explicitamente a dependência da distribuição de transição do ambiente em relação à política.

Esses agentes são avaliados através de diferentes Perspectivas de Equidade (Resultado, Tomador de Decisão, Dois Lados) e Funções de Utilidade (Utilitarista, Bem-estar Social, Rawlsiana Max-Min, Lagrangiana de Equidade).

3. Principais Contribuições

1. Simulador Eutopia: O primeiro simulador construído especificamente para testar a equidade performativa no empréstimo de longo prazo, suportando tanto modos estáticos (MDP) quanto performativos (PeMDP) para comparação direta.
2. Gerador de Dados LOANLY: Um pipeline padronizado para gerar conjuntos de dados de empréstimos sintéticos que codificam dinâmicas performativas, permitindo o estudo de como os outputs do modelo moldam dados futuros sem a necessidade de dados financeiros proprietários.
3. Estrutura Formal: Uma formalização da concessão de crédito bancário como um PeMDP de recompensa média, modelando explicitamente o ciclo de feedback entre decisões de empréstimo, acumulação de riqueza e taxas de solicitação.
4. Análise Empírica: Uma avaliação sistemática de como modelos de aprendizado (estático vs. performativo) e designs de objetivos (conscientes de equidade vs. utilitaristas) influenciam a eficiência e a equidade de longo prazo.

4. Resultados Experimentais

4.1 Aprender com Dinâmicas Performativas Importa

• PERL vs. RL: Aprender com dinâmicas performativas (PERL) leva consistentemente a uma melhor eficiência e equidade de longo prazo em comparação ao RL passivo (RL).
• Lacunas de Riqueza: O PERL alcança menores lacunas de riqueza e razões de desigualdade do que o RL em todos os objetivos de equidade. Por exemplo, sob utilidade Rawlsiana com equidade de resultado, o PERL reduziu a lacuna média de riqueza para 47,2 comparado a 49,1 para o RL.
• Bem-estar Social: O PERL alcança uniformemente um melhor bem-estar social do que o RL, indicando que modelar o ciclo de feedback é decisivo para implantações de longo prazo.

4.2 O Papel dos Objetivos de Equidade

• Equidade de Resultado: Objetivos que visam a riqueza do grupo (Equidade de Resultado) geralmente alcançam o melhor equilíbrio entre equidade e lucro. Especificamente, o Lagrangiano de Equidade (FL) sob equidade de resultado rendeu o maior lucro e bem-estar social para o PERL, mantendo uma paridade próxima nos índices de desigualdade ($\rho \approx 1,01$).
• Não há um Vencedor Universal: Nenhuma função de utilidade única domina em todas as métricas (lucro, lacuna de riqueza, razão de desigualdade). A escolha da utilidade deve ser tratada como uma decisão de política que reflete obrigações regulatórias.
• Inclusividade: O treinamento de equidade baseado em resultados leva a uma maior inclusividade. O Lagrangiano de Equidade sob equidade de resultado resultou em uma distribuição mais equitativa do acesso ao crédito (taxas de alcance) entre grupos demográficos em comparação com objetivos de lucro utilitaristas.

4.3 Análise de Micro-nível (Inclusividade e Diversidade)

• Efeito Mateus: Em todas as configurações, a concentração de empréstimos dentro dos grupos aumentou ao longo do tempo (curvas de Lorenz afastaram-se da igualdade).
• Limitações da Equidade do DM: A equidade do Tomador de Decisão (DM), que restringe a disparidade de lucro por etapa, falhou em prevenir a divergência de riqueza entre grupos. Resultou nas maiores lacunas de riqueza.
• Trade-offs de Equidade de Resultado: Embora a equidade de resultado tenha reduzido as lacunas de riqueza entre grupos, ela por vezes exacerbou a concentração dentro do grupo (empréstimos concentrados entre os já ricos), particularmente sob os objetivos de Bem-estar Social e Lagrangiano de Equidade.
• Taxas de Alcance: Estratégias conscientes de resultado alcançaram taxas de alcance (fração de destinatários únicos) mais altas do que a equidade de DM, embora isso tenha ocorrido com uma concentração intra-grupo mais acentuada.

5. Significância e Alegações

O artigo afirma que aprender com um modelo adequado de dinâmica populacional (performatividade) e objetivos de equidade bem desenhados, avaliados em resultados sociais, é essencial para garantir a equidade de longo prazo.

• Além da Equidade Estática: O estudo demonstra que restrições de equidade estática ou modelos que ignoram mudanças performativas são insuficientes para a equidade de longo prazo. Políticas estáticas (como preditores de um passo) podem ser imediatamente lucrativas, mas falham em corrigir as disparidades de riqueza que induzem ao longo do tempo.
• Escolhas de Design Importam: A escolha do algoritmo de aprendizado (PERL vs. RL) e do objetivo de equidade (ex: Equidade de Resultado vs. Equidade de DM) interagem qualitativamente. Por exemplo, o PERL supera o RL sob equidade de resultado, mas o RL pode superar o PERL sob equidade de dois lados.
• Implicações de Política: Os resultados sugerem que alcançar a equidade de longo prazo requer uma consideração conjunta da capacidade do algoritmo de aprendizado de modelar ciclos de feedback e das métricas de equidade específicas usadas para guiar a otimização. Não há "almoço grátis"; diferentes objetivos priorizam diferentes dimensões de equidade (ex: equidade entre grupos vs. inclusividade intra-grupo), e esses trade-offs devem ser explicitamente gerenciados.

Os autores concluem que, embora seu simulador não imite o mundo real perfeitamente, os resultados não triviais e difíceis de antecipar produzidos pelos ciclos de feedback performativos no Eutopia motivam o desenvolvimento de novos frameworks algorítmicos que reconheçam a natureza multifacetada da equidade de longo prazo.