Resumo Técnico: Recurso Algorítmico Causal: Fundamentos e Métodos

Definição do Problema e Motivação

O artigo aborda o desafio do recurso algorítmico, que envolve fornecer recomendações acionáveis a indivíduos para reverter decisões negativas tomadas por sistemas automatizados (por exemplo, negação de empréstimos, rejeição de tratamentos médicos). Embora a literatura existente ofereça explicações contrafactuais, os autores argumentam que as abordagens padrão frequentemente falham em capturar a incerteza inerente ao recurso do mundo real.

Especificamente, os métodos tradicionais tratam os resultados do recurso como contrafactuais exatos de uma unidade fixa, assumindo que as variáveis latentes (por exemplo, capacidade, estresse, sono) permanecem idênticas antes e após uma intervenção. Os autores postulam que, na realidade, o recurso envolve decisões repetidas sobre o mesmo indivíduo sob condições latentes potencialmente diferentes. Por exemplo, um estudante que faz um exame novamente após assistir a horários de atendimento pode ter a mesma capacidade subjacente, mas níveis diferentes de estresse ou sono. Isso introduz uma incerteza estrutural onde as variáveis latentes pré e pós-intervenção ($u_T$ e $u^*_T$) estão relacionadas, mas não são idênticas.

Além disso, o artigo destaca que as formulações padrão de recurso causal frequentemente dependem da suposição de Características Manipuláveis Independentemente (IMF), que ignora as dependências causais entre covariáveis. Os autores demonstram, por meio de exemplos, que ignorar essas dependências (por exemplo, renda afetando despesas) pode levar a recomendações subótimas ou inviáveis. Finalmente, eles observam que inferir efeitos de recurso geralmente requer raciocínio sobre distribuições contrafactuais conjuntas, que geralmente não são identificáveis a partir de dados observacionais apenas sem suposições fortes.

Metodologia e Estrutura

Os autores propõem uma estrutura causal baseada em Modelos Causais Estruturais (SCMs) que modela explicitamente o reamostragem de variáveis latentes durante o processo de recurso.

1. SCM de Recurso e Estabilidade Pós-Recurso (PRS)

O núcleo da metodologia é o SCM de Recurso, definido como uma tupla $\langle F, P(u), R=r, P(u^*|u) \rangle$, onde $P(u^*|u)$ representa a distribuição de variáveis latentes após uma ação de recurso $do(R=r)$.

• Decomposição Latente: As unidades são decompostas em componentes fixos ($u^{(f)}$) e variáveis ($u^{(v)}$). O componente fixo (por exemplo, capacidade intrínseca) permanece invariável, enquanto o componente variável (por exemplo, estresse) pode ser reamostrado.
• Estabilidade Pós-Recurso (PRS): Os autores definem PRS como uma condição onde a distribuição de variáveis latentes para não-descendentes da ação de recurso permanece inalterada e, para descendentes, a parte fixa é invariável enquanto a parte variável é reamostrada da mesma distribuição condicional dada a parte fixa.
• Implicação: Sob PRS, a distribuição marginal de variáveis pós-recurso dadas suas pais é idêntica à distribuição observacional (Estabilidade de Margem). Isso permite inferência a partir de dados observacionais apenas.

2. Estratégias de Inferência

O artigo desenvolve três algoritmos distintos baseados na disponibilidade de dados e na validade da PRS:

• Algoritmo 1 (Dados Observacionais + PRS):

  • Assume que a PRS vale e apenas dados observacionais estão disponíveis.
  • Utiliza a cópula de Frank para modelar o acoplamento entre quantis pré-recurso ($q_i$) e quantis pós-recurso ($q^*_i$).
  • Como o parâmetro da cópula $\tau$ (Kendall's $\tau$) não pode ser identificado a partir de dados observacionais apenas, o algoritmo realiza uma análise de sensibilidade variando $\tau$ para gerar uma faixa de resultados possíveis de recurso.

• Algoritmo 2 (Observacionais + Dados de Recurso + PRS):

  • Assume que a PRS vale e dados pareados (pré e pós-recurso para os mesmos indivíduos) estão disponíveis.
  • Utiliza os dados pareados para inferir o parâmetro da cópula $\tau$ via estimativa de máxima verossimilhança.
  • Inclui um teste de ajuste (usando um procedimento de bootstrap e estatística Cramer-von Mises) para verificar se a cópula de Frank é um modelo apropriado. Isso aborda o viés de seleção inerente aos dados de recurso (disponíveis apenas para indivíduos que inicialmente falharam).

• Algoritmo 3 (Observacionais + Dados de Recurso + Sem PRS):

  • Aborda o caso onde a PRS não vale (a estabilidade de margem é violada).
  • Em vez de depender de uma cópula específica, aprende uma função de quantil não paramétrica $Q(v^*_i | v_i, pa_i, pa^*_i)$ diretamente dos dados observacionais e de recurso combinados.
  • Esta abordagem aproveita a correlação entre resíduos pré-recurso e ruído pós-recurso para melhorar a precisão da previsão, reduzindo teoricamente o erro quadrático médio de previsão esperado (EMSPE) em comparação com a regressão padrão apenas sobre os pais do recurso.

Principais Contribuições

1. Formulação Causal de Recurso: O artigo introduz uma formulação de recurso algorítmico que leva em conta o reamostragem de variáveis latentes, indo além da suposição de unidades fixas. Define Estabilidade Pós-Recurso (PRS) como uma condição crítica para inferência.
2. Garantias Teóricas:
   • Teorema 1: Prova que PRS implica estabilidade de margem, permitindo a identificação de efeitos de recurso a partir de dados observacionais.
   • Teorema 2: Fornece garantias teóricas para a abordagem de regressão "aumentada" (Alg. 3) em configurações Gaussianas lineares, mostrando que reduz o risco de previsão em comparação com abordagens padrão quando os termos de ruído pré e pós-recurso estão correlacionados.
3. Suíte Algorítmica:
   • Desenvolvimento do Alg. 1 para análise de sensibilidade usando dados observacionais.
   • Desenvolvimento do Alg. 2 para aprendizado de parâmetros de cópula e teste de ajuste de modelo usando dados de recurso.
   • Desenvolvimento do Alg. 3 para inferência livre de distribuição quando as suposições de estabilidade falham.
4. Conceito de Dados de Recurso: Os autores definem formalmente dados de recurso (amostras pré e pós-intervenção pareadas para o mesmo indivíduo) e o problema de aprendizado associado, distinguindo-o de combinações padrão de dados observacionais ou experimentais.

Resultados Experimentais

Os autores validam seus métodos usando o conjunto de dados HELOC (Home Equity Line of Credit) e uma variante semi-sintética:

• Análise de Sensibilidade (Alg. 1): Aplicado a dados reais do HELOC, o algoritmo demonstrou como variar o parâmetro da cópula $\tau$ afeta a dispersão dos resultados de recurso previstos, ilustrando a incerteza inerente na ausência de dados de recurso.
• Ajuste (Alg. 2): Usando dados semi-sintéticos, os autores mostraram que o teste de bootstrap proposto identifica corretamente quando a cópula de Frank é válida (distribuição uniforme de valor-p) e quando é violada (valores-p enviesados para 0).
• Aprendizado Livre de Cópula (Alg. 3): Em cenários onde a PRS foi violada (SeS-HELOC B), o Alg. 3 superou tanto a abordagem de regressão padrão quanto a abordagem baseada em cópula. As estatísticas de Kolmogorov-Smirnov mostraram que as previsões do Alg. 3 estavam mais próximas da distribuição subjacente verdadeira, verificando empiricamente a vantagem teórica de aproveitar informações pré-recurso mesmo quando a estabilidade de margem não vale.

Significado e Alegações

O artigo afirma ser o primeiro a formalizar um problema de inferência que combina dados observacionais e experimentais correspondentes ao mesmo indivíduo no contexto de recurso algorítmico. Ao afastar-se da suposição de unidades contrafactuais fixas, a estrutura fornece um modelo mais realista de como os indivíduos respondem a intervenções ao longo do tempo.

Os autores enfatizam que seu trabalho preenche a lacuna entre a inferência causal teórica e aplicações práticas de recurso. Eles argumentam que, enquanto os métodos padrão de recurso causal frequentemente exigem conhecimento estrutural completo ou suposições rígidas (como IMF), sua estrutura oferece uma hierarquia flexível de métodos:

1. Análise de sensibilidade quando apenas dados observacionais estão disponíveis.
2. Inferência de parâmetros e teste de modelo quando dados de recurso estão disponíveis.
3. Aprendizado livre de distribuição quando as suposições de estabilidade são violadas.

O significado reside em fornecer uma base causal rigorosa para entender a variabilidade nos resultados de recurso e oferecer algoritmos práticos que se adaptam à disponibilidade específica de dados e condições de estabilidade de uma determinada aplicação.