Resumo Técnico: Delimitando o Impacto Causal da Tomada de Decisão Assistida por ML via Correção Contrafactual

Declaração do Problema

Modelos de aprendizado de máquina (ML) preditivos são cada vez mais implantados em domínios de alto risco (ex: saúde, justiça criminal) para auxiliar tomadores de decisão humanos. Embora os Ensaios Controlados Randomizados (ECRs) forneçam evidências de alta qualidade sobre o impacto causal de intervenções específicas de ML, existe uma lacuna crítica: muitas vezes é inviável realizar novos ECRs para cada atualização ou iteração de retreinamento do modelo. Consequentemente, se um novo modelo com maior acurácia preditiva for desenvolvido após um ECR inicial, não há evidência causal direta sobre seu impacto subsequente nos resultados (ex: sobrevivência do paciente, reincidência).

Trabalhos anteriores tentaram abordar isso via frameworks de identificação parcial. Por exemplo, Nercessian et al. [2025] assumem que os resultados não diferem entre modelos com previsões concordantes, enquanto Chen e Oberst [2025] relaxam isso permitindo diferenças de resultados ao nível individual baseadas em métricas de desempenho global (ex: precisão), motivadas pela confiança do usuário. No entanto, esses frameworks falham ao não incorporar a correção da previsão ao nível individual. Em muitos cenários, é razoável esperar que uma previsão correta leve a resultados não inferiores comparados a uma previsão incorreta, uma noção que os autores denominam "correção contrafactual".

Metodologia

Os autores propõem uma abordagem de identificação parcial para construir limites (bounds) sobre o efeito causal de um novo modelo não testado ($\pi_e$) utilizando dados de um ECR anterior envolvendo um conjunto de modelos testados ($T$).

Framework Causal

O processo gerador de dados é modelado como um Modelo Cacial Estrutural (SCM) representado por um Grafo Acíclico Dirigido (DAG). As variáveis principais incluem:

• $D$: Braço do ECR (controle vs. tratamento).
• $\Pi$: O modelo utilizado para a previsão.
• $X$: Covariáveis/características.
• $Z$: O "rótulo verdadeiro" (verdade fundamental/ground truth), observado para todos os indivíduos no ECR.
• $\hat{Z}$: O rótulo previsto.
• $M$: Uma métrica de desempenho (ex: precisão) condicionada a $X$ e $\Pi$.
• $A$: Ação do tomador de decisão (não observada/latente).
• $Y$: Resultado subsequente.

O objetivo é estimar $E[Y(\pi_e)]$, o resultado esperado caso o novo modelo $\pi_e$ tivesse sido implantado.

Suposições Estruturais

Para derivar os limites, os autores introduzem quatro suposições principais:

1. Correção Contrafactual (Assump. 3.1): Previsões corretas não causam dano. Formalmente, para um rótulo verdadeiro fixo $z$, se um modelo prevê $z$ (corretamente), o resultado é pelo menos tão bom quanto se o modelo previsse $z' \neq z$ (incorretamente), mantendo outros fatores constantes.

   • Falsificação: Pode ser testado comparando os resultados de dois modelos testados no subconjunto de dados onde um é correto e o outro é incorreto.

2. Monotonicidade de Desempenho Condicional (Assump. 3.2): Os potenciais resultados são monotônicos em relação ao desempenho do modelo, condicionados à correção.

   • Se a previsão é correta ($\hat{z}=z$), um desempenho maior leva a resultados melhores (ou iguais).
   • Se a previsão é incorreta ($\hat{z} \neq z$), um desempenho maior leva a resultados piores (ou iguais) (refletindo o aumento da confiança em um modelo que está errado de forma confiante).
   • Falsificação: Testado comparando modelos com diferentes níveis de desempenho, mas previsões idênticas, no subconjunto onde a previsão é correta.

3. Previsão Neutra (Assump. 3.3): Existe uma previsão "neutra" (ex: deferir para um humano) onde o desempenho do modelo não influencia o resultado. Isso vincula o braço de controle à avaliação de novos modelos.

4. Resultados Limitados (Assump. 3.4): A variável de resultado $Y$ é limitada dentro de um intervalo conhecido $[Y_{min}, Y_{max}]$.

Limites de Identificação Parcial

Os autores definem partições do espaço de modelos e covariáveis baseadas em se os modelos testados concordam com o modelo não testado $\pi_e$ e seu desempenho relativo. Eles introduzem um seletor de ramos ($b_L, b_U$) que atribui cada par $(x, z)$ a um de quatro ramos lógicos:

• Neutro: $\pi_e$ faz a previsão neutra.
• Monotônico: $\pi_e$ concorda com os modelos testados, e a ordenação de desempenho permite a delimitação via monotonicidade.
• Correto: $\pi_e$ faz a previsão correta, mas nenhum modelo testado concorda com ela (ou todos são "melhores" de uma forma que não ajuda o limite inferior). Aqui, o limite depende da suposição de que a previsão correta não é pior do que qualquer previsão incorreta.
• Padrão (Default): Recuo conservador para $Y_{min}$ (limite inferior) ou $Y_{max}$ (limite superior).

Os limites resultantes $L(\pi_e)$ e $U(\pi_e)$ são construídos tomando a expectativa dos limites pontuais sobre a distribuição de $X$ e $Z$.

Estimativa

O artigo fornece estimadores consistentes e assintoticamente normais para esses limites. A estratégia de estimativa aborda três desafios:

1. Estimar expectativas condicionais $E[Y|X, Z, \Pi]$ via modelos de perturbação (nuisance models).
2. Lidar com operadores de max/min não suaves (ex: selecionar o pior/melhor modelo desempenhando em um conjunto).
3. Estimar métricas de desempenho ($M$) a partir de dados finitos em vez de assumir conhecimento de oráculo.

Os autores propõem um estimador Aumentado de Ponderação pelo Inverso da Propensão (AIPW). Sob condições de margem específicas (garantindo separação suficiente entre desempenhos de modelos e resultados) e taxas de convergência para funções de perturbação, os estimadores são provados como consistentes e assintoticamente normais, permitindo a construção de intervalos de confiança válidos.

Principais Contribuições

1. Extensão de Frameworks Causais: O trabalho estende o framework de Chen e Oberst [2025] ao incorporar a correção contrafactual ao nível individual. Assume-se que, se um novo modelo prevê corretamente, o resultado não é pior do que se uma previsão incorreta fosse feita.
2. Integração de Desempenho de Subgrupos: Diferente de trabalhos anteriores que dependem de métricas de desempenho global, este framework incorpora o desempenho preditivo condicional de subgrupos, refletindo a intuição de que tomadores de decisão desenvolvem heurísticas sobre onde os modelos performam bem ou mal.
3. Estimativa Baseada em Dados: Os autores fornecem estimadores consistentes para os limites que não requerem conhecimento a priori de medidas de desempenho do modelo; estas são estimadas a partir dos dados.
4. Limites Mais Estreitos: Resultados teóricos e empíricos demonstram que a incorporação da correção contrafactual leva a limites significativamente mais estreitos (mais informativos) comparados a métodos anteriores de identificação parcial.

Resultados Experimentais

Os autores avaliam seu método usando uma simulação semissintética baseada no conjunto de dados de sentenciamento de fiança de Imai et al. [2023].

• Configuração: Eles simulam o comportamento do juiz e os resultados dos réus (Falha em Comparecer) sob vários modelos de alerta.
• Comparação: Eles comparam seus limites contra aqueles derivados de Chen e Oberst [2025].
• Descobertas:
  • Em todos os experimentos (mudança de limiares de alerta, retreinamento de modelos e ausência de ECRs), o método proposto produziu limites consistentemente mais estreitos (ex: largura de 0,12 vs. 0,36 em um experimento).
  • Os limites continham consistentemente o resultado esperado real.
  • Estudos de ablação sugerem que a melhoria é impulsionada principalmente pela suposição de correção contrafactual, e não apenas pela estratificação de desempenho por covariáveis.
  • O método permanece robusto (embora com limites mais largos) mesmo quando os rótulos reais ($Z$) estão parcialmente ausentes, desde que suposições específicas sobre o mecanismo de ausência sejam mantidas.

Significância e Alegações

O artigo afirma oferecer uma solução prática para avaliar o impacto causal de modelos de ML atualizados quando a realização de novos ECRs é inviável. Ao aproveitar a existência de rótulos verdadeiros em testes anteriores, o método utiliza a informação "direcional" fornecida pela correção da previsão para estreitar os limites causais.

Os autores são modestos em suas alegações, reconhecendo limitações:

• Testes de Falsificação: Estes são esperados na média; violações ao nível individual das suposições podem passar despercebidas.
• Dados Ausentes: O método possui limitações quando os rótulos verdadeiros ($Z$) estão ausentes, embora discutam mecanismos para lidar com isso.
• Saídas Contínuas: O framework atual assume previsões discretas; saídas contínuas exigem discretização ou aplicação simplificada.
• Dados Observacionais: O framework atual depende de dados de ECR; a incorporação de dados observacionais é apontada como uma direção futura.

Em última análise, o trabalho fornece um framework rigoroso, baseado em suposições, para ir além da acurácia preditiva e raciocinar sobre o impacto causal subsequente de sistemas de IA em ambientes de tomada de decisão de alto risco.