SHIFT: Robust Double Machine Learning for Average Dose-Response Functions under Heavy-Tailed Contamination

1. Formulação do Problema

O artigo aborda a estimação da Função Média de Resposta à Dose (ADRF), $\theta(t) = E[Y(t)]$, para tratamentos contínuos utilizando dados observacionais. Pipelines padrão de Double Machine Learning (DML) dependem de suavizadores locais lineares ponderados por kernel na segunda etapa. Esses estimadores tipicamente utilizam Erro Quadrático Médio (MSE) ou perdas convexas similares, que sofrem de influência funcional ilimitada.

A Patologia Central: Manchar Funcional
Na presença de valores atípicos (contaminação de cauda pesada), um único resíduo grande em um ponto local $t_0$ não apenas viésa a estimativa em $t_0$. Como os suavizadores por kernel espalham a influência através de uma janela, um único valor atípico "mancha" seu efeito através de toda a curva, distorcendo a forma global e, crucialmente, a derivada $\theta'(t)$ (o efeito marginal), que é frequentemente o alvo para otimização de políticas. Métodos robustos existentes (como regressão Huber ou Quantílica) frequentemente falham em distinguir eficazmente entre inliers e outliers em cenários de contaminação localizada ou falham em fornecer um mecanismo para identificar amostras anômalas específicas.

2. Metodologia: O Estimador SHIFT

Os autores propõem o SHIFT (Self-calibrated Heavy-tail Inlier-Fit with Tempering), um estimador robusto de DML projetado para mitigar o manchar funcional enquanto retém eficiência em dados limpos. O método consiste em três etapas:

Etapa 1: Ortogonalização de Variáveis de Nuisance

O cross-fitting padrão de DML é utilizado para estimar funções de nuisance $\hat{m}_Y(X) = E[Y|X]$ e $\hat{m}_T(X) = E[T|X]$. Resíduos são formados:
$$\tilde{Y}_i = Y_i - \hat{m}_Y(X_i), \quad \tilde{T}_i = T_i - \hat{m}_T(X_i)$$
Isso garante ortogonalidade de Neyman, protegendo a segunda etapa de erros de estimação de nuisance.

Etapa 2: GNC Ponderada por Kernel com Perda Redescendente

Para cada nível de tratamento alvo $t_0$, uma regressão local-linear é realizada nos resíduos dentro de uma janela de kernel. Em vez de MSE, o SHIFT utiliza uma perda Welsch (um estimador M redescendente):
$$\rho(r) = 1 - \exp\left(-\frac{\gamma}{2}\left(\frac{r}{\sigma}\right)^2\right)$$
Para lidar com a não convexidade da perda Welsch (que pode prender a otimização em mínimos locais próximos a aglomerados de outliers), o método emprega Não Convexidade Graduada (GNC). O parâmetro de escala $\sigma$ é recozido de um valor grande (onde a perda é quase quadrática) para um valor pequeno (onde rejeita agressivamente outliers). Isso é resolvido via um loop de Mínimos Quadrados Iterativamente Reponderados (IRLS) dentro de cada janela de kernel.

Etapa 3: Refit Defensivo (A Inovação Chave)

Após a convergência do loop GNC, o método realiza um refit final "defensivo" de Mínimos Quadrados Ordinários (OLS) nos inliers identificados. A escolha de design crítica aqui é a escala usada para o corte de inliers:

• GNC-Fixed (Ablação): Utiliza o MAD pré-ajuste dos resíduos brutos ($\text{MAD}(\tilde{Y})$).
• SHIFT (Proposto): Utiliza o MAD pós-GNC dos resíduos ($\text{MAD}(r^*)$) calculado após o loop GNC ter empurrado os outliers para valores de resíduo grandes.

Por que isso importa: Em contaminação localizada (onde >50% de uma janela de kernel são outliers), o MAD pré-ajuste é inflado pela massa de outliers, fazendo com que o corte de 3$\sigma$ admita outliers de volta no ajuste OLS final. O MAD pós-GNC é controlado pela massa de inliers porque o loop GNC já separou os outliers. Esta única mudança arquitetural previne o efeito de "manchar" em regimes de contaminação localizada.

Extensões:

• Tratamentos Binários: Adaptado como um Robust X-Learner usando perda Huber para regressão de pseudo-resultado.
• Séries Temporais: Utiliza validação cruzada em blocos e uma âncora MAD rolante para lidar com variância não estacionária.
• Multi-tratamento: Estende-se para tratamentos vetoriais usando kernels de produto.

3. Contribuições Principais

1. Correção Arquitetural (MAD Pós-GNC): O artigo identifica que o timing da estimação de escala é o principal motor de robustez em contaminação localizada. O uso de resíduos pós-GNC para o corte de refit defensivo reduz o Level-RMSE de 1.03 para 0.33 em testes de estresse localizados, enquanto deixa o desempenho em contaminação uniforme inalterado.
2. Recuperação de Forma Competitiva + Mascaramento de Outliers: O SHIFT alcança recuperação de forma (RMSE) competitiva com o Huber-DML (o estado da arte atual para forma), mas produz exclusivamente um vetor de pesos não uniforme por amostra. Isso permite que o SHIFT identifique e classifique outliers (Média F1 $\approx$ 0.96 em DGPs de salto Gaussiano), whereas métodos Huber e Quantílicos emitem pesos uniformes e não conseguem identificar anomalias específicas.
3. Suite de Diagnóstico EVT: Os autores acoplam o SHIFT a um kit de ferramentas de Teoria de Valores Extremos (EVT) de seis técnicas (índice Hill, GPD-MLE/PWM, GEV, Excesso Médio, etc.). Isso permite que praticantes diagnostiquem o regime de cauda (Fréchet vs. Weibull) e decidam empiricamente se devem usar o SHIFT (para caudas limitadas) ou mudar para Quantile-DML (para caudas pesadas).
4. Ablação Contra-Intuitiva: O artigo demonstra que, sob contaminação uniforme, modelos de nuisance lineares (Ridge, Lasso) superam modelos flexíveis de gradient-boosted (HistGBM) em cerca de 60% em RMSE. Modelos flexíveis tendem a absorver contaminação na estimativa de nuisance, deixando a segunda etapa com menos sinal para rejeitar outliers.

4. Resultados Experimentais

O artigo avalia o SHIFT através de +1.400 ajustes em 5 Processos Geradores de Dados (DGPs) com níveis de contaminação até $p=0.25$.

• Recuperação de Forma:
  • Contaminação Uniforme: O SHIFT está dentro de 0.05 RMSE do Huber-DML em 19/20 células.
  • Contaminação Localizada (Região Sinusoidal): O SHIFT (RMSE 0.325) supera significativamente o GNC-Fixed (RMSE 1.026) e é competitivo com o Huber-DML (RMSE 0.276).
  • Contaminação de Cauda Pesada: O Quantile-DML lidera (RMSE 0.132 vs SHIFT 0.152), confirmando a utilidade do diagnóstico EVT na troca de métodos.
• Detecção de Outliers:
  • O SHIFT alcança uma pontuação F1 de ~0.96 em DGPs de salto Gaussiano, recuperando efetivamente a máscara de outliers ground-truth.
  • Sob caudas pesadas ($t_3$), a detecção F1 estabiliza em ~0.70, identificada como um limite fundamental de identificabilidade (indistinguibilidade de rank de pequenos saltos em relação ao ruído).
• Modelos de Nuisance:
  • Substituir o HistGBM padrão por Ridge/Lasso reduziu o RMSE do SHIFT em 60% em DGPs de contaminação uniforme, invertendo a heurística padrão "mais flexível é melhor".
• Custo Computacional:
  • O SHIFT é ~3x mais lento que o Standard-DML, mas mais rápido que o Quantile-DML. É totalmente paralelizável através de pontos de grade.

5. Significado e Implicações

• Robustez Prática: O SHIFT oferece uma solução "o melhor dos dois mundos": oferece a recuperação de forma de métodos robustos convexos (Huber) enquanto adiciona a capacidade diagnóstica de detecção de outliers (usualmente reservada para métodos não convexos).
• Seleção de Método Orientada por Dados: A integração de diagnósticos EVT move a inferência causal robusta de uma abordagem de "escolha uma função de perda e torça" para um fluxo de trabalho principiado e orientado por dados, onde a forma da cauda dita a escolha do estimador.
• Reavaliação de Heurísticas DML: A descoberta de que nuisances lineares podem superar árvores de boosting em configurações robustas desafia a prática DML padrão de usar o learner mais flexível possível, sugerindo que a simplicidade na primeira etapa pode preservar sinal para robustez na segunda etapa.
• Código Aberto: Os autores fornecem uma implementação completa em Python, dados brutos e scripts de reprodutibilidade, facilitando a adoção imediata e pesquisas futuras.

Em resumo, o SHIFT representa um avanço significativo na inferência causal robusta para tratamentos contínuos, resolvendo o problema específico de "manchar funcional" em contaminação localizada através de uma nova calibração de escala pós-GNC e fornecendo um quadro diagnóstico abrangente para praticantes.