Calibrated Inference for the Conditional Average Treatment Effect in the Few-Placebo Regime via Gaussian Processes

Resumo Técnico: Inferência Calibrada para o CATE no Regime de Pouco Placebo via Processos Gaussianos

Declaração do Problema
O artigo aborda o desafio de estimar o Efeito Médio Condicional do Tratamento (CATE), $\tau(x) = E[Y(1) - Y(0) | X=x]$, com intervalos de incerteza calibrados no "regime de pouco placebo". Este regime é definido por um desequilíbrio severo nos tamanhos amostrais entre os braços de tratamento ($N_0 \ll N_1$), um cenário comum em ensaios clínicos com alocação desigual, testes A/B com restrições orçamentárias e estudos de regimes raros.

Embora o X-Learner seja o meta-aprendizado padrão para braços desequilibrados, ele fornece apenas uma estimativa pontual. Os autores investigam a extensão natural de tornar a segunda etapa do X-Learner bayesiana para gerar intervalos de credibilidade. Eles demonstram que essa abordagem falha em fornecer cobertura calibrada (ou seja, os intervalos contêm o efeito verdadeiro menos frequentemente do que seu nível nominal), especificamente no regime de pouco placebo.

Diagnóstico da Falha
O artigo identifica uma causa estrutural para a subcobertura dos intervalos do X-Learner bayesiano:

1. Viés de Nuisance de Primeira Ordem: O X-Learner constrói pseudo-respostas (por exemplo, $D_1 = Y - \hat{\mu}_0(X)$) para estimar o efeito do tratamento. Como modelos de nuisance de aprendizado de máquina (como árvores regularizadas) trocam viés por variância, a estimativa $\hat{\mu}_0$ não é condicionalmente não viciada. Consequentemente, a média condicional da pseudo-resposta é $\tau(x) - b_0(x)$, onde $b_0(x)$ é o viés de regularização do modelo de nuisance ajustado no pequeno braço de controle.
2. Deslocamento Posterior: Uma regressão bayesiana sobre essas pseudo-respostas viciadas produz um posterior centrado no alvo viciado ($\tau - b_0$) em vez do efeito verdadeiro. Como o viés é um deslocamento de localização, aumentar a variância posterior (alargando o intervalo) não corrige a cobertura; o intervalo permanece deslocado da verdade.
3. Falha de Scores Ortogonais: O remédio padrão para viés de nuisance é regressar um score de Neyman ortogonal, duplamente robusto (DR). Os autores mostram que isso também falha no regime de pouco placebo. O regime induz inerentemente uma sobreposição pobre (pequena propensão para o braço de controle, $1-\pi \approx 0$). O termo de "segunda ordem" do score DR é amplificado por um fator de $1/(1-\pi)^2$, tornando o resíduo não negligenciável. Além disso, aplicar ponderação por variância inversa para estabilizar a alta variância do braço de controle interrompe o mecanismo de cancelamento entre braços que garante a não viés, revertendo efetivamente o estimador para a forma viciada do X-Learner.

Metodologia: GP-CATE
Para resolver essas questões, os autores propõem o GP-CATE, que abandona o paradigma de estimativa pontual mais variância post-hoc em favor de uma abordagem totalmente bayesiana para as próprias funções de nuisance.

• Modelagem: Em vez de ajustar estimativas pontuais $\hat{\mu}_0$ e $\hat{\mu}_1$, o GP-CATE modela a superfície de resposta para cada braço ($\mu_0$ e $\mu_1$) usando Processos Gaussianos (GPs) independentes.
• Construção do Posterior: O GP retorna uma distribuição posterior completa sobre a função, consistindo em uma média $m_w(x)$ e um desvio padrão pontual $s_w(x)$. A incerteza $s_w(x)$ é naturalmente grande onde os dados são esparsos (o braço de controle) e pequena onde os dados são densos.
• Inferência do CATE: O posterior do CATE é derivado como a diferença dos dois posteriors dos braços:
  $$\tau(x) | D \sim \mathcal{N}(m_1(x) - m_0(x), s_1(x)^2 + s_0(x)^2)$$
  Esta construção garante que a incerteza do pequeno braço de controle entre no posterior do CATE diretamente como variância, em vez de como um viés não modelado.
• Estratégia Computacional: Embora GPs exatos sejam $O(N^3)$, os autores notam que, no regime de pouco placebo, o braço de controle ($N_0$) é pequeno, tornando seu ajuste exato computacionalmente negligenciável. Para o grande braço de tratamento ($N_1$), um substituto escalável (por exemplo, GP com pontos esparsos/indutores) é suficiente porque a incerteza do braço de controle domina a variância total do CATE.

Principais Contribuições

1. Diagnóstico: O artigo estabelece que a subcobertura em X-Learners bayesianos para dados desequilibrados é causada por viés de nuisance de primeira ordem decorrente de pseudo-respostas não ortogonais, o que desloca a média posterior.
2. Resultado Negativo: Demonstra que o remédio de score duplamente robusto/ortogonal falha neste regime devido à amplificação da sobreposição e a um conflito fundamental entre ponderação de eficiência e não viés, mesmo quando a pontuação de propensão é conhecida.
3. Análise da Causa Raiz: Os autores argumentam que atribuir uma variância a uma estimativa pontual de um nuisance "difícil de aprender" (ajustado em dados esparsos) é estruturalmente falho porque o viés de regularização é invisível para estimativas de variância post-hoc.
4. Método e Validação Empírica: O GP-CATE é proposto como a solução, substituindo estimativas pontuais por posteriors bayesianos. Resultados empíricos mostram que é o único método testado que alcança cobertura calibrada em benchmarks lineares, não lineares e semi-sintéticos (IHDP) no regime de pouco placebo.

Resultados Experimentais
Os autores avaliaram o GP-CATE contra Causal Forest, BART e meta-aprendizados padrão (X-Learner, DR-Learner) em três designs:

• Cobertura: No regime de pouco placebo ($N_0=30$), estimadores de intervalo padrão subcobrem severamente. A cobertura do Causal Forest caiu para tão baixo quanto 0,34 no benchmark IHDP, e o BART caiu para 0,59. Em contraste, o GP-CATE manteve a cobertura entre 0,94 e 0,99 em todos os designs e tamanhos amostrais.
• Largura do Intervalo: Os intervalos calibrados produzidos pelo GP-CATE são significativamente mais largos do que os das alternativas em configurações de alta dimensionalidade com poucos controles. Os autores argumentam que isso é um recurso, não um defeito: os intervalos largos refletem corretamente a alta incerteza inerente à estimação de uma superfície a partir de dados esparsos, whereas intervalos mais estreitos de outros métodos são mal calibrados.
• Precisão Pontual: O GP-CATE permanece competitivo em precisão de estimação pontual (medida por $\sqrt{\epsilon PEHE}$), frequentemente superando ou igualando o Causal Forest e o BART, particularmente à medida que $N_0$ aumenta.

Significado e Alegações
O artigo alega que o regime de pouco placebo representa uma fronteira estrutural onde as propriedades oraculares assintóticas padrão (que assumem sobreposição fixa) colapsam. O significado do trabalho reside em identificar que a inferência calibrada neste regime requer um modelo de nuisance totalmente bayesiano em vez de uma estimativa pontual com variância corrigida.

Os autores enquadram modestamente sua contribuição não como uma arquitetura de estimador novel (notando que um T-learner bayesiano com GPs é similar a trabalhos anteriores de Alaa e van der Schaar, 2017), mas como um insight diagnóstico: a falha dos meta-aprendizados neste regime deve-se à separação da estimação de viés e variância. O GP-CATE é apresentado como o estimador que a análise da causa raiz necessita. O artigo conclui que os praticantes devem preferir o GP-CATE em configurações desequilibradas, aceitando intervalos mais largos como o reflexo honesto da escassez de dados, em vez de confiar em intervalos mais estreitos e mal calibrados de métodos padrão.