Adaptive Experimental Design Using Shrinkage Estimators

Resumo Técnico: Design Experimental Adaptativo Usando Estimadores de Contração (Shrinkage)

Definição do Problema
Em ensaios randomizados de múltiplos braços envolvendo $K$ tratamentos ativos e um controle, designs adaptativos são frequentemente empregados para melhorar a eficiência da estimação ou identificar tratamentos ótimos. A literatura recente estendeu a alocação de Neyman clássica para configurações sequenciais, visando minimizar o erro de estimadores do tipo Horvitz-Thompson ao aprender as variâncias dos resultados e atualizar as probabilidades de atribuição. No entanto, os autores argumentam que essa abordagem é subótima quando o objetivo principal é a estimação simultânea de todos os efeitos de tratamento. Estimadores padrão de diferença de médias tratam cada braço isoladamente, falhando em "tomar emprestado o poder" (borrow strength) entre os braços de tratamento. Em muitas aplicações, os efeitos de tratamento são relacionados, e ignorar essa estrutura leva a uma perda de erro quadrático esperado maior do que o necessário. O artigo aborda o desafio de projetar regras de atribuição de tratamento adaptativas que visem especificamente a minimização do risco para estimadores de contração do tipo Stein, em vez da variância marginal de estimadores não viesados.

Metodologia
Os autores propõem um framework onde as estimativas causais finais são derivadas usando estimadores de contração aplicados ao vetor de estimativas de diferença de médias, $\hat{\tau}$. A metodologia procede através das seguintes etapas:

1. Seleção do Estimador: O artigo avalia três candidatos a estimadores de contração para o vetor de efeitos de tratamento $\tau = (\tau_1, \dots, \tau_K)$:

   • Estimador de Bock ($\hat{\delta}_B$): Projetado para vetores Gaussianos com entradas dependentes, contraindo $\hat{\tau}$ em direção a zero com base na razão entre o traço da matriz de covariância e seu maior autovalor.
   • Estimador SURE-Min ($\hat{\delta}_S$): Um shrinker que minimiza diretamente a Estimativa de Risco Não Viesada de Stein (SURE), contraindo $\hat{\tau}$ em direção a zero por um fator derivado do traço da matriz de covariância e da norma ao quadrado das estimativas.
   • Estimador de Dimmery ($\hat{\delta}_D$): Uma modificação heterocedástica do estimador de James-Stein, adaptada para contrair contrastes em direção a zero em vez de uma média global.

2. Caracterização do Risco: Sob a suposição de que os estimadores ao nível do braço são aproximadamente normais ($\hat{\tau} \sim N(\tau, \Sigma)$), o risco esperado de erro quadrático para esses estimadores é expresso como a expectativa de razões de formas quadráticas Gaussianas. Os autores utilizam o SURE para derivar estimativas não viesadas desse risco.

3. Designs Oráculo (Análise Estática): Antes de abordar a adaptatividade, os autores analisam designs "oráculo" onde as médias e variâncias dos resultados potenciais são conhecidas. Eles demonstram que as alocações que minimizam o risco para estimadores de contração diferem significativamente da alocação de Neyman padrão. Especificamente, em regimes de baixa relação sinal-ruído (SNR), os designs ótimos para estimadores de contração alocam uma proporção maior de unidades ao braço de controle em comparação com a alocação de Neyman. Isso ocorre porque aumentar o tamanho da amostra do controle reduz as correlações fora da diagonal na matriz de covariância $\Sigma$, aumentando a independência da informação disponível para a contração.

4. Algoritmo Adaptativo: O artigo propõe um algoritmo sequencial ganancioso (greedy) para atribuição de tratamento:

   • Fase de Aquecimento (Warm-up): As primeiras $N_{warm-up}$ unidades são atribuídas via randomização completa para coletar dados iniciais.
   • Atribuição Sequencial: Para cada chegada subsequente $i$, o tratamento $W_i$ é atribuído ao braço $k$ que minimiza o risco estimado do shrinker escolhido, dado os estimativas atuais dos efeitos de tratamento $\hat{\tau}^{(i-1)}$ e variâncias $\hat{V}^{(i-1)}$.
   • Computação Eficiente: Um componente crítico do algoritmo é a computação eficiente do risco do shrinker. Os autores mostram que as expectativas de risco podem ser computadas via integração numérica univariada (utilizando resultados de Bao e Kan, 2013). Ao implementar essas integrais em C++ via RCPP, o risco pode ser calculado em milissegundos, tornando a atribuição adaptativa em tempo real computacionalmente viável.

Principais Resultados
Através de simulações extensas com $N=1.000$ unidades através de variando dimensões ($K \in \{6, 12\}$), esparsidade de sinal e níveis de SNR, o artigo reporta as seguintes descobertas:

• Deslocamentos de Alocação: As alocações que minimizam o risco para todos os três estimadores de contração consistentemente deslocam uma parcela maior de unidades para o braço de controle em comparação com a alocação padrão de Neyman. Esse deslocamento é mais pronunciado para o estimador de Bock e é maior quando a relação sinal-ruído é baixa ($\kappa = 0$) e o número de braços de tratamento é alto.
• Redução de Erro: A abordagem adaptativa produz reduções significativas no Erro Quadrático Médio (MSE) em comparação com designs estáticos (randomização completa e alocação de Neyman) e estimadores de contração não adaptativos. Os benefícios são mais significativos em regimes de baixo SNR.
• Desempenho do Estimador: As versões de parte positiva dos estimadores de contração (truncadas para evitar fatores de contração negativos) são usadas para a estimação final. As regras de alocação adaptativas, que minimizam o risco substituto (surrogate risk) dos estimadores suaves, conseguem reduzir o MSE dessas estimativas finais.
• Viabilidade Computacional: O método de integração numérica permite a computação do risco em menos de 0,1 milissegundo mesmo em dimensões mais altas (ex: $K=16$), validando a praticidade do algoritmo sequencial ganancioso.

Significância e Alegações
O artigo alega fornecer um método principado para melhorar a eficiência da estimação em ensaios de múltiplos braços, alinhando o objetivo do design adaptativo com as propriedades estatísticas específicas dos estimadores de contração.

• Contribuição Teórica: Os autores estabelecem que minimizar o risco de um estimador de contração requer uma estratégia de alocação diferente da que minimiza a variância de um estimador não viesado. Eles fornecem condições (via Lemas 2 e 3) sob as quais os estimadores de contração dominam estritamente o estimador de diferença de médias.
• Utilidade Prática: O artigo demonstra que é computacionalmente viável implementar um design adaptativo sequencial ganancioso completo que visa o risco de contração. Isso contrasta com métodos adaptativos anteriores que focam em estimadores não viesados ou identificação do melhor braço.
• Escopo Modesto: Os autores declaram explicitamente que não reivindicam a otimalidade de seu algoritmo ganancioso em relação a todas as regras de tratamento possíveis. Em vez disso, apresentam-no como um heurístico simples e eficaz que aproveita a computação eficiente do risco de contração para gerar melhorias práticas no erro de estimação, particularmente em ambientes de baixo sinal-ruído. O artigo também descreve um método para construir intervalos de confiança mais curtos ao final do ensaio baseado nesses designs adaptativos.