Adaptive Experimental Design Using Shrinkage Estimators

Resumen Técnico: Diseño Experimental Adaptativo Mediante Estimadores de Contracción (Shrinkage)

Planteamiento del Problema
En ensayos aleatorios multibras que involucran $K$ tratamientos activos y un control, se emplean frecuentemente diseños adaptativos para mejorar la eficiencia de la estimación o identificar tratamientos óptimos. La literatura reciente ha extendido la asignación clásica de Neyman a entornos secuenciales, con el objetivo de minimizar el error de los estimadores de tipo Horvitz-Thompson mediante el aprendizaje de las varianzas de los resultados y la actualización de las probabilidades de asignación. Sin embargo, los autores argumentan que este enfoque es subóptimo cuando el objetivo principal es la estimación simultánea de todos los efectos de tratamiento. Los estimadores estándar de diferencia de medias tratan cada brazo de forma aislada, fallando en "tomar prestada fuerza" entre los brazos de tratamiento. En muchas aplicaciones, los efectos de tratamiento están relacionados, e ignorar esta estructura conduce a una pérdida de error cuadrático esperado mayor de la necesaria. El artículo aborda el desafío de diseñar reglas de asignación de tratamiento adaptativas que apunten específicamente a la minimización del riesgo para estimadores de contracción (shrinkage) de tipo Stein, en lugar de la varianza marginal de los estimadores insesgados.

Metodología
Los autores proponen un marco de trabajo donde las estimaciones causales finales se derivan utilizando estimadores de contracción aplicados al vector de estimaciones de diferencia de medias, $\hat{\tau}$. La metodología procede a través de los siguientes pasos:

1. Selección del Estimador: El artículo evalúa tres estimadores de contracción candidatos para el vector de efectos de tratamiento $\tau = (\tau_1, \dots, \tau_K)$:

   • Estimador de Bock ($\hat{\delta}_B$): Diseñado para vectores gaussianos con entradas dependientes, contrayendo $\hat{\tau}$ hacia cero basándose en la relación entre la traza de la matriz de covarianza y su mayor autovalor.
   • Estimador SURE-Min ($\hat{\delta}_S$): Un contractor que minimiza directamente la Estimación de Riesgo Insesgada de Stein (SURE), contrayendo $\hat{\tau}$ hacia cero por un factor derivado de la traza de la matriz de covarianza y la norma al cuadrado de las estimaciones.
   • Estimador de Dimmery ($\hat{\delta}_D$): Una modificación heterocedástica del estimador de James-Stein, adaptada para contraer contrastes hacia cero en lugar de hacia una media global.

2. Caracterización del Riesgo: Bajo el supuesto de que los estimadores a nivel de brazo están aproximadamente distribuidos normalmente ($\hat{\tau} \sim N(\tau, \Sigma)$), el riesgo de error cuadrático esperado para estos estimadores se expresa como la esperanza de razones de formas cuadráticas gaussianas. Los autores utilizan SURE para derivar estimaciones insesgadas de este riesgo.

3. Diseños Oráculo (Análisis Estático): Antes de abordar la adaptatividad, los autores analizan diseños "oráculo" donde las medias y varianzas de los resultados potenciales son conocidas. Demuestran que las asignaciones que minimizan el riesgo para los estimadores de contracción difieren significativamente de la asignación de Neyman estándar. Específicamente, en regímenes de baja relación señal-ruido (SNR), los diseños óptimos para estimadores de contracción asignan una mayor proporción de unidades al brazo de control en comparación con la asignación de Neyman. Esto se debe a que aumentar el tamaño de la muestra del control reduce las correlaciones fuera de la diagonal en la matriz de covarianza $\Sigma$, aumentando así la independencia de la información disponible para la contracción.

4. Algoritmo Adaptativo: El artículo propone un algoritmo de asignación de tratamiento secuencial codicioso (greedy):

   • Fase de Calentamiento (Warm-up): Las primeras $N_{warm-up}$ unidades se asignan mediante aleatorización completa para reunir datos iniciales.
   • Asignación Secuencial: Para cada llegada subsecuente $i$, el tratamiento $W_i$ se asigna al brazo $k$ que minimiza el riesgo estimado del contractor elegido, dado el estimador actual de los efectos de tratamiento $\hat{\tau}^{(i-1)}$ y las varianzas $\hat{V}^{(i-1)}$.
   • Computación Eficiente: Un componente crítico del algoritmo es la computación eficiente del riesgo del contractor. Los autores muestran que las expectativas de riesgo pueden computarse mediante integración numérica univariante (utilizando los resultados de Bao y Kan, 2013). Al implementar estas integrales en C++ vía RCPP, el riesgo puede calcularse en milisegundos, haciendo que la asignación adaptativa en tiempo real sea computacionalmente factible.

Resultados Clave
A través de simulaciones extensas con $N=1,000$ unidades a través de diversas dimensiones ($K \in \{6, 12\}$), dispersión de la señal y niveles de SNR, el artículo reporta los siguientes hallazgos:

• Desplazamientos de Asignación: Las asignaciones que minimizan el riesgo para los tres estimadores de contracción desplazan consistentemente una mayor parte de las unidades al brazo de control en comparación con la asignación de Neymana estándar. Este desplazamiento es más pronunciado para el estimador de Bock y es mayor cuando la relación señal-ruido es baja ($\kappa = 0$) y el número de brazos de tratamiento es alto.
• Reducción de Error: El enfoque adaptativo produce reducciones significativas en el Error Cuadrático Medio (MSE) en comparación con los diseños estáticos (aleatorización completa y asignación de Neyman) y los estimadores de contracción no adaptativos. Los beneficios son más significativos en regímenes de baja SNR.
• Desempeño de los Estimadores: Se utilizan las versiones de parte positiva de los estimadores de contracción (truncados para evitar factores de contracción negativos) para la estimación final. Las reglas de asignación adaptativas, que minimizan el riesgo subrogado de los estimadores suaves, logran reducir con éxito el MSE de estas estimaciones finales.
• Viabilidad Computacional: El método de integración numérica permite la computación del riesgo en menos de 0.1 milisegundos incluso en dimensiones más altas (por ejemplo, $K=16$), validando la practicidad del algoritmo de asignación secuencial codicioso.

Significancia y Reivindicaciones
El artículo afirma proporcionar un método fundamentado para mejorar la eficiencia de la estimación en ensayos multibras alineando el objetivo del diseño adaptativo con las propiedades estadísticas específicas de los estimadores de contracción.

• Contribución Teórica: Los autores establecen que minimizar el riesgo de un estimador de contracción requiere una estrategia de asignación diferente a la de minimizar la varianza de un estimador insesgado. Proporcionan condiciones (mediante Lemas 2 y 3) bajo las cuales los estimadores de contracción dominan estrictamente al estimador de diferencia de medias.
• Utilidad Práctica: El artículo demuestra que es computacionalmente factible implementar un diseño adaptativo secuencial y codicioso completo que apunte al riesgo de contracción. Esto contrasta con los métodos adaptativos previos que se centran en estimadores insesgados o en la identificación del mejor brazo.
• Alcance Modesto: Los autores declaran explícitamente que no pretenden la optimalidad de su algoritmo codicioso respecto a todas las reglas de tratamiento posibles. En su lugar, lo presentan como un heurístico simple y efectivo que aprovecha la computación eficiente del riesgo de contracción para obtener mejoras prácticas en el error de estimación, particularmente en entornos de baja relación señal-ruido. El artículo también describe un método para construir intervalos de confianza más cortos al final del ensayo basado en estos diseños adaptativos.