A Bayes-Factor-Guided Approach to Post-Double Selection with Bootstrapped Multiple Imputation

A continuación presento un resumen técnico detallado del artículo "A Bayes-Factor-Guided Approach to Post-Double Selection with Bootstrapped Multiple Imputation" (Un enfoque guiado por el Factor de Bayes para la Selección Post-Doble con Imputación Múltiple y Bootstrap), estructurado según los puntos solicitados.

1. Planteamiento del Problema

En la investigación empírica moderna, estimar el efecto de una variable de interés sobre un resultado en presencia de un gran número de variables de control potenciales es un desafío común. Cuando el número de covariables candidatas es alto, se utilizan métodos de selección de variables (como LASSO) para construir modelos parsimonios. Sin embargo, surgen dos problemas críticos al combinar estos métodos con procedimientos estocásticos:

1. Incertidumbre de Muestreo y Datos Faltantes: En la práctica, los datos a menudo tienen valores faltantes (manejados mediante Imputación Múltiple, MI) y se utiliza el bootstrap para abordar la incertidumbre de muestreo.
2. Inestabilidad en la Selección: Cuando se aplica la selección de variables (específicamente el enfoque de Selección Post-Doble o PDS de Belloni et al.) sobre múltiples conjuntos de datos perturbados (bootstrapeados e imputados), el conjunto de variables seleccionadas varía entre iteraciones.
3. Reglas de Agregación Deficientes: Las reglas estándar para agregar estos resultados, como la regla de la unión (tomar cualquier variable seleccionada al menos una vez), tienden a producir modelos excesivamente densos con muchas variables irrelevantes. Por otro lado, las reglas basadas en frecuencias fijas (ej. seleccionar solo si aparece en >75% de las iteraciones) pueden descartar variables con señales persistentes pero más débiles.

El objetivo del artículo es desarrollar un procedimiento de agregación secuencial que determine la relevancia de las variables de manera más robusta, evitando la necesidad de fijar a priori el número de iteraciones de bootstrap/imputación y proporcionando un criterio de inclusión más interpretable.

2. Metodología Propuesta

Los autores proponen un procedimiento de agregación secuencial de evidencia basado en un modelo de trabajo que interpreta los resultados de detección como ensayos de Bernoulli.

A. Marco de Perturbación (BOOT-MI)

El procedimiento opera en un bucle de iteraciones donde, en cada paso $t$:

1. Se extrae una muestra bootstrap del conjunto de datos incompleto.
2. Se realiza una imputación estocástica única para completar el conjunto de datos.
3. Se aplica la Selección Post-Doble (PDS):
   • Selecciona variables en la ecuación del resultado ($Y$) y en la ecuación auxiliar de la variable de interés ($D$) usando LASSO.
   • Se forma un conjunto candidato $S_t = S_{Y,t} \cup S_{D,t}$.
4. Regla de Detección Asimétrica: Se define un indicador binario $Z_{jt}$ para cada variable $j$:
   • Si $j$ fue seleccionada en la ecuación auxiliar ($D$), se considera detectada ($Z_{jt}=1$) incondicionalmente.
   • Si $j$ fue seleccionada solo en la ecuación del resultado ($Y$), se requiere que su coeficiente sea estadísticamente significativo en una regresión de confirmación post-selección para ser detectada.

B. Modelo de Evidencia Secuencial

En lugar de contar frecuencias, el método modela la secuencia de indicadores $\{Z_{jt}\}$ como realizaciones de un proceso de detección estocástico bajo dos hipótesis:

• $H_0$: La variable es irrelevante (probabilidad de detección $\pi_0$).
• $H_1$: La variable es relevante (probabilidad de detección $\pi_1$), donde $\pi_1 > \pi_0$.

Se construye un Factor de Bayes aproximado mediante una relación de verosimilitud acumulada. Para cada iteración, se actualiza el log-evidencia:
$$\log E_{jt} = \log E_{j,t-1} + \log \left( \frac{P(Z_{jt}|H_1)}{P(Z_{jt}|H_0)} \right)$$
Donde los incrementos dependen de si la variable fue detectada o no.

C. Calibración y Regla de Parada

• Calibración Piloto: Se ejecutan un número pequeño de iteraciones piloto ($T_{pilot}$) para estimar empíricamente las probabilidades de detección $\hat{\pi}_0$ y $\hat{\pi}_1$ (usando variables con baja y alta frecuencia de detección, respectivamente).
• Regla de Parada: El proceso es secuencial. Una variable se clasifica como relevante si su log-evidencia cruza un umbral superior ($c$) y como irrelevante si cruza un umbral inferior ($-c$).
• El proceso global termina cuando todas las variables han sido clasificadas o se alcanza un máximo de iteraciones ($T_{max}$).

3. Contribuciones Clave

1. Formulación como Problema de Decisión Secuencial: Transforman la agregación de resultados de selección en variables a través de conjuntos BOOT-MI en un problema de acumulación de evidencia secuencial, modelando los indicadores de detección como procesos estocásticos.
2. Regla de Parada y Criterio de Inclusión Dinámicos: Eliminan la necesidad de fijar el número de iteraciones de perturbación ex ante. El método decide cuándo detenerse basándose en la evidencia acumulada, lo que ofrece eficiencia computacional.
3. Estrategia de Calibración Basada en Piloto: Proponen un método para calibrar los parámetros del modelo de trabajo ($\pi_0, \pi_1$) utilizando una fase piloto corta, lo que permite adaptar el umbral de evidencia a la estabilidad específica de los datos y el método de selección utilizado.
4. Interpretación Bayesiana Aproximada: Proporcionan una medida de evidencia con interpretación de Factor de Bayes, ofreciendo un marco teórico para la toma de decisiones que equilibra los costos de inclusión falsa y exclusión falsa.

4. Resultados del Estudio

El artículo presenta un estudio de Monte Carlo con 126 escenarios y una ilustración empírica.

A. Estudio de Simulación (126 Escenarios)

• Precisión en Selección de Variables: El método propuesto logra la mayor Tasa de Verdaderos Positivos (TPR) entre los métodos selectivos (superando a los umbrales de frecuencia del 50% y 75%), aunque con una Tasa de Falsos Positivos (FPR) ligeramente mayor que el umbral del 75%. Sin embargo, evita la densidad extrema de la regla de la unión.
• Estimación del Efecto del Tratamiento: El método produce estimaciones de coeficientes con sesgo y error cuadrático medio (RMSE) comparables a los mejores métodos de frecuencia, pero con una cobertura de intervalos de confianza superior (más cercana al nivel nominal), indicando una mejor inferencia.
• Eficiencia Computacional: La regla de parada secuencial reduce drásticamente el número de iteraciones necesarias. En promedio, el método requiere ~51 iteraciones frente a un presupuesto fijo de 200, representando una reducción de costos computacionales de aproximadamente el 75%.
• Robustez: El método es particularmente robusto en escenarios difíciles (muestras pequeñas, datos faltantes no al azar -MNAR-, y señales débiles), donde los métodos basados en frecuencia suelen fallar.

B. Ilustración Empírica (European Social Survey)

• Se aplicó el método a datos de la Encuesta Social Europea (ESS) para analizar la relación entre variables demográficas y socioeconómicas.
• Selección de Variables: El método propuesto seleccionó 34 variables, situándose entre la regla de la unión (55 variables) y los umbrales de frecuencia estrictos (31-41 variables). Capturó un núcleo estable de controles (edad, educación, ingresos) y manejó mejor las variables atenuadas que los umbrales rígidos.
• Estabilidad de Resultados: A pesar de las diferencias en el tamaño del modelo, las estimaciones del coeficiente de la variable de interés fueron consistentes y estadísticamente insignificantes en todos los métodos, demostrando la robustez de la inferencia causal frente a la elección de la regla de agregación.

5. Significado e Implicaciones

Este trabajo es significativo por varias razones:

1. Superación de las Limitaciones de la Agregación Estándar: Ofrece una alternativa teóricamente fundamentada a las reglas heurísticas (unión o frecuencia) que dominan la práctica actual cuando se combinan MI, Bootstrap y selección de variables.
2. Eficiencia y Sostenibilidad: Al permitir una parada temprana basada en la evidencia, hace viables los procedimientos de selección de variables intensivos en cómputo en entornos con grandes volúmenes de datos o recursos limitados.
3. Interpretabilidad: Proporciona a los investigadores una métrica de "fuerza de evidencia" para la inclusión de variables, en lugar de depender de cortes arbitrarios de frecuencia.
4. Generalidad: Aunque se centra en PDS y LASSO, el marco de evidencia secuencial es aplicable a otros métodos de selección de variables que generan indicadores binarios, incluyendo métodos de aprendizaje automático.

En conclusión, el artículo propone un marco riguroso para manejar la variabilidad inherente a la selección de variables en datos incompletos y muestreados, logrando un equilibrio superior entre la parsimonia del modelo, la precisión de la estimación y el costo computacional.