Variable Selection for Linear Regression Imputation in Surveys

Este artículo presenta un marco metodológico completo para la selección de variables en la imputación por regresión lineal en encuestas, definiendo un modelo óptimo basado en una función de pérdida oráculo y demostrando la validez asintótica y optimalidad de los intervalos de confianza construidos tras la selección del modelo.

Lo esencial

Imagina que eres un chef famoso que quiere saber el sabor promedio de una enorme olla de sopa (la población) que tiene miles de litros. No puedes probar cada gota, así que tomas una cuchara de muestra (el sondeo). Pero, ¡oh no! ¡Algunas personas que te ayudaron a probar la sopa olvidaron anotar el sabor de sus cucharadas! Esos datos faltantes son el "no respuesta".

Si ignoras esos huecos, tu cálculo del sabor promedio será incorrecto y tu sopa final podría estar salada o insípida. Para arreglarlo, usas una técnica llamada imputación: inventas un sabor probable para esas cucharadas faltantes basándote en lo que sí anotaste (por ejemplo, si la sopa tiene mucha zanahoria, probablemente sea dulce).

El problema es: ¿Qué ingredientes (variables) debes usar para inventar ese sabor?

• ¿Solo la zanahoria?
• ¿La zanahoria, la cebolla y un poco de sal?
• ¿O quizás también el color de la cuchara?

Si eliges los ingredientes incorrectos, tu "sabor inventado" será malo y arruinará toda la estadística.

¿Qué hace este artículo?

Los autores (Ziming An, Mehdi Dagdoug y David Haziza) han escrito una "guía de cocina" matemática para ayudar a los estadísticos a elegir exactamente los ingredientes correctos para rellenar los huecos en sus encuestas, sin añadir ingredientes inútiles ni olvidar los importantes.

Aquí tienes los puntos clave explicados con analogías:

1. El "Oráculo" y el Modelo Perfecto

Imagina que existe un Oráculo (un chef divino) que sabe exactamente qué ingredientes crearon la sopa original. El Oráculo sabe que la sopa necesita zanahoria y cebolla, pero no necesita sal ni pimienta.

• El artículo define una "pérdida" (un error) que mide qué tan lejos está tu sopa inventada de la real.
• Demuestran que, si tienes suficiente muestra, el modelo que minimiza este error es exactamente el mismo que el del Oráculo. Es decir, la matemática te dice que, a largo plazo, la mejor forma de rellenar los huecos es usar la verdad oculta.

2. El Dilema: ¿Poner de más o de menos?

En la cocina de las encuestas, hay dos errores comunes al elegir ingredientes:

• Olvidar un ingrediente clave (Sesgo): Si la sopa necesita zanahoria y tú no la pones en tu fórmula de imputación, tu sabor inventado será siempre incorrecto. No importa cuánto repitas la prueba, el error persiste.
• Poner ingredientes de más (Variance/Varianza): Si añades pimienta y sal (que no afectan el sabor real), tu fórmula sigue siendo correcta en promedio, pero se vuelve "nerviosa". Cada vez que cocinas, el resultado varía un poco más. Haces el trabajo más difícil de lo necesario.

El artículo explica cuándo añadir ingredientes extra es inofensivo y cuándo realmente estorba.

3. La Solución: Un Método Inteligente (BIC)

Los autores proponen un proceso de 4 pasos, como una receta infalible:

1. Probar recetas: Usan herramientas estadísticas (como el criterio BIC, que es como un "saborímetro" automático) para probar diferentes combinaciones de ingredientes.
2. Elegir la ganadora: El BIC es un chef muy estricto que tiende a elegir la receta más simple que funciona perfectamente. El artículo demuestra que, en encuestas, este chef suele encontrar la receta del Oráculo.
3. Cocinar (Imputar): Una vez elegidos los ingredientes correctos, rellenan los huecos de la sopa.
4. Probar el plato (Intervalos de Confianza): Calculan un rango de seguridad. Por ejemplo: "Estamos 95% seguros de que el sabor promedio está entre 7 y 8".

La gran noticia: El artículo demuestra que, si sigues este método, tus intervalos de confianza son correctos y óptimos. No necesitas hacer cálculos extraños ni métodos complicados después de elegir los ingredientes; la estadística se comporta como si siempre hubieras sabido la receta perfecta desde el principio.

4. ¿Por qué es importante?

En el mundo real, las encuestas (como el censo o encuestas de opinión) tienen muchos datos faltantes. Si los gobiernos o las empresas usan métodos de relleno incorrectos, las decisiones basadas en esos datos (como cuánto dinero asignar a un hospital o qué candidato gana) pueden ser erróneas.

Este paper les dice a los estadísticos: "No tengan miedo de usar herramientas modernas de selección de variables. Si las usan bien, sus resultados serán tan precisos como si tuvieran un Oráculo en la cocina, y sus estimaciones de error serán perfectas."

En resumen

El artículo es como un manual que enseña a los chefs de datos a no subestimar ni sobreestimar los ingredientes necesarios para "reparar" una encuesta rota. Garantiza que, al final, la sopa (el resultado estadístico) tenga el sabor exacto de la realidad, sin sorpresas desagradables.

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo en español, estructurado según los puntos solicitados:

Título: Selección de Variables para la Imputación por Regresión Lineal en Encuestas

1. Planteamiento del Problema

En la estadística oficial y el muestreo por encuestas, la no respuesta por ítem (cuando algunas variables están faltantes para unidades seleccionadas) es un desafío mayor que puede sesgar las estimaciones y afectar la consistencia de los estimadores. La práctica estándar para abordar esto es la imputación, donde los valores faltantes se reemplazan por valores predichos.

El problema central abordado en este trabajo es la selección de variables para construir el modelo de imputación. Aunque la selección de variables ha sido ampliamente estudiada en contextos de datos i.i.d. (independientes e idénticamente distribuidos) con objetivos de predicción o identificación de parámetros, su papel en la imputación para datos de encuestas ha recibido poca atención.

• El dilema: Un modelo mal especificado (que omita covariables relevantes o incluya irrelevantes) puede resultar en estimadores sesgados o ineficientes.
• El objetivo: Determinar qué modelo de imputación minimiza el error cuadrático medio (MSE) del estimador de la media poblacional finita, considerando tanto la variabilidad de muestreo como la de no respuesta.

2. Metodología y Marco Teórico

Los autores desarrollan un marco teórico riguroso bajo un diseño de muestreo no informativo y bajo el supuesto de Datos Ausentes al Azar (MAR).

• Función de Pérdida Óráculo: Introducen una función de pérdida específica para la imputación, $L_n(\alpha)$, que mide la distancia cuadrática esperada entre el estimador imputado basado en un modelo $\alpha$ y el estimador de Horvitz-Thompson de datos completos (que no se puede calcular en la práctica). Esta pérdida se descompone en un sesgo (inducido por la omisión de variables) y una varianza.
• Definición del Modelo Óptimo: Se define el modelo de imputación óptimo ($\alpha_{opt}$) como el minimizador de esta función de pérdida.
• Propiedades Asintóticas: Bajo condiciones de regularidad estándar (muestreo con fracción de muestreo constante, probabilidades de inclusión acotadas, momentos finitos), demuestran que:
  1. El modelo que minimiza la pérdida asintóticamente coincide con el modelo verdadero ($\alpha^*$), es decir, el soporte de los coeficientes no nulos de la regresión.
  2. El uso de un criterio de selección consistente (como BIC) permite identificar este modelo verdadero con probabilidad tendiente a uno.
• Análisis de Modelos Erróneos:
  • Subajuste (Omitir variables): Puede llevar a estimadores inconsistentes si las variables omitidas están relacionadas tanto con la variable de interés como con el mecanismo de respuesta.
  • Sobrecarga (Incluir variables irrelevantes): Generalmente aumenta la varianza asintótica, pero bajo ciertas condiciones (cuando las variables extra no explican el mecanismo de no respuesta y son linealmente dependientes de las incluidas), el aumento de varianza puede ser nulo.

3. Contribuciones Clave

El artículo aporta varias contribuciones teóricas y metodológicas significativas:

1. Conexión entre Selección y Imputación: Establecen que, en el contexto de encuestas, el objetivo de eficiencia en la imputación está intrínsecamente ligado a la identificación del modelo verdadero, a diferencia de otros contextos donde el objetivo es puramente predictivo.
2. Transferencia de Consistencia: Demuestran que los criterios de selección de modelos que son consistentes en datos i.i.d. (como BIC) permanecen consistentes en datos de encuestas con no respuesta, bajo diseños no informativos.
3. Estimación de Varianza Post-Selección: Desarrollan un marco completo para la estimación de la varianza y la construcción de intervalos de confianza después de la selección del modelo.
   • Demuestran que, si se utiliza un criterio consistente, la incertidumbre derivada de la selección del modelo es asintóticamente despreciable.
   • Por lo tanto, se pueden utilizar los estimadores de varianza estándar (basados en el modelo seleccionado) como si el modelo verdadero fuera conocido de antemano (eficiencia óráculo).
4. Algoritmo Propuesto: Proponen un algoritmo de cuatro pasos:
   1. Selección de variables mediante un criterio consistente (ej. BIC).
   2. Estimación puntual del parámetro poblacional usando el modelo seleccionado.
   3. Estimación de la varianza total (muestreo + no respuesta) utilizando el modelo seleccionado.
   4. Construcción de intervalos de confianza asintóticamente válidos.

4. Resultados Principales

• Teorema de Consistencia: Bajo condiciones de regularidad, la probabilidad de que el modelo seleccionado coincida con el modelo verdadero tiende a 1.
• Equivalencia Asintótica: El estimador imputado basado en el modelo seleccionado es asintóticamente equivalente al estimador basado en el modelo verdadero (el "óráculo").
• Validez de los Intervalos de Confianza: Los intervalos de confianza construidos con la metodología propuesta tienen una cobertura asintótica igual al nivel nominal (ej. 95%) y son óptimos en cuanto a su ancho dentro de la clase de modelos candidatos.
• Estudios de Simulación:
  • Se probaron diseños de muestreo aleatorio simple y estratificado con diferentes tamaños de muestra y fracciones de muestreo.
  • Los resultados confirmaron que el criterio BIC selecciona consistentemente el modelo verdadero, mientras que AIC y la validación cruzada tienden a sobreajustar (seleccionar modelos más complejos), resultando en una eficiencia ligeramente menor (mayor varianza).
  • Los estimadores de varianza mostraron un sesgo relativo despreciable y las probabilidades de cobertura se acercaron al nivel nominal a medida que aumentaba el tamaño de la muestra.

5. Significado e Impacto

Este trabajo es fundamental para la práctica de la estadística de encuestas por las siguientes razones:

• Justificación Teórica: Proporciona la base teórica necesaria para utilizar herramientas estándar de selección de modelos (como BIC) en problemas de imputación de encuestas, algo que antes se hacía de manera empírica sin garantías teóricas sólidas.
• Simplificación de la Inferencia: Elimina la necesidad de métodos de corrección post-selección complejos o esquemas de remuestreo elaborados para construir intervalos de confianza válidos. La inferencia puede realizarse condicionalmente al modelo seleccionado sin perder validez asintótica.
• Robustez: Demuestra que la selección de variables adecuada es crítica no solo para la precisión, sino para la consistencia de los estimadores en presencia de no respuesta.
• Futuras Direcciones: El marco abierto la puerta para extender estos resultados a diseños de muestreo informativos y a modelos de imputación no paramétricos o semiparamétricos.

En resumen, el artículo cierra una brecha importante entre la teoría de selección de modelos y la práctica de la imputación en encuestas, asegurando que los estimadores resultantes sean eficientes, consistentes y que la inferencia estadística sea válida.