Predicting missing values: A good idea?

Resumen Técnico: ¿Predecir valores faltantes es una buena idea?

Planteamiento del Problema
El artículo aborda una desconexión crítica en el manejo de datos faltantes dentro del aprendizaje automático y el análisis estadístico. Si bien minimizar el Error Cuadrático Medio (MSE) es el criterio dominante para evaluar los métodos de imputación —priorizando la precisión de las estimaciones puntuales—, este enfoque introduce sistemáticamente sesgos en los análisis posteriores. El problema central es que las imputaciones optimizadas por MSE son esencialmente medias condicionales (promedios). Al reemplazar los valores faltantes con estos promedios deterministas, la variabilidad natural de los datos se reduce artificialmente. Esta reducción distorsiona parámetros estadísticos clave, incluyendo la varianza, la prevalencia, la correlación, las pendientes de regresión y la varianza explicada ($R^2$), lo que conduce a inferencias inválidas y estimaciones excesivamente confiables en el modelado subsiguiente.

Metodología
El autor emplea un marco teórico y estudios de simulación para comparar dos estrategias de imputación distintas dentro de un entorno normal multivariado:

1. Imputación Predictiva (Predict): Este método minimiza el MSE imputando el valor esperado ($\hat{y}$) basado en predictores observados. Es determinista y corresponde a la imputación por regresión o imputación por media condicional.
2. Imputación Estocástica (Draw): Este método añade ruido aleatorio ($\epsilon$) al valor predicho, de modo que $\dot{y} = \hat{y} + \epsilon$. El ruido se extrae de la distribución residual del modelo de imputación. Este enfoque reconoce la incertidumbre inherente de los datos faltantes.

El estudio utiliza una configuración de simulación con poblaciones sintéticas que representan datos de "alta señal" ($R^2=0.8$) y "baja señal" ($R^2=0.2$). La ausencia de datos se introduce mediante dos mecanismos: Ausencia Completamente al Azar (MCAR) y Ausencia al Azar (MAR). El rendimiento de estos métodos se evalúa no solo por el MSE, sino por su impacto en parámetros posteriores ($\mu, \sigma, P90, \rho, \gamma, R^2$) en modelos de regresión donde la variable imputada sirve tanto como predictor como resultado.

Además, el artículo evalúa tres herramientas de software populares: missForest, softImpute y mice, para determinar si sus comportamientos predeterminados se alinean con los paradigmas predictivos o estocásticos.

Resultados Clave

• Sesgo en los Métodos Predictivos: El método "predict" reduce consistentemente la desviación estándar ($\sigma$) y la proporción de casos que superan el percentil 90 ($P90$). Por el contrario, infla las correlaciones ($\rho$), las pendientes de regresión ($\delta$) y la proporción de varianza explicada ($R^2$). Estos sesgos son más severos en escenarios de baja señal donde la relación entre variables es débil.
• Validez de los Métodos Estocásticos: El método "draw", que incorpora ruido, produce estimaciones para la varianza, la correlación y las pendientes que se alinean estrechamente con los parámetros poblacionales reales, eliminando efectivamente los sesgos sistemáticos introducidos por los métodos predictivos.
• La Paradoja del MSE: Si bien el método "draw" produce estimaciones posteriores sin sesgo, resulta en un MSE aproximadamente dos veces mayor que el del método "predict" ($MSE_{draw} \approx 2 \times MSE_{predict}$). Confiar únicamente en el MSE identificaría incorrectamente al método predictivo sesgado como superior.
• Evaluación de Software:
  • missForest se comporta de manera similar al método predictivo, introduciendo un sesgo significativo.
  • softImpute muestra resultados mixtos; funciona bien en la varianza en configuraciones de alta señal, pero exhibe una dispersión excesiva y un MSE alto en configuraciones de baja señal, mientras que aún sobreestima la varianza explicada.
  • mice (utilizando su marco bayesiano predeterminado) produce las estimaciones posteriores más precisas, preservando la variabilidad de los datos. El artículo señala un problema menor con $P90$ en mice al usar emparejamiento de medias predictivas, que puede resolverse cambiando a imputación normal.

Contribuciones Clave

1. Demostración de Sesgo Sistemático: El artículo proporciona evidencia empírica de que minimizar el MSE para la imputación distorsiona sistemáticamente las propiedades estadísticas posteriores, específicamente al comprimir la distribución de datos hacia la media condicional.
2. El Ruido como Solución: Propone y valida la adición de ruido (imputación estocástica) como un mecanismo simple y efectivo para restaurar la variabilidad natural de los datos y garantizar un análisis posterior sin sesgos.
3. Crítica a las Métricas de Evaluación: El trabajo desafía la dependencia de la comunidad de aprendizaje automático del MSE como la métrica principal para la calidad de la imputación, argumentando que prioriza la precisión puntual sobre la validez estadística de la distribución de los datos.
4. Evaluación Práctica de Herramientas: Ofrece un análisis comparativo de herramientas de imputación ampliamente utilizadas, destacando que muchos métodos populares de "caja negra" (como missForest) perpetúan inadvertidamente los sesgos de la imputación determinista.

Significado y Afirmaciones
El artículo argumenta que el objetivo de la imputación no debe ser recrear perfectamente los verdaderos valores faltantes (lo cual es imposible), sino facilitar análisis posteriores válidos e informativos. El autor afirma que "predecir valores faltantes" es solo una "buena idea" si el proceso de predicción abraza la adición de ruido para preservar la variabilidad de los datos.

El significado radica en cambiar el paradigma de la precisión (minimizar el MSE) a la validez (preservar la variabilidad). El artículo concluye que incorporar ruido es esencial para prevenir sesgos en las estimaciones de varianza, correlación y pendiente. Si bien reconoce que añadir ruido aumenta el MSE, el autor postula que este es un compromiso necesario para tener en cuenta el error irreducible inherente a los datos faltantes. El trabajo une el rigor estadístico con la utilidad práctica, sugiriendo que los enfoques estocásticos son superiores para manejar datos incompletos en escenarios que requieren inferencias confiables.