Model Assisted Data Integration: An unbiased sampling strategy to use nonprobability data

Título: Integración de Datos Asistida por Modelos (MADI): Una estrategia de muestreo no sesgada para utilizar datos no probabilísticos

1. El Problema

Las oficinas estadísticas nacionales (NSO) enfrentan un desafío creciente: la necesidad de reducir costos y la carga de respuesta para los participantes, aprovechando la abundancia de datos no probabilísticos (NPD) o "datos encontrados" (ej. registros administrativos, datos de tarjetas de crédito, encuestas voluntarias). Sin embargo, el uso exclusivo de estos datos conlleva riesgos severos de sesgo de selección, ya que carecen de mecanismos de selección conocidos y probabilidades de inclusión definidas.

Las metodologías existentes para integrar NPD con muestras probabilísticas (como estimadores de imputación, propensión de respuesta o calibración de pesos) a menudo dependen de supuestos difíciles de verificar en la práctica, como el "ausente al azar" (MAR). Además, los estimadores tradicionales asistidos por modelos (como GREG) sufren inestabilidad, sesgos o fallos computacionales cuando el tamaño de la muestra probabilística es pequeño en relación con el número de variables auxiliares, lo cual es común en entornos de producción estadística industrializada.

2. Metodología Propuesta: MADI

Los autores proponen una nueva estrategia de muestreo y estimación llamada Integración de Datos Asistida por Modelos (MADI - Model Assisted Data Integration). Esta estrategia se basa en extender el estimador de Integración de Datos (DI) de Kim y Tam (2021).

Componentes clave del diseño:

• Partición de la Población: La población $U$ se divide en dos subconjuntos:
  • $A$: Un subconjunto donde el valor de la variable de estudio ($y$) es conocido para todos los individuos (proveniente de NPD o registros completos), pero sin probabilidades de inclusión conocidas.
  • $B$: El complemento de $A$ en $U$, donde $y$ es desconocido.
• Muestreo: Se extrae una muestra probabilística ($s_B$) exclusivamente del subconjunto $B$. Esto asegura que la muestra cubra a los individuos no capturados por el NPD.
• El Estimador: El estimador MADI combina tres componentes:
  1. La suma total de $y$ en el conjunto $A$ (conocida).
  2. Una predicción del total de $y$ en $B$ basada en un modelo de aprendizaje automático ($\mu$) entrenado sobre los datos de $A$ utilizando variables auxiliares ($x$).
  3. Un término de corrección basado en una estimación por diferencias utilizando la muestra probabilística $s_B$. Este término estima el error del modelo ($e_i = y_i - \mu(x_i)$) en la población $B$.

Fórmula del estimador:
$$\hat{t}_{y, MADI} = \sum_{i \in A} y_i + \sum_{i \in B} \mu(x_i, A) + \sum_{i \in s_B} \frac{y_i - \mu(x_i, A)}{\pi_{iB}}$$

Propiedades Teóricas:

• Insesgado de Diseño: Al igual que el estimador por diferencias clásico, el modelo $\mu$ se entrena en $A$ y se evalúa en $B$ (fuera de la muestra probabilística). Esto garantiza que el estimador sea insesgado independientemente de la calidad del modelo, siempre que el modelo no dependa de la muestra probabilística para su entrenamiento.
• Varianza Insesgada: Se propone un estimador de varianza insesgado basado en la teoría de muestreo por diseño.
• Flexibilidad de Modelos: Permite el uso de cualquier modelo de aprendizaje automático (árboles de decisión, bosques aleatorios, redes neuronales, etc.) sin riesgo de sobreajuste (overfitting) que genere sesgo, ya que el error del modelo se corrige mediante la muestra probabilística.

3. Contribuciones Clave

• Nueva Estrategia de Muestreo: A diferencia de trabajos anteriores que solo proponen estimadores para muestras existentes, MADI define un diseño de muestreo específico (muestrear solo de $B$) optimizado para la integración de NPD.
• Robustez ante Sesgos de Selección: El método no requiere el supuesto de "ausente al azar" (MAR) en los datos no probabilísticos. Funciona incluso cuando la selección en $A$ está fuertemente sesgada respecto a la variable de estudio.
• Reducción de la Carga de Muestreo: Demuestra que es posible obtener estimaciones precisas con tamaños de muestra probabilística significativamente más pequeños que los requeridos por métodos tradicionales (HT o GREG), reduciendo costos y carga de respuesta.
• Viabilidad Industrial: El enfoque es compatible con los ciclos de producción de las oficinas estadísticas, permitiendo el uso de modelos complejos (como Random Forest) que normalmente serían inviables con muestras pequeñas debido a problemas de singularidad en matrices o inestabilidad de pesos.

4. Resultados Empíricos (Simulaciones)

Los autores utilizaron datos reales del registro de ingresos y tributación de Suecia (2021) para realizar dos simulaciones:

• Simulación 1 (Comparación de Rendimiento):

  • Se comparó MADI contra estimadores tradicionales (HT, GREG) y variantes de integración de datos (DI) bajo diferentes tamaños de muestra.
  • Hallazgo: El estimador MADI con Bosque Aleatorio (RF) obtuvo el Error Cuadrático Medio (RMSE) más bajo en todos los tamaños de muestra, superando consistentemente a GREG y HT.
  • Sesgo: MADI demostró ser insesgado (cerca de cero) incluso con muestras pequeñas, mientras que los modelos "naïve" (sin corrección de diseño) mostraron sesgos significativos.
  • Cobertura: Los intervalos de confianza de MADI mantuvieron una cobertura cercana al 95%, validando la estimación de varianza propuesta.

• Simulación 2 (Tamaño de Muestra para una CV dada):

  • Se calculó el tamaño de muestra necesario para alcanzar un coeficiente de variación (CV) del 1% bajo diversos escenarios de sesgo de selección en el NPD.
  • Hallazgo: MADI requirió tamaños de muestra drásticamente menores que los métodos tradicionales. En muchos escenarios, MADI necesitó menos de 100 unidades para alcanzar la precisión que requería GREG con 269 unidades o HT con 3044 unidades.
  • Incluso en casos de sesgo de selección extremo (donde el NPD solo contenía valores muy altos o muy bajos), MADI mantuvo su eficiencia superior o fue equivalente a los métodos tradicionales.

5. Significado e Implicaciones

El artículo presenta un avance metodológico crucial para la estadística oficial moderna:

1. Seguridad Teórica: Ofrece una vía segura para utilizar grandes volúmenes de datos no probabilísticos sin sacrificar la propiedad de insesgamiento, algo que los métodos actuales no garantizan sin supuestos fuertes.
2. Eficiencia Operativa: Permite a las oficinas estadísticas reducir drásticamente el tamaño de sus encuestas probabilísticas (y por tanto, los costos y la carga de respuesta), utilizando los datos administrativos o de registros como base principal y la encuesta solo para corregir el sesgo del modelo.
3. Adaptabilidad Tecnológica: Facilita la adopción de técnicas avanzadas de aprendizaje automático en la producción estadística, resolviendo el problema de la inestabilidad en muestras pequeñas mediante el diseño de muestreo adecuado.

En conclusión, MADI representa un cambio de paradigma hacia una integración de datos más robusta, permitiendo a las agencias estadísticas aprovechar la era de los "big data" manteniendo la rigurosidad y la confianza en las estimaciones oficiales.