Bias-Reduced Estimation of Finite Mixtures: An Application to Latent Group Structures in Panel Data

Resumen Técnico: Estimación de Mezclas Finitas con Reducción de Sesgo

Planteamiento del Problema
Los modelos de mezclas finitas se emplean ampliamente en econometría para capturar la heterogeneidad no observada, modelando los datos como una combinación convexa de densidades paramétricas distintas. Si bien se sabe que la Estimación de Máxima Verosimilitud (MLE) estándar es asintóticamente consistente y eficiente bajo identificabilidad genérica, este documento demuestra que la MLE de mezclas finitas sufre un sesgo sustancial en muestras finitas. El sesgo surge principalmente de la influencia de los "valores atípicos naturales" (natural outliers): observaciones generadas por las colas de las densidades de los componentes con soporte no acotado o de gran extensión. Cuando las densidades de los componentes se traslapan significativamente, el máximo global de la función de verosimilitud de la mezcla puede desplazarse de los valores reales de los parámetros, causando que el estimador trate estas observaciones de la cola como una forma de $\epsilon$-contaminación. En consecuencia, los procedimientos de MLE estándar, incluyendo el algoritmo de Esperanza-Maximización (EM), pueden producir estimaciones severamente sesgadas para los pesos de mezcla y los parámetros de los componentes en muestras finitas, particularmente cuando el tamaño de la muestra es inferior a un umbral dependiente de los datos ($N^*$) determinado por el grado de traslape entre los componentes.

Metodología
El documento propone una estrategia de estimación de reducción de sesgo basada en la maximización de la función de Verosimilitud de Mezcla de Clasificación (C-ML) en lugar de la verosimilitud de mezcla estándar. La función C-ML corresponde a la verosimilitud de datos completos, asumiendo que las pertenencias a los grupos son conocidas. El núcleo del método propuesto es el algoritmo C-EM, que itera entre:

1. El Paso de Clasificación (C-step): Asignar cada observación a una densidad de componente específica utilizando un clasificador consistente.
2. El Paso de Maximización (M-step): Maximizar la log-verosimilitud de las observaciones asignadas condicional a la clasificación actual.

El documento establece condiciones teóricas bajo las cuales un clasificador es consistente (la tasa de clasificación errónea converge a cero) y uniformemente consistente (la probabilidad de clasificar erróneamente al menos una observación converge a cero). Específicamente, destaca el clasificador de distancia de Mahalanobis como una opción no paramétrica robusta. Los resultados teóricos (Teoremas 1 y 2) muestran que si la dimensión del vector de resultados o el número de covariables ($p$) crece a un ritmo más rápido que el número de grupos ($G$) y es suficiente en relación con el tamaño de la muestra ($N$), el clasificador de distancia de Mahalanobis logra la consistencia uniforme. Bajo estas condiciones, la maximización de la función C-ML produce estimaciones que son consistentes, asintóticamente normales y alcanzan la eficiencia de oráculo (igualando la eficiencia de la MLE de datos completos).

Contribuciones Clave

1. Identificación del Sesgo en Muestras Finitas: El documento proporciona una demostración teórica y basada en simulaciones de que la MLE estándar de mezclas finitas puede producir grandes sesgos en muestras finitas debido a la naturaleza multimodal de la función de verosimilitud y la influencia de las observaciones de la cola. Demuestra que el sesgo no necesariamente disminuye a medida que $N$ aumenta si $N$ permanece por debajo del umbral crítico $N^*$, el cual depende del traslape entre los componentes.
2. Estrategia de Estimación de Reducción de Sesgo: Introduce un marco de dos pasos donde se utiliza un clasificador consistente para asignar las observaciones a los grupos antes de la estimación de parámetros. El documento prueba que, si el clasificador es consistente, el algoritmo C-EM resultante produce estimaciones consistentes y asintóticamente eficientes, reduciendo efectivamente el sesgo de muestra finita inherente a la MLE estándar.
3. Garantías Teóricas: El documento deriva condiciones para la consistencia del clasificador de distancia de Mahalanobis y del estimador resultante, mostrando que la eficiencia de oráculo es alcanzable cuando el número de covariables crece suficientemente rápido en relación con la muestra y el número de grupos.
4. Aplicación Empírica: La metodología se aplica a estructuras de panel de grupos latentes en datos de salud, utilizando un Modelo de Dos Partes de Grupo Latente (LGTPM) para modelar los gastos de salud individuales.

Resultados

• Simulaciones de Monte Carlo:

  • Las simulaciones con mezclas de distribuciones Normal, Poisson y Exponencial confirman que la MLE estándar exhibe un pronunciado sesgo en muestras finitas, el cual aumenta a medida que aumenta el traslape entre los componentes.
  • El algoritmo C-EM propuesto, equipado con un clasificador consistente (específicamente el clasificador de distancia de Mahalanobis o el de densidad conjunta), supera significativamente a la MLE estándar en muestras finitas.
  • A medida que el número de covariables ($p$) aumenta, la tasa de clasificación errónea del algoritmo C-EM se aproxima a cero, lo que conduce a una reducción drástica del sesgo y del Error Cuadrático Medio (MSE) para todos los parámetros, incluyendo los pesos de mezcla y los términos de varianza.
  • Las simulaciones indican que el algoritmo C-EM alcanza la eficiencia de oráculo cuando $p$ es suficientemente grande en relación con $N$ y $G$.

• Aplicación Empírica (Gastos de Salud):

  • Utilizando datos administrativos de Quebec (1,330 individuos durante 7 periodos), el documento modela los gastos de salud mediante un modelo de dos partes de grupo latente.
  • El algoritmo C-EM identificó cinco grupos latentes distintos caracterizados por niveles variables de fragilidad (medidos por la Evaluación de Riesgo de Ancianos y los índices de Charlson) y la continuidad del cuidado.
  • En términos de rendimiento predictivo, el enfoque C-EM redujo el Error Cuadrático Medio (RMSE) fuera de la muestra en aproximadamente un 17.6% en comparación con los mejores resultados obtenidos mediante procedimientos EM estándar.
  • Comparado con un modelo de dos partes de un solo componente, el enfoque propuesto redujo el error de predicción en un 56.6%.
  • Los grupos estimados revelaron transiciones persistentes entre estados "robustos" y "frágiles", con la matriz de transición mostrando que la robustez es más persistente que la fragilidad.

Significancia y Reivindicaciones
El documento sostiene que la estrategia de estimación propuesta ofrece una solución práctica al problema del sesgo de muestra finita en modelos de mezclas finitas sin imponer supuestos restrictivos sobre las pertenencias a los grupos a través del tiempo o de las unidades (a diferencia de parte de la literatura de grupos latentes de panel que requiere pertenencias a grupos fijas). Al desacoplar el paso de clasificación de la maximización de la verosimilitud y utilizar un clasificador consistente, el método permite la recuperación de las pertenencias reales a los grupos y estimaciones de parámetros más precisas en escenarios donde la MLE estándar falla debido al traslape de los componentes.

Los autores enfatizan que, si bien el algoritmo EM es una herramienta estándar para maximizar las verosimilitudes de mezcla, es susceptible de los sesgos descritos. El algoritmo C-EM, combinado con un clasificador consistente (como el clasificador de distancia de Mahalanobis), proporciona una alternativa más robusta que ofrece estimaciones menos sesgadas y más estables, particularmente en contextos de datos de panel con múltiples covariables. El documento sugiere que, para modelos de mezclas finitas con pertenencias a grupos no restringidas, los investigadores deberían preferir el algoritmo C-EM sobre la MLE estándar, utilizando la mayor cantidad posible de covariables relevantes para asegurar la consistencia del clasificador.