Outlier-Robust Multi-Group Gaussian Mixture Modeling with Flexible Group Reassignment

1. El Problema

En muchas aplicaciones estadísticas (medicina, ciencias ambientales, etc.), los datos vienen pre-particionados en grupos basados en conocimiento experto o etiquetas diagnósticas (ej. pacientes sanos vs. enfermos, tipos de terreno). Sin embargo, existen dos desafíos principales que los métodos tradicionales no abordan adecuadamente:

1. Incertidumbre en la asignación de grupos: Las etiquetas predefinidas pueden ser imprecisas. Los datos pueden mostrar transiciones suaves entre grupos (ej. enfermedades progresivas) o observaciones que, aunque etiquetadas en un grupo, encajan mejor estadísticamente en otro. Los métodos supervisados rígidos ignoran esta evidencia, mientras que los métodos no supervisados (clustering estándar) ignoran el conocimiento experto previo.
2. Valores atípicos celdas (Cellwise Outliers): Los datos multivariados a menudo contienen valores atípicos que afectan solo a ciertas variables (celdas) de una observación, no a toda la fila. Si no se detectan, estos valores distorsionan la estimación de la estructura de los grupos (medias y covarianzas), llevando a inferencias erróneas. La detección tradicional de valores atípicos suele marcar toda la observación como atípica (rowwise), perdiendo información válida de las otras variables.

El objetivo es desarrollar un modelo que integre la información de los grupos predefinidos, permita la reasignación flexible de observaciones basada en los datos y sea robusto frente a valores atípicos a nivel de celda.

---

2. Metodología

Los autores proponen el Modelo de Mezcla Gaussiana Multi-Grupo (MG-GMM) y su estimador robusto cellMG-GMM.

A. El Modelo MG-GMM

A diferencia de un GMM estándar donde cada observación se asume proveniente de una única distribución, el MG-GMM modela las observaciones de un grupo predefinido $g$ como una mezcla de todas las distribuciones de los $N$ grupos.

• Probabilidades de mezcla ($\pi_{g,k}$): Representan la probabilidad de que una observación del grupo $g$ provenga de la distribución del grupo $k$.
• Restricción de flexibilidad ($\alpha$): Se impone la restricción $\pi_{g,g} \geq \alpha \geq 0.5$.
  • Si $\alpha = 1$: No se permite reasignación (modelo supervisado rígido).
  • Si $0.5 \leq \alpha < 1$: Se permite reasignación flexible. A medida que $\alpha$ disminuye, el modelo permite que más observaciones se muevan a otros grupos si los datos lo respaldan.

B. Estimador Robusto: cellMG-GMM

Para manejar valores atípicos a nivel de celda, se utiliza un enfoque de verosimilitud observada penalizada:

1. Tratamiento de valores faltantes/atípicos: Los valores atípicos se tratan como datos faltantes. Se introduce una matriz binaria $W$ donde $w_{g,ij}=0$ indica que la celda $(i,j)$ del grupo $g$ es atípica y se excluye de la estimación de la verosimilitud.
2. Función Objetivo: Se minimiza una función que combina:
   • La verosimilitud observada (ignorando las celdas marcadas como atípicas).
   • Un término de penalización basado en el número de celdas marcadas como atípicas. Esto evita el sobre-ajuste (marcar demasiadas celdas como atípicas).
3. Regularización: Las matrices de covarianza se regularizan como una combinación convexa de la covarianza estimada y una matriz diagonal con escalas robustas univariadas, para evitar singularidades en dimensiones altas.

C. Algoritmo de Estimación

Se propone un algoritmo EM (Expectation-Maximization) modificado en dos pasos iterativos:

• Paso W: Actualiza la matriz de patrones de valores faltantes/atípicos ($W$) evaluando si marcar una celda como atípica mejora la verosimilitud penalizada.
• Paso EM: Actualiza los parámetros del modelo ($\pi, \mu, \Sigma$) dado el patrón de valores faltantes actual, utilizando la verosimilitud esperada y respetando las restricciones de reasignación ($\alpha$).

---

3. Contribuciones Clave

1. Nuevo Modelo Estadístico (MG-GMM): Es el primer modelo diseñado específicamente para investigar la alineación entre grupos definidos por expertos y agrupaciones inferidas estadísticamente, permitiendo transiciones suaves y reasignaciones basadas en evidencia de datos.
2. Robustez Celda a Celda: Introducen el estimador cellMG-GMM, que detecta valores atípicos a nivel de celda dentro de un contexto de mezcla gaussiana multi-grupo. Ofrece un tratamiento dual: las observaciones atípicas pueden ser reasignadas a un grupo mejor o marcadas como atípicas en todas las variables.
3. Teoría de Puntos de Ruptura (Breakdown Point): Desarrollan la teoría de robustez para el paradigma de contaminación celda a celda en modelos de mezcla. Demuestran que el estimador tiene buenas propiedades de punto de ruptura, garantizando que la estimación no colapse ante una cierta proporción de contaminación adversa.
4. Implementación Práctica: El método está disponible en el paquete R ssMRCD y se ha validado mediante simulaciones extensas y aplicaciones reales.

---

4. Resultados

Simulaciones

Se evaluó el rendimiento frente a seis métodos competidores (incluyendo GMMs robustos estándar, estimadores MCD celda a celda y métodos supervisados no robustos) en diversos escenarios (grupos equilibrados/desequilibrados, alta dimensionalidad, diferentes niveles de solapamiento).

• Precisión: El cellMG-GMM superó consistentemente a los benchmarks, especialmente en escenarios con medias de grupo variables y contaminación celda a celda.
• Detección de Atípicos: Logró un alto F1-score en la detección de celdas atípicas, superando a métodos como cellMCD y cellGMM cuando la estructura de los grupos no era coherente o cuando había transiciones entre grupos.
• Estabilidad: Mantuvo la estabilidad en estimaciones de covarianza incluso con alta dimensionalidad ($p > n$), donde otros métodos fallaron o colapsaron.

Aplicaciones Reales

1. Enfermedad de Alzheimer (Datos DARWIN):
   • Analizó datos de escritura manual de pacientes sanos y con Alzheimer.
   • El modelo identificó pacientes que, aunque diagnosticados (o no), mostraban características estadísticas del grupo opuesto, sugiriendo estados de transición temprana.
   • Detectó valores atípicos en variables de presión, revelando inhomogeneidades que podrían deberse a condiciones de medición o enfermedades no diagnosticadas.
2. Calidad del Vino (Datos UCI):
   • Comparó las calificaciones de expertos (baja, media, alta calidad) con las características fisicoquímicas.
   • El modelo reveló discrepancias: vinos con características químicas de "alta calidad" pero calificados bajos por expertos (y viceversa).
   • Identificó valores atípicos en cloruros y ácido cítrico que distorsionarían un análisis no robusto, permitiendo estimaciones más fiables de las distribuciones de calidad.
3. Datos Meteorológicos (Austria):
   • Reasignó estaciones meteorológicas basándose en patrones climáticos reales en lugar de solo en la geografía política/altitudinal inicial.
   • Detectó estaciones con valores atípicos en velocidad del viento debido a su exposición específica, mejorando la comprensión de los patrones climáticos regionales.

---

5. Significado e Impacto

Este trabajo cierra una brecha metodológica importante entre el aprendizaje supervisado (que ignora la incertidumbre de los datos) y el no supervisado (que ignora el conocimiento experto).

• Interpretabilidad: Proporciona una herramienta para diagnosticar por qué un dato no encaja en su grupo original: ¿es un error de medición (outlier), una transición de estado (reasignación) o una característica genuina de otro grupo?
• Robustez: Ofrece una solución rigurosa al problema de los valores atípicos celda a celda, que son comunes en datos del mundo real pero difíciles de manejar con métodos tradicionales.
• Versatilidad: Su aplicación en medicina, enología y meteorología demuestra su utilidad transversal para problemas donde las categorías no son binarias ni estáticas.

En resumen, el cellMG-GMM representa un avance significativo en el modelado de mezclas gaussianas, permitiendo un análisis más matizado, robusto y fiel a la complejidad de los datos heterogéneos.