SSLfmm: An R Package for Semi-Supervised Learning with Mixed Missingness

Resumen Técnico de "SSLfmm: Un paquete de R para el aprendizaje semi-supervisado con ausencia mixta de datos"

Formulación del Problema
El artículo aborda escenarios de aprendizaje semi-supervisado (SSL, por sus siglas en inglés) donde los vectores de características están completamente observados para todos los datos de entrenamiento, pero las etiquetas de clase están disponibles solo para un subconjunto. Un aspecto crítico, a menudo no modelado, en este escenario es el mecanismo que rige la disponibilidad de las etiquetas. Los procedimientos estándar de SSL suelen tratar las etiquetas faltantes como clases latentes desconocidas sin modelar el porqué de su ausencia. Sin embargo, los autores argumentan que el proceso de ausencia en sí mismo puede contener información relevante para la clasificación. Específicamente, el artículo distingue entre:

• Ausencia Completamente al Azar (MCAR): La disponibilidad de la etiqueta no está relacionada con las características observadas o la clase.
• Ausencia al Azar (MAR): La probabilidad de una etiqueta faltante depende de las características observadas (específicamente, la incertidumbre o entropía de la clasificación) pero no de la etiqueta faltante en sí misma.
• Ausencia Mixta: Un escenario donde una etiqueta faltante surge de un mecanismo MCAR o de un mecanismo MAR basado en la entropía. Crucialmente, la fuente de la ausencia (MCAR vs. MAR) puede ser observada (registrada en los datos) o latente (no observada, con solo disponible el indicador agregado de ausencia).

Metodología
Los autores proponen un marco basado en la verosimilitud utilizando modelos de mezclas finitas gaussianas donde la distribución de clases y el proceso de ausencia de etiquetas se modelan conjuntamente. La formulación estadística central involucra:

1. Modelo de Clase: Cada clase $i$ está asociada con una densidad gaussiana multivariante $f_i(y; \omega_i)$ con probabilidades a priori $\pi_i$.
2. Modelo de Ausencia:
   • Para el mecanismo MAR basado en la entropía, la probabilidad de una etiqueta faltante se modela mediante una función logística de la entropía de Shannon $e(y; \theta)$ de la observación: $q_j = \text{logit}^{-1}(\xi_0 + \xi_1 \log e(y_j; \theta))$, donde $\xi_1 > 0$.
   • Para el mecanismo mixto, la probabilidad de una etiqueta faltante es una mezcla de la probabilidad MCAR $\alpha$ y la probabilidad MAR $(1-\alpha)q_j$.
3. Estimación (Algoritmo ECM): Los parámetros se estiman utilizando un algoritmo de Esperanza-Maximización Condicional (ECM).
   • Paso E: Calcula las probabilidades a posteriori de la clase y reemplaza las indicadores de clase faltantes con sus expectativas condicionales.
   • Pasos C:
     • Si la fuente de la ausencia es observada, el algoritmo actualiza la probabilidad MCAR $\alpha$ y los parámetros $\xi$ del MAR por separado basándose en los indicadores de fuente conocidos, y luego actualiza los parámetros de la clase $\theta$.
     • Si la fuente de la ausencia es latente, el algoritmo trata el mecanismo específico (MCAR vs. MAR) para cada etiqueta faltante como una variable latente. Calcula la probabilidad a posteriori de que una etiqueta faltante surgiera del canal MCAR frente al canal MAR, y luego actualiza $\alpha$, $\xi$ y $\theta$ de forma iterativa.

El paquete de R SSLfmm
El artículo presenta el paquete de R SSLfmm, que implementa estos métodos. Características clave incluyen:

• Interfaz Unificada: Una única función fit_sslfmm() gestiona análisis de casos completos, MCAR, MAR basado en la entropía y análisis mixtos MCAR/MAR.
• Gestión de la Fuente: Soporta tanto indicator = "observed" (donde el usuario proporciona el indicador de la fuente de ausencia) como indicator = "latent" (donde la fuente se infiere).
• Funcionalidad: Incluye herramientas para el ajuste de modelos, predicción (clases, posteriores, entropía), evaluación del desempeño (exactitud, F1, pérdida de logaritmo, puntuación de Brier), simulación de datos con ausencia mixta y diagnósticos basados en la entropía.
• Robustez: Utiliza múltiples valores iniciales y optimización numérica acotada para manejar la no convexidad de la verosimilitud, particularmente para los modelos de fuente latente.

Resultados e Ilustraciones
El artículo valida el paquete a través de dos ilustraciones principales:

1. Simulación Reproducible: Una simulación con 1,000 observaciones y 31.9% de etiquetas faltantes (generadas mediante un mecanismo mixto MCAR/MAR) compara los ajustes de fuente observada y de fuente latente.
   • Ambas formulaciones lograron un rendimiento de clasificación similar en el subconjunto de etiquetas faltantes (Exactitud $\approx$ 0.806–0.809).
   • El modelo de fuente latente recuperó con éxito los parámetros generadores ($\alpha$, $\xi_0$, $\xi_1$) con una precisión razonable, aunque las estimaciones fueron ligeramente más variables que las del ajuste de fuente observada.
   • Los diagnósticos de entropía confirmaron que las observaciones generadas bajo el mecanismo MAR exhibían una mayor entropía de clasificación, consistente con el diseño del modelo.
2. Aplicación Semi-Sintética (Datos de Transfusión de Sangre): Utilizando un conjunto de datos real donde las etiquetas fueron eliminadas artificialmente para crear subconjuntos MCAR y MAR, los autores compararon los modelos MCAR, MAR y Mixto bajo supuestos de covarianzas iguales e desiguales.
   • El modelo Mixto superó consistentemente a los modelos puramente MCAR y puramente MAR en términos de exactitud de clasificación dura, exactitud balanceada y puntuación F1 macro en el subconjunto de etiquetas faltantes.
   • El modelo mixto estimó una probabilidad MCAR ($\alpha$) cercana al valor de construcción real (0.10).
   • Los diagnósticos de entropía mostraron que el subconjunto "MAR" (construido a partir de puntos difíciles de clasificar) presentaba, de hecho, una mayor entropía que los subconjuntos "MCAR" y "observado", validando la interpretabilidad del modelo ajustado.

Significancia y Reivindicaciones
Los autores posicionan a SSLfmm no como un motor de agrupamiento genérico, sino como una herramienta especializada que une el aprendizaje semi-supervisado basado en modelos y el modelado de datos faltantes basado en la verosimilitud.

• Contribución Distinta: A diferencia de los paquetes existentes (p. ej., mclust, Rmixmod) que se centran en las distribuciones de los componentes o manejan características faltantes, SSLfmm modela explícitamente el proceso estocástico de las etiquetas faltantes.
• Novedad: Es la primera implementación que soporta un mecanismo mixto MCAR/MAR donde la fuente de la ausencia puede ser observada o latente, utilizando algoritmos ECM distintos para cada caso.
• Utilidad Práctica: El paquete permite a los investigadores ajustar, comparar y diagnosticar diferentes supuestos sobre la ausencia de etiquetas dentro de un marco común.
• Alcance Modesto: Los autores reconocen las limitaciones: la implementación actual asume características totalmente observadas y distribuciones de clase condicionales gaussianas. Advierten que cuando la fuente de la ausencia es latente, los datos pueden contener información limitada para separar las contribuciones de MCAR y MAR, lo que requiere una interpretación cuidadosa de los parámetros ajustados junto con los diagnósticos. No pretenden que el modelo mixto siempre dominará, sino que proporciona un marco flexible para estudiar cómo los supuestos sobre la disponibilidad de etiquetas afectan la estimación y la predicción.