Resumen Técnico: Aprendizaje Contrastivo de Auto-Aumentación para el Reconocimiento de Actividad Humana basado en Wearables

Declaración del Problema

El Reconocimiento de Actividad Humana (HAR) mediante sensores portátiles (p. ej., IMUs) depende tradicionalmente del aprendizaje supervisado, lo que conlleva una pesada carga de anotación manual y carece de robustez cuando se aplica a nuevas tareas, tipos de sensores o posiciones. El aprendizaje autosupervisado (SSL), particularmente el Aprendizaje Contrastivo (CL), ha emergido como una alternativa de alto rendimiento para aprender representaciones sin etiquetas. Sin embargo, los enfoques actuales de CL enfrentan un cuello de botella crítico: dependen fuertemente de estrategias de aumentación de datos manuales para construir pares de muestras positivas.

En el contexto del HAR con wearables, las señales de los sensores poseen una información semántica baja en comparación con las imágenes. Por consiguiente, la selección de estrategias de aumentación efectivas (p. ej., jittering, escalado, permutación) no es intuitiva y depende altamente de la tarea. La estrategia óptima varía según el número de sensores, las tasas de muestreo y las modalidades, lo que hace que los métodos de CL existentes carezcan de generalizabilidad y flexibilidad. Existe la necesidad de un método de extremo a extremo que elimine la carga manual de diseñar estrategias de aumentación para datos de sensores con baja semántica.

Metodología: AutoCL

Los autores proponen AutoCL, un marco de aprendizaje contrastivo de auto-aumentación de extremo a extremo diseñado específicamente para el HAR basado en wearables. La innovación central es un generador embebido dentro de la red que aprende a producir vistas aumentadas directamente a partir de los datos, en lugar de depender de transformaciones manuales predefinidas.

Arquitectura

AutoCL utiliza una arquitectura de red siamesa con un backbone compartido y un generador embebido:

1. Codificador ($f_\theta$) y Proyector ($p_\theta$): Una Red Convolucional Totalmente Convolucional (FCN) de 3 capas sirve como backbone para extraer incrustaciones de características (embeddings) de los datos de series temporales de los sensores brutos. Un Perceptrón Multicapa (MLP) proyecta estas incrustaciones en un espacio latente.
2. Generador ($g_\xi$): A diferencia del CL estándar donde la aumentación se aplica a las entradas brutas, el generador de AutoCL toma las incrustaciones de características ($y_\theta$) del backbone como entrada. Esta elección de diseño está motivada por la necesidad de reducir el impacto del ruido y la información redundante inherente a las señales de sensores brutos. El generador utiliza una Unidad Recurrente de Compuerta (BiGRU) bidireccional de 3 capas seguida de una capa de convolución de grupo 1-D para producir una muestra auto-aumentada ($x'_{\theta, \xi}$).
3. Objetivo de Entrenamiento: El modelo maximiza el acuerdo de par entre la proyección de la muestra original y la proyección de la muestra auto-aumentada utilizando la pérdida NT-Xent.

Estrategias Técnicas Clave

Para asegurar que el generador aprenda aumentaciones significativas en lugar de colapsar hacia un mapeo de identidad (lo que reduciría la dificultad contrastiva), los autores introducen dos mecanismos específicos:

• Reducción de Correlación: Se añade un término de regularización a la función de pérdida para maximizar la diversidad entre las muestras originales y las aumentadas. Esto evita que el generador simplemente copie la entrada (aproximando un auto-encoder) y fomenta el aprendizaje de variaciones distintas y semánticamente consistentes.
• Stop-Gradient (Parada de Gradiente): Se aplica una operación de stop-gradient a la proyección de la muestra original ($y_\theta$) durante la actualización del generador. Esto asegura que el generador aprenda a aumentar basándose en la representación de características actual sin desestabilizar la dinámica de entrenamiento del codificador mediante bucles de retropropagación.

Contribuciones Clave

1. Primera Auto-Aumentación de Extremo a Extremo para Wearable HAR: El artículo presenta el primer estudio que realiza aprendizaje contrastivo de auto-aumentación de extremo a extremo para señales de sensores portátiles, eliminando la necesidad de construir manualmente las estrategias de aumentación.
2. Diseño de Arquitectura Novedoso: Los autores diseñan un marco donde un generador aprende la auto-aumentación a partir de incrustaciones de características latentes en lugar de datos brutos. Se demuestra empíricamente que este enfoque es superior al de generar aumentaciones directamente desde las señales brutas, ya que filtra el ruido y la redundancia.
3. Aprendizaje de Representación Mejorado: La integración de las estrategias de stop-gradient y reducción de correlación se propone para mejorar las capacidades de aprendizaje de representación del codificador, evitando el sobreajuste y asegurando que la tarea contrastiva siga siendo desafiante.
4. Flexibilidad Basada en Datos: El estudio demuestra que el espacio de operaciones de aumentación basadas en datos aprendidas por el modelo es mucho más expansivo que las estrategias definidas por humanos, ofreciendo una mejor adaptabilidad a diversos escenarios de HAR.

Resultados Experimentales

El método AutoCL fue evaluado en cuatro conjuntos de datos de HAR ampliamente utilizados: PAMAP2, UCIHAR, UTD-MHAD y DSADS. La evaluación siguió un protocolo estándar de SSL: pre-entrenamiento en datos no etiquetados seguido de clasificación de pocos disparos (fine-tuning con el 20% de datos etiquetados).

• Rendimiento: AutoCL logró un rendimiento de Estado del Arte (SOTA) en los cuatro conjuntos de datos, superando significativamente a las líneas base de CL existentes (SimCLR, SimSiam, BYOL, NNCLR) que dependían de diversas combinaciones de estrategias de aumentación manual (Jittering, Scaling, Permutation).
  • Ejemplo: En el conjunto de datos DSADS, AutoCL alcanzó un 96.05% de precisión, superando a la mejor línea base de aumentación manual (BYOL con S+J) que alcanzó el 95.77%.
• Estudios de Ablación: Eliminar las estrategias de Stop-Gradient (SG) o Reducción de Correlación (CR) resultó en caídas de rendimiento, confirmando su necesidad para la estabilidad y efectividad del proceso de auto-aumentación.
• Estudio Empírico de Arquitectura: Comparar AutoCL (basado en incrustaciones de características) contra una variante que genera aumentaciones desde datos brutos (AutoCL-D) mostró que el enfoque basado en embeddings (AutoCL-E) produjo consistentemente mejores resultados, particularmente en conjuntos de datos con alto ruido o variaciones de actividad continua.
• Visualización: Las visualizaciones de t-SNE de las representaciones aprendidas mostraron que AutoCL produce clústeres más discernibles y bien separados en comparación con las líneas base. Además, la visualización de las muestras generadas reveló que el modelo aprende operaciones diversas (escalado, reversión, recorte) que van más allá de las simples reglas definidas por humanos.

Significado y Reivindicaciones

El artículo afirma que AutoCL aborda una limitación fundamental en la aplicación del aprendizaje contrastivo a la tecnología wearable HAR: la dependencia de estrategias de aumentación manuales y no generalizables. Al desplazar el proceso de aumentación a un componente aprendible y basado en datos que opera en el espacio latente, el método:

• Reduce la carga manual de diseñar pipelines de aumentación para datos de sensores con baja semántica.
• Mejora la robustez al aprender a aumentar basándose en representaciones de características, mitigando así el ruido del sensor.
• Demuestra una superior generalizabilidad, ya que la estrategia de aumentación aprendida se adapta a las características específicas del conjunto de datos sin intervención humana.

Los autores concluyen que, para datos de baja semántica, un enfoque de aumentación automatizado y basado en datos posee un mayor potencial de consistencia semántica y rendimiento que las estrategias implementadas manualmente, ofreciendo una dirección prometedora para futuros modelos genéricos en computación wearable.