Resumen Técnico: Aprendizaje de Representación Jerárquica Auto-supervisada para la Detección de la Depresión en el Habla

Planteamiento del Problema

La detección de la depresión basada en el habla (SDD, por sus siglas en inglés) busca proporcionar una alternativa no invasiva y escalable a las evaluaciones clínicas tradicionales. Aunque la depresión se manifiesta en el habla a través de características sutiles, heterogéneas y temporalmente dispersas (por ejemplo, reducción de la variabilidad del tono, articulación más lenta, contenido semántico negativo), los métodos automatizados actuales luchan por capturar estos indicadores robustos de manera efectiva.

Los enfoques actuales enfrentan dos limitaciones primarias:

1. Utilización Inadecuada de Características: La mayoría de los métodos dependen de modelos de aprendizaje auto-supervisado (SSL) (por ejemplo, Wav2Vec 2.0, HuBERT, WavLM), pero extraen características de una sola capa. Esta práctica trata las capas de SSL como intercambiables, pasando por alto la naturaleza complementaria de los patrones acústicos de bajo nivel (capas superficiales) y la información semántica de alto nivel (capas profundas).
2. Dispersión Temporal: Las señales relacionadas con la depresión se distribuyen de forma irregular en el tiempo. La supervisión estándar a nivel de cuadro (frame) o de enunciado suele fallar al modelar esta estructura temporal dispersa sin requerir anotaciones costosas a nivel de cuadro.

Metodología: HAREN-CTC

Los autores proponen HAREN-CTC, un marco diseñado para modelar explícitamente las interacciones entre las representaciones acústicas y semánticas dentro de un enunciado. La arquitectura consta de tres componentes principales:

1. Codificador de Representación Adaptativa Jerárquica (HAREN)

Este módulo estructura las representaciones de SSL multicapa en distintos subespacios y las fusiona de manera asimétrica.

• Agrupación Suave Jerárquica Adaptativa (Hierarchical Adaptive Soft Grouping): En lugar de seleccionar manualmente una sola capa, el modelo utiliza una matriz de asignación aprendible para particionar las capas de SSL en subespacios "superficiales" (enfocados en lo acústico) y "profundos" (ricos en semántica). Esto se inicializa con un prior suave (decaimiento exponencial) pero permanece totalmente aprendible, permitiendo que el modelo pondere adaptativamente las capas según su contribución a la detección de la depresión.
• Fusión de Atención Cruzada Condicionada por Semántica: El modelo emplea un mecanismo de atención cruzada asimétrica donde las representaciones semánticas profundas actúan como consultas (queries), y las representaciones acústicas superficiales actúan como claves (keys) y valores (values). Este diseño obliga al modelo a interpretar las señales acústicas finas (por ejemplo, prosodia, fluidez) dentro del contexto del significado semántico, en lugar de fusionarlas indiscriminadamente.

2. Generación de Objetivos de Pseudo-Tokens

Para permitir la supervisión temporal sin etiquetas a nivel de cuadro, el marco genera pseudo-etiquetas:

• Las representaciones ocultas a nivel de cuadro de un modelo SSL preentrenado (específicamente la capa 12 de HuBERT) se agrupan mediante $k$-means por cada enunciado.
• Los duplicados consecutivos se colapsan para formar una secuencia discreta compacta.
• Se aplica un desplazamiento condicional de clase (class-conditional offsetting): los enunciados no depresivos utilizan etiquetas $\{0, \dots, k-1\}$, mientras que los depresivos utilizan $\{k, \dots, 2k-1\}$. Esto asegura la separación en el espacio de objetivos, aumentado por un símbolo de vacío (blank), creando un vocabulario de $2k+1$ símbolos.

3. Objetivo de Optimización

El modelo se entrena con una función de pérdida de doble objetivo:

• Objetivo Primario: Clasificación binaria a nivel de enunciado utilizando la pérdida de Entropía Cruzada Binaria (BCE).
• Objetivo Auxiliar: Pérdida de Clasificación Temporalmente Conectada (CTC). Esto actúa como un regularizador de la estructura temporal, alentando al modelo a organizar las características relacionadas con la depresión en eventos temporales estables sin necesidad de anotaciones explícitas a nivel de cuadro. La pérdida total es $L = L_{BCE} + \lambda L_{CTC}$.

Contribuciones Clave

1. Modelado Jerárquico: El artículo introduce un enfoque principista para desentrelazar y realinear la información acústica y semántica de los modelos SSL, yendo más allá de la extracción de características de una sola capa para modelar sus interacciones entre niveles.
2. Fusión Asimétrica: Al utilizar las representaciones semánticas para consultar las características acústicas, el marco captura cómo los patrones acústicos se manifiestan de manera diferente dependiendo del contexto semántico, abordando la heterogeneidad del habla depresiva.
3. Supervisión Temporal Débil: La integración de CTC con la generación de pseudo-tokens permite al modelo aprender estructuras temporales de señales depresivas dispersas sin la necesidad de anotaciones laboriosas a nivel de cuadro.

Resultados Experimentales

El marco fue evaluado en dos conjuntos de datos de referencia: DAIC-WOZ (Inglés) y MODMA (Mandarín).

Evaluación del Límite Superior de Rendimiento (Upper-Bound)

Utilizando divisiones oficiales fijas (protocolo AVEC 2017 para DAIC-WOZ):

• DAIC-WOZ: HAREN-CTC alcanzó una puntuación Macro F1 de 0.81, superando a las líneas base como DepAudioNet (0.61), SpeechFormer (0.69) y DMPF (0.80).
• MODMA: El modelo alcanzó un Macro F1 de 0.82, superando a la mejor línea base (DMPF con 0.76).

Evaluación de Generalización

Utilizando una validación cruzada de 5 pliegues estratificada por sujeto rigurosa (repetida a través de 5 semillas) para evaluar la robustez:

• DAIC-WOZ: HAREN-CTC alcanzó un Macro F1 de 0.576, superando significativamente a DepAudioNet (0.533) y SpeechFormer (0.533). Las pruebas estadísticas (pruebas t pareadas y bootstrap) confirmaron mejoras significativas en la Precisión Macro y el AUC.
• MODMA: El modelo alcanzó un Macro F1 de 0.644, comparado con el 0.557 de DepAudioNet.
• Observación: Aunque el rendimiento cayó del límite superior a la configuración de generalización (un desafío común en SDD), HAREN-CTC mantuvo una estabilidad superior y una menor varianza en comparación con las líneas base, lo que sugiere una mejor mitigación del sobreajuste a las características específicas de cada sujeto.

Estudios de Ablación

• Importancia de los Componentes: Eliminar el módulo HAREN causó una caída significativa en el rendimiento (por ejemplo, de 0.58 a 0.50 en la generalización en DAIC-WOZ), confirmando la necesidad del desentrelazamiento jerárquico. Eliminar la rama CTC también redujo el rendimiento, validando la utilidad de la regularización temporal.
• Sensibilidad de Capas: Las líneas base de una sola capa mostraron una alta varianza (Macro F1 variando entre 0.38 y 0.70 dependiendo de la capa), mientras que el modelo completo HAREN-CTC superó consistentemente a la mejor capa individual, demostrando que ninguna capa única codifica información suficiente.

Significancia y Reivindicaciones

El artículo afirma que HAREN-CTC ofrece un enfoque más objetivo y escalable para la evaluación de la depresión al reflejar mejor cómo las características depresivas se manifiestan en el habla natural. Los autores sostienen que:

• La Interacción Jerárquica es Crítica: Las señales relacionadas con la depresión no se limitan a los dominios acústico o semántico, sino que surgen de su interacción. Modelar explícitamente esta interacción produce representaciones más robustas que la simple selección o fusión de características.
• Robustez a la Variabilidad: El marco demuestra una mejor generalización a través de diferentes idiomas (Inglés vs. Mandarín) y estilos conversacionales, lo que sugiere que captura patrones relevantes para la depresión que son invariantes en lugar de sesgos específicos de un conjunto de datos.
• Eficiencia: El uso de pseudo-etiquetas y supervisión auxiliar de CTC permite un entrenamiento efectivo sin el costo prohibitivo de la anotación a nivel de cuadro, lo que hace que el enfoque sea más práctico para el despliegue en el mundo real.

Los autores concluyen que, si bien el modelo funciona bien con datos limitados, el trabajo futuro podría explorar estrategias de aumento de datos y extender el modelado desde el nivel de enunciado hacia interacciones de diálogo/sesión de contexto largo para capturar trayectorias emocionales.