EmoTrack: Robust Depression Tracking from Counseling Transcripts across Session Regimes

Basado en el documento proporcionado, aquí se presenta un resumen técnico detallado de EmoTrack.

Definición del Problema

El documento aborda el desafío de predecir de manera robusta la gravedad de la depresión (medida mediante la puntuación PHQ-8) a partir de transcripciones de asesoramiento basadas en texto en diferentes "regímenes de sesión". Los métodos existentes enfrentan una limitación de doble vía:

1. Métodos basados en ajuste fino: Aunque pueden aprovechar una supervisión rica en entornos con múltiples sesiones y abundancia de datos, a menudo generalizan mal cuando los datos etiquetados son escasos o cuando el régimen objetivo cambia (por ejemplo, al pasar de múltiples sesiones a una sola sesión).
2. Métodos basados en prompts de LLM: Estos son eficientes en datos, pero típicamente tratan las transcripciones de manera holística. Carecen de mecanismos para aprender evidencia a nivel de turno o aprovechar eficazmente la continuidad entre sesiones, fallando a menudo en distinguir entre los síntomas de la sesión actual y el contexto histórico.

El problema central es construir un sistema que funcione bien en entornos de una sola sesión (donde solo está disponible la transcripción actual) mientras permanece efectivo en entornos de múltiples sesiones (donde las sesiones anteriores proporcionan contexto), sin depender de la concatenación del historial completo, lo cual introduce ruido.

Metodología: EmoTrack

Los autores proponen EmoTrack, un marco híbrido y adaptativo al régimen que combina señales clínicas estructuradas con incrustaciones semánticas. La arquitectura consta de cuatro componentes principales:

1. Representación de Entrada:

   • Rama de Características Clínicas: Un LLM (Qwen3.5) extrae 23 características clínicas estructuradas basadas en el esquema AIDA (que cubren síntomas alineados con el PHQ, patrones lingüísticos y distorsiones cognitivas). Estas se normalizan y tokenizan.
   • Rama de Diálogo: Un codificador de oraciones congelado (Qwen3-Embedding-8B) genera incrustaciones semánticas a nivel de turno únicamente para los enunciados del cliente (los turnos del consejero se excluyen, ya que se encontró que eran menos informativos).
   • El modelo concatena estas dos secuencias de tokens en una memoria de la sesión actual.

2. Columna Vertebral Codificador-Decodificador:

   • Un codificador Transformer procesa los tokens concatenados para crear representaciones contextualizadas.
   • Un decodificador de consultas de síntomas PHQ utiliza 8 vectores de consulta aprendidos (uno para cada síntoma PHQ-8) para atender cruzadamente la salida del codificador. Esto permite que el modelo recupere evidencia específica de síntomas desde la entrada heterogénea (características clínicas + turnos semánticos) en lugar de comprimir toda la transcripción en un solo vector.

3. Objetivo de Entrenamiento:

   • El modelo predice puntuaciones de gravedad por síntoma ($\hat{y}_j \in [0, 3]$) y la puntuación total.
   • La función de pérdida combina una pérdida de Huber sobre la puntuación total agregada con una pérdida auxiliar de Huber sobre los síntomas individuales, ponderada por $\lambda_{sym}$.

4. Memoria entre Sesiones (Régimen de Múltiples Sesiones):

   • En lugar de concatenar transcripciones históricas completas, EmoTrack utiliza un módulo de memoria compacto para incorporar la sesión inmediatamente anterior.
   • Ruta de Recuperación: Los turnos del cliente de la sesión anterior se comprimen en una memoria de tamaño fijo utilizando consultas de ranura aprendidas y atención multi-cabeza.
   • Ruta de Resumen: También se genera un resumen grueso promediado de la sesión anterior.
   • Actualizaciones con Puerta: Tanto el historial recuperado como el resumen se inyectan selectivamente en las representaciones actuales de síntomas mediante actualizaciones residuales con puerta.
   • Eliminación de Historial: Durante el entrenamiento, la memoria de sesiones anteriores se elimina aleatoriamente (probabilidad $p_{hist}$) para evitar una dependencia excesiva del historial y garantizar la robustez en escenarios de una sola sesión.

Contribuciones Clave

1. Marco EmoTrack: Un modelo práctico que integra señales clínicas estructuradas, semántica a nivel de turno y memoria compacta de sesiones anteriores. Está diseñado para ser efectivo tanto en regímenes de una sola sesión como de múltiples sesiones.
2. Conjunto de Datos LONGCOUNSEL-8: Un nuevo punto de referencia sintético de asesoramiento con múltiples sesiones diseñado para llenar la brecha de evaluación. Presenta:
   • Trayectorias coherentes entre sesiones (5 visitas por cliente).
   • Estados ocultos PHQ-8 prescritos que impulsan la generación del diálogo.
   • Supervisión estandarizada a nivel de sesión PHQ-8.
   • Generación de diálogo realista calibrada contra datos de asesoramiento reales (RealCBT) para garantizar la fidelidad.
3. Evaluación Exhaustiva: Los autores evalúan EmoTrack tanto en el nuevo punto de referencia LONGCOUNSEL-8 como en el punto de referencia establecido del mundo real de una sola sesión, DAIC-WOZ.

Resultados Experimentales

• Una sola sesión (DAIC-WOZ): EmoTrack logra un Error Absoluto Medio (MAE) de 2.44, lo que representa una reducción relativa del 13.5% en comparación con la línea base más fuerte (AIDA, MAE 2.82).
• Múltiples sesiones (LONGCOUNSEL-8): EmoTrack logra un MAE de 2.65, desempeñándose de manera competitiva con la línea base longitudinal más fuerte (Lau et al., MAE 2.67).
• Hallazgos de Ablación:
  • Fuentes de Entrada: La combinación de características clínicas extraídas por LLM con incrustaciones a nivel de turno produce el mejor rendimiento; eliminar cualquiera de ellas degrada los resultados.
  • Vista del Hablante: El uso exclusivo de turnos del cliente supera el uso de turnos del consejero o de ambos, ya que la evidencia de depresión se expresa principalmente por el cliente.
  • Memoria: El mecanismo de memoria compacta mejora el rendimiento en sesiones posteriores (S2–S5), pero no es el motor principal en la primera sesión (S1), donde no existe historial. La concatenación directa del historial ofrece poco beneficio.
  • Arquitectura: El decodificador de consultas de síntomas supera significativamente a las cabezas promediadas estándar, preservando la evidencia específica de cada síntoma.

Significado y Afirmaciones

El documento afirma que EmoTrack ofrece una solución práctica para el seguimiento de la depresión basado en diálogos que es robusto a través de diferentes regímenes de datos. Al alejarse del prompting holístico de LLM o del ajuste fino puro, el enfoque híbrido equilibra con éxito la eficiencia de datos con la capacidad de modelar el contexto longitudinal.

Los autores enfatizan que:

• La robustez es clave: El modelo no depende de un solo régimen (una sola sesión vs. múltiples sesiones), sino que se adapta eficazmente a ambos.
• Brecha de Evaluación Llenada: LONGCOUNSEL-8 proporciona el primer punto de referencia controlado para evaluar el seguimiento longitudinal de PHQ-8 con supervisión estandarizada, una capacidad ausente en conjuntos de datos reales existentes como DAIC-WOZ (solo una sesión) u otros corpus sintéticos (que carecen de etiquetas PHQ estandarizadas).
• Utilidad Clínica: El sistema se posiciona como una herramienta para monitorear la gravedad y señalar sesiones de alto riesgo para revisión humana, en lugar de un sistema de diagnóstico autónomo.

El documento mantiene modestia respecto a su aplicabilidad clínica, señalando que la validación clínica longitudinal real sigue siendo trabajo futuro y que la evaluación actual se basa en puntos de referencia. Destaca limitaciones como la dependencia de modelos upstream de código abierto y la necesidad de mayores salvaguardas (por ejemplo, estimación de incertidumbre, privacidad) antes de su implementación clínica.