EmoTrack: Robust Depression Tracking from Counseling Transcripts across Session Regimes

Sulla base del documento fornito, ecco un riassunto tecnico dettagliato di EmoTrack.

Definizione del Problema

Il documento affronta la sfida di prevedere in modo robusto la gravità della depressione (misurata dal punteggio PHQ-8) a partire da trascrizioni di counseling basate sul testo attraverso diversi "regimi di sessione". I metodi esistenti presentano una limitazione a doppio senso:

1. Metodi basati sul fine-tuning: Sebbene possano sfruttare una supervisione ricca in contesti multi-sessione ricchi di dati, spesso generalizzano male quando i dati etichettati sono scarsi o quando il regime target cambia (ad esempio, passando da multi-sessione a singola sessione).
2. Metodi basati su prompt con LLM: Questi sono efficienti in termini di dati ma tipicamente trattano le trascrizioni in modo olistico. Mancano di meccanismi per apprendere evidenze a livello di turno o sfruttare efficacemente la continuità tra sessioni, fallendo spesso nel distinguere tra sintomi della sessione corrente e contesto storico.

Il problema centrale è costruire un sistema che performi bene nei contesti a singola sessione (dove è disponibile solo la trascrizione corrente) mantenendosi efficace nei contesti multi-sessione (dove le sessioni precedenti forniscono contesto), senza fare affidamento sulla concatenazione dell'intero storico che introduce rumore.

Metodologia: EmoTrack

Gli autori propongono EmoTrack, un framework ibrido e adattivo al regime che combina segnali clinici strutturati con embedding semantici. L'architettura è composta da quattro componenti principali:

1. Rappresentazione dell'Input:

   • Ramo delle Caratteristiche Cliniche: Un LLM (Qwen3.5) estrae 23 caratteristiche cliniche strutturate basate sullo schema AIDA (che coprono sintomi allineati al PHQ, pattern linguistici e distorsioni cognitive). Queste vengono normalizzate e tokenizzate.
   • Ramo del Dialogo: Un encoder di frasi congelato (Qwen3-Embedding-8B) genera embedding semantici a livello di turno esclusivamente per gli enunciati del cliente (i turni del counselor sono esclusi in quanto risultati meno informativi).
   • Il modello concatena queste due sequenze di token in una memoria della sessione corrente.

2. Backbone Encoder-Decoder:

   • Un encoder Transformer elabora i token concatenati per creare rappresentazioni contestualizzate.
   • Un decoder di query per i sintomi PHQ utilizza 8 vettori di query appresi (uno per ciascun sintomo PHQ-8) per incrociare l'attenzione sull'output dell'encoder. Ciò permette al modello di recuperare evidenze specifiche per i sintomi dall'input eterogeneo (caratteristiche cliniche + turni semantici) invece di comprimere l'intera trascrizione in un singolo vettore.

3. Obiettivo di Addestramento:

   • Il modello prevede punteggi di gravità per sintomo ($\hat{y}_j \in [0, 3]$) e il punteggio totale.
   • La funzione di perdita combina una perdita Huber sul punteggio totale aggregato con una perdita Huber ausiliaria sui singoli sintomi, pesata da $\lambda_{sym}$.

4. Memoria Cross-Sessione (Regime Multi-Sessione):

   • Invece di concatenare trascrizioni storiche complete, EmoTrack utilizza un modulo di memoria compatto per incorporare la sessione immediatamente precedente.
   • Percorso di Recupero: I turni del cliente della sessione precedente vengono compressi in una memoria a dimensione fissa utilizzando query di slot apprese e attenzione multi-testa.
   • Percorso di Riepilogo: Viene generato anche un riassunto grezzo della sessione precedente basato sulla media.
   • Aggiornamenti a Cancellazione (Gated Updates): Sia lo storico recuperato che il riepilogo vengono iniettati selettivamente nelle rappresentazioni dei sintomi correnti tramite aggiornamenti residui a cancellazione.
   • Dropout Storico: Durante l'addestramento, la memoria della sessione precedente viene rimossa casualmente (probabilità $p_{hist}$) per prevenire un'eccessiva dipendenza dallo storico e garantire robustezza negli scenari a singola sessione.

Contributi Chiave

1. Framework EmoTrack: Un modello pratico che integra segnali clinici strutturati, semantica a livello di turno e memoria compatta delle sessioni precedenti. È progettato per essere efficace sia nei regimi a singola sessione che in quelli multi-sessione.
2. Dataset LONGCOUNSEL-8: Un nuovo benchmark sintetico di counseling multi-sessione progettato per colmare il divario di valutazione. Presenta:
   • Traiettorie coerenti tra sessioni (5 visite per cliente).
   • Stati nascosti PHQ-8 prescritti che guidano la generazione del dialogo.
   • Supervisione standardizzata a livello di sessione PHQ-8.
   • Generazione di dialoghi realistici calibrata su dati di counseling reali (RealCBT) per garantire fedeltà.
3. Valutazione Completa: Gli autori valutano EmoTrack sia sul nuovo benchmark LONGCOUNSEL-8 che sul consolidato benchmark reale a singola sessione, DAIC-WOZ.

Risultati Sperimentali

• Singola Sessione (DAIC-WOZ): EmoTrack ottiene un Errore Assoluto Medio (MAE) di 2.44, rappresentando una riduzione relativa del 13.5% rispetto alla baseline più forte (AIDA, MAE 2.82).
• Multi-Sessione (LONGCOUNSEL-8): EmoTrack ottiene un MAE di 2.65, performando in modo competitivo con la baseline longitudinale più forte (Lau et al., MAE 2.67).
• Risultati di Ablazione:
  • Fonti di Input: La combinazione di caratteristiche cliniche estratte da LLM con embedding a livello di turno produce le prestazioni migliori; la rimozione di una delle due degrada i risultati.
  • Vista del Parlante: L'uso esclusivo dei turni del cliente supera l'uso dei turni del counselor o di entrambi, poiché le evidenze della depressione sono espresse principalmente dal cliente.
  • Memoria: Il meccanismo di memoria compatto migliora le prestazioni nelle sessioni successive (S2–S5) ma non è il motore principale nella prima sessione (S1), dove non esiste storico. La concatenazione diretta dello storico offre pochi benefici.
  • Architettura: Il decoder a query per i sintomi supera significativamente le teste medie standard, preservando evidenze specifiche per i sintomi.

Significato e Affermazioni

Il documento afferma che EmoTrack offre una soluzione pratica per il monitoraggio della depressione basato sul dialogo, robusta attraverso diversi regimi di dati. Spostandosi lontano dal prompting olistico degli LLM o dal puro fine-tuning, l'approccio ibrido bilancia con successo l'efficienza dei dati con la capacità di modellare il contesto longitudinale.

Gli autori sottolineano che:

• La robustezza è fondamentale: Il modello non fa affidamento su un singolo regime (singola vs multi-sessione) ma si adatta efficacemente a entrambi.
• Divario di Valutazione Colmato: LONGCOUNSEL-8 fornisce il primo benchmark controllato per valutare il monitoraggio longitudinale PHQ-8 con supervisione standardizzata, una capacità mancante nei dataset reali esistenti come DAIC-WOZ (solo singola sessione) o altri corpus sintetici (privi di etichette PHQ standardizzate).
• Utilità Clinica: Il sistema è posizionato come strumento per monitorare la gravità e segnalare sessioni ad alto rischio per la revisione umana, piuttosto che come sistema diagnostico autonomo.

Il documento mantiene una modestia riguardo alla sua applicabilità clinica, notando che la validazione clinica longitudinale reale rimane un lavoro futuro e che la valutazione corrente si basa su benchmark. Evidenzia limitazioni come la dipendenza da modelli a monte open-source e la necessità di ulteriori salvaguardie (ad esempio, stima dell'incertezza, privacy) prima del dispiegamento clinico.