EmoTrack: Robust Depression Tracking from Counseling Transcripts across Session Regimes

Op basis van de verstrekte paper volgt hier een gedetailleerde technische samenvatting van EmoTrack.

Probleemdefinitie

De paper adresseert de uitdaging om de ernst van depressie (gemeten aan de hand van de PHQ-8-score) robuust te voorspellen op basis van tekstuele counselingtranscripten over verschillende "sessieregimes". Bestaande methoden kampen met een tweezijdige beperking:

1. Op fine-tuning gebaseerde methoden: Hoewel ze rijke supervisie kunnen benutten in datarijke multi-sessie-omgevingen, generaliseren ze vaak slecht wanneer gelabelde data schaars is of wanneer het doelregime verandert (bijvoorbeeld de overstap van multi-sessie naar single-sessie).
2. Op prompts gebaseerde LLM-methoden: Deze zijn data-efficiënt, maar behandelen transcripten doorgaans holistisch. Ze missen mechanismen om bewijs op wisselingsniveau te leren of kruis-sessie continuïteit effectief te benutten, en falen vaak in het onderscheiden tussen symptomen van de huidige sessie en historische context.

Het kernprobleem is het bouwen van een systeem dat goed presteert in single-sessie-omgevingen (waar alleen het huidige transcript beschikbaar is) terwijl het effectief blijft in multi-sessie-omgevingen (waar eerdere sessies context bieden), zonder te vertrouwen op het samenvoegen van volledige geschiedenissen, wat ruis introduceert.

Methodologie: EmoTrack

De auteurs stellen EmoTrack voor, een hybride, regime-adaptief raamwerk dat gestructureerde klinische signalen combineert met semantische embeddings. De architectuur bestaat uit vier hoofdcomponenten:

1. Inputrepresentatie:

   • Klinische-Feature-tak: Een LLM (Qwen3.5) extrahert 23 gestructureerde klinische kenmerken op basis van het AIDA-schema (dekkend PHQ-gealigneerde symptomen, linguïstische patronen en cognitieve distorties). Deze worden genormaliseerd en getokeniseerd.
   • Dialogue-tak: Een bevroren zinsencoder (Qwen3-Embedding-8B) genereert semantische embeddings op wisselingsniveau voor alleen cliëntuitingen (counselor-wisselingen worden uitgesloten omdat deze minder informatief bleken).
   • Het model concateneert deze twee tokenreeksen tot een geheugen van de huidige sessie.

2. Encoder–Decoder-ruggengraat:

   • Een Transformer-encoder verwerkt de geconcateneerde tokens om gecontextualiseerde representaties te creëren.
   • Een PHQ-symptoom-query-decoder gebruikt 8 geleerde query-vectoren (één voor elk PHQ-8-symptoom) om cross-attention toe te passen op de encoder-output. Dit stelt het model in staat om symptoomspecifiek bewijs te halen uit de heterogene input (klinische kenmerken + semantische wisselingen) in plaats van het volledige transcript te comprimeren tot één enkele vector.

3. Trainingsdoel:

   • Het model voorspelt per-symptoom ernstscores ($\hat{y}_j \in [0, 3]$) en de totaalscore.
   • De verliesfunctie combineert een Huber-verlies op de geaggregeerde totaalscore met een aanvullend Huber-verlies op individuele symptomen, gewogen met $\lambda_{sym}$.

4. Cross-sessie-geheugen (Multi-sessie-regime):

   • In plaats van volledige historische transcripten te concateneren, gebruikt EmoTrack een compact geheugenmodule om de onmiddellijk voorafgaande sessie te incorporeren.
   • Retrieval-pad: Cliëntwisselingen van de vorige sessie worden gecomprimeerd tot een vaste grootte geheugen met behulp van geleerde slot-query's en multi-head attention.
   • Samenvattings-pad: Er wordt ook een ruwe, gemiddeld gepoolde samenvatting van de vorige sessie gegenereerd.
   • Gedreven updates: Zowel de opgehaalde geschiedenis als de samenvatting worden selectief geïnjecteerd in de huidige symptoomrepresentaties via gated residual updates.
   • Geschiedenis-dropout: Tijdens het trainen wordt het geheugen van de vorige sessie willekeurig weggelaten (kans $p_{hist}$) om overmatige afhankelijkheid van geschiedenis te voorkomen en robuustheid in single-sessie-scenario's te waarborgen.

Belangrijkste Bijdragen

1. EmoTrack-raamwerk: Een praktisch model dat geïntegreerde gestructureerde klinische aanwijzingen, semantiek op wisselingsniveau en compact geheugen van eerdere sessies combineert. Het is ontworpen om effectief te zijn in zowel single-sessie- als multi-sessie-regimes.
2. LONGCOUNSEL-8 Dataset: Een nieuwe synthetische multi-sessie counseling-benchmark ontworpen om de evaluatiekloof op te vullen. Deze kenmerkt zich door:
   • Coherente kruis-sessie-trajecten (5 bezoeken per cliënt).
   • Voorgeschreven verborgen PHQ-8-staten die de dialooggeneratie aansturen.
   • Gestandaardiseerde sessie-niveau PHQ-8-supervisie.
   • Realistische dialooggeneratie die is gekalibreerd tegen echte counselingdata (RealCBT) om fideliteit te waarborgen.
3. Uitgebreide Evaluatie: De auteurs evalueren EmoTrack op zowel de nieuwe LONGCOUNSEL-8-benchmark als de gevestigde real-world single-sessie-benchmark, DAIC-WOZ.

Experimentele Resultaten

• Single-sessie (DAIC-WOZ): EmoTrack bereikt een Mean Absolute Error (MAE) van 2,44, wat een relatieve reductie van 13,5% vertegenwoordigt ten opzichte van de sterkste baseline (AIDA, MAE 2,82).
• Multi-sessie (LONGCOUNSEL-8): EmoTrack bereikt een MAE van 2,65 en presteert concurrerend met de sterkste longitudinale baseline (Lau et al., MAE 2,67).
• Ablatiebevindingen:
  • Inputbronnen: Het combineren van door LLM geëxtraheerde klinische kenmerken met embeddings op wisselingsniveau levert de beste prestaties op; het verwijderen van een van beide verslechtert de resultaten.
  • Sprekerzicht: Het gebruik van alleen cliëntwisselingen presteert beter dan het gebruik van counselor-wisselingen of beide, omdat depressiebewijs voornamelijk door de cliënt wordt uitgedrukt.
  • Geheugen: Het compacte geheugenmechanisme verbetert de prestaties in latere sessies (S2–S5), maar is niet de primaire drijvende kracht in de eerste sessie (S1), waar geen geschiedenis bestaat. Directe concatenatie van geschiedenis biedt weinig voordeel.
  • Architectuur: De symptoom-query-decoder presteert aanzienlijk beter dan standaard gemiddeld gepoolde koppen, waardoor symptoomspecifiek bewijs behouden blijft.

Betekenis en Claims

De paper claimt dat EmoTrack een praktische oplossing biedt voor dialog-gebaseerde depressietracking die robuust is over verschillende dataregimes. Door weg te bewegen van holistische LLM-prompting of pure fine-tuning, balanceert de hybride aanpak succesvol data-efficiëntie met het vermogen om longitudinale context te modelleren.

De auteurs benadrukken dat:

• Robuustheid cruciaal is: Het model vertrouwt niet op één regime (single versus multi-sessie), maar past zich effectief aan beide aan.
• Evaluatiekloof opgevuld: LONGCOUNSEL-8 biedt de eerste gecontroleerde benchmark voor het evalueren van longitudinale PHQ-8-tracking met gestandaardiseerde supervisie, een capaciteit die ontbreekt in bestaande real-world datasets zoals DAIC-WOZ (alleen single-sessie) of andere synthetische corpora (zonder gestandaardiseerde PHQ-labels).
• Klinische bruikbaarheid: Het systeem is gepositioneerd als een hulpmiddel voor het monitoren van ernst en het markeren van sessies met hoog risico voor menselijke review, in plaats van als een autonoom diagnostisch systeem.

De paper behoudt bescheidenheid wat betreft de klinische toepasbaarheid, met de opmerking dat echte longitudinale klinische validatie toekomstig werk blijft en dat de huidige evaluatie benchmark-gebaseerd is. Het benadrukt beperkingen zoals de afhankelijkheid van open-source upstream-modellen en de noodzaak van verdere veiligheidsmaatregelen (bijvoorbeeld onzekerheidsschatting, privacy) voordat klinische implementatie mogelijk is.