Like a Therapist, But Not: Reddit Narratives of AI in Mental Health Contexts

Technische Samenvatting: "Als een therapeut, maar niet: Reddit-narratieven van AI in mentale gezondheidscontexten"

Probleemstelling
Large Language Models (LLM's) worden steeds vaker door individuen gebruikt voor emotionele steun en interacties rond mentale gezondheid buiten klinische settings. Er is echter een aanzienlijk gebrek aan systematisch inzicht in hoe gebruikers deze systemen evalueren, vertrouwen en zich tot hen verhouden in de echte wereld, in alledaagse contexten. Bestaande evaluaties richten zich vaak op gecontroleerde omgevingen en geven prioriteit aan nauwkeurigheid, veiligheid of therapeutisch potentieel, terwijl ze verwaarlozen hoe gebruikers de rol van AI in hun persoonlijke mentale gezondheidspraktijken interpreteren en onderhandelen. Deze studie adresseert het gat in het begrip van gebruikerspercepties, adoptiehoudingen en de aard van de "therapeutische alliantie" die tussen mens en AI wordt gevormd in natuurlijke online discoursen.

Methodologie
De auteurs voerden een grootschalige discoursanalyse uit van 5.126 Reddit-posts uit 47 mentale gezondheidsgerichte communities (bijv. r/Anxiety, r/CPTSD, r/ADHD) verzameld tussen november 2022 en augustus 2025. De dataset werd afgeleid van een initiële corpus van 4,7 miljoen posts, gefilterd via een meerfasige pipeline:

1. Keyword Retrieval: Een verfijnde lijst van 146 AI-gerelateerde termen identificeerde 572.734 kandidaat-posts.
2. LLM Validatie: GPT-4o mini werd gebruikt om relevantie te valideren, wat resulteerde in 6.206 posts.
3. Menselijke Filtering: Handmatige review categoriseerde posts als ervaringsgericht, verkennend, advertentie of irrelevant, waarbij 5.126 posts die persoonlijke ervaringen beschrijven of advies zoeken, werden behouden.

Annotatiekader
Om de data te analyseren, ontwikkelden de auteurs een theoretisch geïnformeerd annotatieschema dat twee kaders integreert:

• Technology Acceptance Model (TAM): Het vastleggen van pragmatische evaluaties zoals waargenomen bruikbaarheid, gebruiksgemak, outputkwaliteit, resultaatdemonstreerbaarheid, waargenomen vertrouwen, waargenomen risico's en de intentie om door te gaan.
• Therapeutic Alliance Theory: Het vastleggen van relationele afstemming via drie dimensies: band (emotionele verbinding), taak (overeenstemming over activiteiten) en doel (gedeelde toewijding aan doelstellingen).

Data Annotatiestrategie
De studie maakte gebruik van een hybride mens-LLM pipeline. Menselijke annotatoren stelden de grondwaarheid vast op een steekproef van 100 posts, waarbij een aanzienlijke overeenstemming werd bereikt (Gwet's AC1: 0,64–0,94). Meerdere LLM's (inclusief GPT-5.2, Gemini 3 Pro en Claude Opus 4.5) werden geëvalueerd op annotatieprestaties. Op basis van F1-scores werd een hybride strategie gehanteerd: GPT-5.2 annoteerde TAM-gebaseerde dimensies, terwijl Gemini 3 Pro de dimensies van de therapeutische alliantie, sociale invloed en waargenomen risico's annoteerde. Thematische analyse werd verder toegepast op vrije tekstbeschrijvingen van risico's en gebruiksintenties om gestandaardiseerde taxonomieën te creëren.

Belangrijkste Resultaten

• Drivers van Betrokkenheid: Betrokkenheid wordt primair gevormd door genarreerde uitkomsten, vertrouwen en responskwaliteit in plaats van enkel door emotionele binding. Positieve sentimenten zijn sterk geassocieerd met resultaatdemonstreerbaarheid (V = 0,95), outputkwaliteit (V = 0,90) en waargenomen vertrouwen (V = 0,91).
• Dynamiek van de Therapeutische Alliantie: Er is een duidelijke asymmetrie in de alliantiedimensies. Taakafstemming (V = 0,93) en doelafstemming (V = 0,79) vertonen een sterke associatie met positief sentiment. In tegen tegenstelling hiertoe vertoont de emotionele band alleen een zwakke associatie met positief sentiment (V = 0,12) en komt deze frequent samen met negatieve uitkomsten zoals afhankelijkheid en symptoomescalatie.
• Gebruikspatronen: De meest voorkomende gebruiksintentie was Emotionele Steun (18,0%), gevolgd door Functionele Steun (12,6%) en Psycho-educatie (11,7%). AI wordt het vaak geframed als complementair aan menselijke therapie, met name voor functionele steun en zelfverkenning, in plaats van een vervanging.
• Risico's: Meer dan de helft van de posts (51%) noemde expliciet risico's. De meest voorkomende zorgen waren Verslaving & Afhankelijkheid (14,1%) en Symptoomescalatie (11,7%). Risico's waren vaak gekoppeld aan specifieke gebruiksintenties; bijvoorbeeld was het gebruik voor Gezelschap sterk verbonden met afhankelijkheid, terwijl Symptoombeoordeling verbonden was met misinformatie.
• Morele Spanningen: Gebruikers uitten vaak schuldgevoel of schaamte over hun afhankelijkheid van AI, zelfs wanneer zij voordelen rapporteerden, wat wijst op een morele onderhandeling over de legitimiteit van AI in de geestelijke gezondheidszorg.

Belangrijkste Bijdragen

1. Nieuwe Dataset: Een gecureerde dataset van 5.126 posts die vastlegt hoe gebruikers AI-systemen evalueren en zich tot hen verhouden voor emotionele steun in natuurlijke settings.
2. Theoretische Operationalisering: De succesvolle adaptatie en operationalisering van TAM- en therapeutische alliantie-constructen voor grootschalige NLP-analyse van adoptiehoudingen en relationele afstemming.
3. Empirisch Bewijs: Kwantitatieve en kwalitatieve bewijzen die de link leggen tussen systeemeigenschappen (bijv. taakafstemming versus emotionele band) en adoptiesentiment en therapeutische uitkomsten, wat bijdraagt aan het ontwerp en de evaluatie van AI-ondersteunde mentale gezondheidstools.

Betekenis en Claims
Het artikel claimt dat in gevoelige domeinen zoals mentale gezondheid, hoe mensen met AI samenleven even belangrijk is als wat de AI produceert. De bevindingen suggereren dat:

• Uitkomst boven Band: Positieve betrokkenheid wordt gedreven door demonstreerbare, genarreerde verbeteringen en taak-/doelafstemming, niet louter door de aanwezigheid van een empathische emotionele band.
• Risico van Misalignment: Emotionele banden die gevormd worden zonder taak- en doelafstemming kunnen leiden tot schadelijke patronen, zoals geruststellingsloops en symptoomescalatie.
• Infrastructuurrol: Gebruikers conceptualiseren AI als "tussen-sessie mentale gezondheidsinfrastructuur"—een complementaire bron voor wanneer professionele zorg ontoegankelijk is—in plaats van een vervanging voor clinici.
• Evaluatieverschuiving: NLP-evaluatie in mentale gezondheidscontexten moet prioriteit geven aan genarreerde uitkomsten en afstemming boven abstracte voorkeurscriteria of oppervlakkige empathie-metrieken.

De auteurs nemen een bescheiden standpunt in door te merken dat hun bevindingen illustreren hoe theoretische constructen naar voren komen in gebruikersnarratieven, in plaats van de theorieën zelf te valideren via klinische trials. Ze benadrukken dat de studie niet de klinische effectiviteit of veiligheid evalueert, maar eerder de noodzaak onderstreept voor verantwoord bestuur en ontwerp dat rekening houdt met de beperkingen en risico's van algemene LLM's in de context van mentale gezondheid.