A Conditional Companion: Lived Experiences of People with Mental Health Disorders Using LLMs

Technische Samenvatting: A Conditional Companion

Probleemstelling

De wereldwijde vraag naar geestelijke gezondheidszorg stijgt explosief, terwijl de toegang tot professionele hulp beperkt blijft door tekorten aan personeel, lange wachtlijsten en hoge kosten. Large Language Models (LLM's), zoals ChatGPT en Claude, worden voorgesteld als een oplossing vanwege hun directe beschikbaarheid en empathische interactiecapaciteiten. Er bestaat echter een spanning tussen de belofte van deze technologie en de risico's (zoals hallucinaties, gebrek aan diepgang en onveilige adviezen). De huidige literatuur richt zich voornamelijk op technische capaciteiten of klinische evaluaties, maar er is een gebrek aan inzicht in de geleefde ervaring van gebruikers: hoe zij deze tools in hun dagelijks leven integreren, welke grenzen zij trekken en hoe zij de veiligheid zelf reguleren.

Methodologie

De onderzoekers voerden een kwalitatieve studie uit met een focus op mensgerichte interactie (HCI):

• Deelnemers: 20 semi-gestructureerde interviews met personen in het Verenigd Koninkrijk die gediagnosticeerd zijn met mentale aandoeningen (zoals depressie, angst, OCD of PTSS) en LLM's gebruiken voor ondersteuning.
• Selectie: Deelnemers werden geworven via Prolific en onderworpen aan een screening om de betrouwbaarheid van de data te waarborgen (bijv. uitsluiting van psychotische stoornissen om de vergelijkbaarheid te vergroten).
• Analyse: Er werd gebruikgemaakt van reflexieve thematische analyse. De interviews (gemiddeld ~60 minuten) werden getranscribeerd en iteratief gecodeerd om dieperliggende patronen en thema's te identificeren.

Belangrijkste Resultaten

Het onderzoek identificeert drie kernaspecten van het gebruik van LLM's:

1. Motivaties voor gebruik (Waarom, Hoe en Wanneer):

   • Onmiddellijkheid: Gebruik als directe vervanging tijdens wachtlijsten of in de nacht.
   • Oordeelvrije onthulling: Een veilige ruimte om stigmatiserende of "domme" gedachten te delen zonder angst voor sociale afwijzing.
   • Zelfgestuurd tempo: De mogelijkheid om gesprekken te pauzeren, te herschrijven en de diepgang zelf te bepalen.
   • Cognitieve structurering: Het gebruik van de AI voor cognitive reframing (het herstructureren van negatieve gedachten), vergelijkbaar met cognitieve gedragstherapie (CBT).
   • Relationele betrokkenheid: Het ervaren van de AI als een "vriend" of metgezel tegen eenzaamheid.

2. Grensstelling (Boundary-setting):
   Deelnemers trekken een duidelijke grens op basis van hun eerdere therapeutische ervaringen. LLM's worden als nuttig beschouwd voor mild tot matige klachten (dagelijkse stress, piekeren), maar worden als ontoereikend beschouwd voor:

   • Crisis- en noodsituaties (suïcidaliteit, trauma).
   • Sociale en emotionele complexiteit (interpersoonlijke nuances).
   • Relationele diepgang (het gebrek aan echte empathie en continuïteit).

3. Ontwerpmogelijkheden:
   Gebruikers stellen voor om LLM's niet als vervanging, maar als aanvulling te ontwerpen via:

   • Betere risicodetectie en escalatiepaden naar menselijke hulp.
   • Multimodale en gestructureerde interacties (bijv. kortere teksten, visuele hulpmiddelen).
   • Integratie met het bredere zorg-ecosysteem (bijv. koppeling met wearables of het delen van inzichten met een menselijke therapeut).

Belangrijkste Bijdragen

• Empirische gronding van "situated care work": Het laat zien dat gebruikers LLM's niet passief consumeren, maar actief inzetten als onderdeel van hun zelfmanagement.
• Herdefiniëring van grensstelling: Het presenteert het trekken van grenzen niet als een beperking van de AI, maar als een vorm van competente, reflectieve interactie door de gebruiker.
• Design-richtlijnen voor zorg-ecosystemen: Het biedt een kader voor het verantwoord positioneren van AI binnen de bestaande gezondheidszorg, waarbij de nadruk ligt op transparantie en samenwerking met clinici.

Significantie

Dit onderzoek is cruciaal voor de HCI-gemeenschap en beleidsmakers. Het waarschuwt tegen het leggen van de volledige verantwoordelijkheid voor veiligheid bij de individuele gebruiker (die vaak al kwetsbaar is). In plaats daarvan pleit het voor een verschuiving naar corporate verantwoordelijkheid (veiligheidsstandaarden door bedrijven) en regulatieve kaders (toezicht door gezondheidsinstanties). Het biedt een blauwdruk voor de ontwikkeling van "conditionele metgezellen": AI-systemen die ondersteuning bieden waar mogelijk, maar de menselijke professional respecteren waar nodig.