Towards Understanding and Measuring COGNITIVE ATROPHY in LLM Behaviour

Technische Samenvatting: Naar een begrip en meting van COGNITIEVE ATROFIE in LLM-gedrag

Probleemstelling
Huidige evaluaties van Large Language Models (LLM's) in de geestelijke gezondheidszorg richten zich primair op oppervlakkige veiligheid, statische responskwaliteit of psychologische kennis. Deze benchmarks falen in het vastleggen van hoe modellen zich gedragen tijdens realistische, emotioneel gevoelige interacties. Er bestaat een kritieke evaluatiekloof: bestaande metrieken bepalen niet of herhaalde LLM-interacties gebruikers helpen hun eigen vermogen tot reflectie, coping en besluitvorming te behouden, of dat ze onbedoeld deze cognitieve processen wegsturen van de gebruiker en naar de AI. De auteurs stellen dat het centrale risico niet louter is of een enkele respons onveilig is, maar of het cumulatieve interactiepatroon de gebruikersregie (agency) vormgeeft.

Methodologie
Om dit aan te pakken, formaliseren de auteurs COGNITIEVE ATROFIE als een procesmatig gedragspatroon waarbij modelresponsen coping, interpretatie, besluitvorming of emotionele regulatie verschuiven van de gebruiker naar de LLM. Dit concept put uit de theorie van cognitieve offloading en principes uit de psychotherapie die benadrukken dat ondersteuning moet ondersteunen (scaffolding), en niet de redenering van de gebruiker moet vervangen.

De auteurs introduceren de COGNITIVE ATROPHY BENCH, een klinisch onderbouwde benchmark die ontworpen is om dit fenomeen te meten. Belangrijke methodologische componenten zijn:

• Dataset Curatie: De benchmark bestaat uit 1.576 volledig door mensen gegenereerde counselinggesprekken (1.212 single-turn en 364 multi-turn transcripten) met in totaal 15.680 beurten. Deze zijn afkomstig van vier bestaande datasets (CounselChat, PAIR, CARE-Bench, HOPE) en dekken 22 mentale gezondheidsthema's.
• Model Evaluatie: Vijf LLM's (GPT, Claude, Gemini, Llama, Qwen) werden bevraagd om 42.230 responsen te genereren onder realistische implementatiecondities (geen fine-tuning, neutrale systeemprompts).
• Annotatieschema: Drie klinisch psychologen ontwikkelden een schema met 20 attributen verspreid over:
  • Gebruikerscontext (U): 5 attributen die klinische eisen karakteriseren (bijv. sensitiviteit, fix-zoekend gedrag).
  • Responsgedrag (R): 10 attributen gegroepeerd in clusters: Afhankelijkheidsopwekkende patronen (bijv. Fix-It, Aanbevelingen), Empathische kalibratie (bijv. Nauwkeurigheid van empathie, Taalmatching), en Responsstijl/veiligheid (bijv. Onderwerpswisselingen, Open vs. Gesloten vragen).
  • Globale Risico-flags (F): 5 binaire flags voor discrete risico-events.
• Menselijke Evaluatie: Zes getrainde klinische beoordelaars pasten het schema toe via een aangepaste webgebaseerde interface, wat resulteerde in 5.324 oordelen met span-gegronde bewijsvoering (het highlighten van specifieke tekstsegmenten). De inter-beoordelaarsbetrouwbaarheid was substantieel (gemiddelde $\kappa$ tussen 0,65 en 0,67), met 78,8% overeenstemming met een gouden standaard.
• Metrieken: De studie introduceert drie kwantitatieve instrumenten:
  1. User-Input Risk Index (UIRI): Meet de klinische eis van de gebruikersprompt.
  2. Cognitive Atrophy Risk Index (ARI): Een samengestelde score die afhankelijkheid, empathische kalibratie, responsstijl en risico-flags aggregeert om gedrag dat in lijn is met atrofie te kwantificeren.
  3. Trajectsamenvattingen: Metrieken voor multi-turn interacties (beginniveau, piek, gemiddelde, drift, variabiliteit) om te volgen hoe gedrag evolueert over gesprekspoelen.

Belangrijkste Resultaten
Evaluatie over de vijf LLM's leverde de volgende bevindingen op:

• Prevalentie van Atrofie: Alle vijf de modellen vertonen een consistent matig tot hoog niveau van met atrofie samenhangend gedrag. De Atrophy Risk Index (ARI) plaatst alle modellen in een smalle band (0,52–0,61 voor single-turn; 0,48–0,57 voor multi-turn), wat wijst op vergelijkbare algemene risiconiveaus ondanks verschillende gedragspaden.
• Responsiviteit op Cues: Modellen volgen overtente veiligheidscues betrouwbaar (bijv. de sensitiviteit van de gebruiker wordt weerspiegeld in de sensitiviteit van de respons). Echter, ze tonen beperkte adaptatie wanneer gebruikers expliciet naar oplossingen of beslissingen zoeken (fix-seeking signalen), waarbij ze er niet in slagen hun gedrag aan te passen om de autonomie van de gebruiker in deze contexten te ondersteunen.
• Dominante Patronen: De primaire drijfveren van cognitieve atrofie zijn een kleine set terugkerende gedragingen: directieve adviezen, probleemoplossing, aanbevelingen, onderwerpswisselingen en vormen van validatie die eerder afhankelijkheid dan reflectie kunnen versterken.
• Multi-Turn Dynamiek: Over de beurten heen driften alle modellen in dezelfde richting: ze worden directiever, meer gesloten en meer oplossingsgericht. Specifiek stegen de scores voor gesloten vragen met +0,19 tot +0,33 van turn 1 naar turn 6, en de directieve segmenten verdubbelden ruwweg.
• Verschillen tussen Modellen: Hoewel het algemene risico vergelijkbaar is, divergeren de paden. GPT en Llama neigen naar directief, oplossingsgericht gedrag, terwijl Claude de laagste algemene atrofierisico vertoonde.

Betekenis en Bijdragen
Het artikel claimt drie primaire bijdragen:

1. Formalisering van een Nieuwe Risicodimensie: Het definieert COGNITIEVE ATROFIE als een meetbare, procesmatige risico-dimensie die verschillend is van veiligheid en behulpzaamheid, met de focus op het behoud van de gebruikersregie in AI-bemiddelde ondersteuning voor de geestelijke gezondheidszorg.
2. Benchmark en Protocol: Het biedt de COGNITIVE ATROPHY BENCH, de eerste klinisch onderbouwde benchmark die single/multi-turn data, echte therapeutische gesprekken, een expert-schema met 20 attributen, bewijsvoering op span-niveau en reproduceerbare annotatiematerialen integreert.
3. Empirisch Bewijs: Het biedt de eerste grootschalige, klinisch onderbouwde analyse van hoe LLM's zich gedragen in gevoelige gesprekken, waarbij de URI, ARI en trajectsamenvattingen worden geïntroduceerd ter ondersteuning van prospectieve analyse van de opkomst en evolutie van gedrag.

De auteurs concluderen dat terwijl huidige benchmarks meten wat modellen op een enkel moment zeggen, het moeilijkere en meer consequente probleem is begrijpen wat ze daarna zeggen en hoe dat de eigen redenering van een gebruiker vormgeeft. Het werk biedt een fundament voor het auditeren van modelgedrag in gevoelige LLM-gesprekken, waarbij alle code en data beschikbaar worden gesteld voor niet-commercieel onderzoek.