💬 NLP

PsychoSafe: Eliciting Psychologically-Informed Refusals in Large Language Models

Het artikel introduceert PsychoSafe, een psychologisch geïnformeerd framework dat de kwaliteit van weigeringen door LLM's verbetert door niet-naleving te herformuleren als gestructureerde, ondersteunende communicatie die gebaseerd is op evidence-based interventiestrategieën, waarbij significante winst wordt behaald in bronverwijzing en psychologische onderbouwing terwijl de taakrelevantie behouden blijft.

Oorspronkelijke auteurs: Gianluca Barmina, Federico Torrielli, Sven Harms, Jacob Nielsen, Felix Mächtle, Stine Lyngsø Beltoft, Peter Schneider-Kamp, Thomas Eisenbarth, Lukas Galke Poech, Anne Lauscher

Gepubliceerd 2026-06-09

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Gianluca Barmina, Federico Torrielli, Sven Harms, Jacob Nielsen, Felix Mächtle, Stine Lyngsø Beltoft, Peter Schneider-Kamp, Thomas Eisenbarth, Lukas Galke Poech, Anne Lauscher

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, behulpzame robotassistent hebt. Normaal gesproken, wanneer iemand deze robot om iets gevaarlijks vraagt — zoals "Hoe maak ik een bom?" of "Ik wil mezelf pijn doen" — grijpt de veiligheidsprogrammering van de robot in. De robot zegt dan simpelweg: "Nee. Dat kan ik niet doen."

Hoewel dit veilig is, kan het koud, bot en eenzaam aanvoelen, vooral als de persoon die het vraagt in een crisis verkeert. Het is also�ijn een arts die tegen een patiënt zegt: "Geen operatie," en vervolgens wegloopt zonder enige troost of vervolgstappen aan te bieden.

Het papier PSYCHOSAFE stelt een nieuwe manier voor waarop deze robots "Nee" kunnen zeggen. In plaats van alleen de deur dicht te slaan, leert de robot de deur op een kier te houden, een warme hand aan te bieden en de persoon naar een levenslijn te wijzen.

Hier is de uitsplitsing van hun aanpak, met behulp van eenvoudige analogieën:

1. Het Probleem: De "Brute Kracht" Weigering

Huidige AI-veiligheid is als een uitsmijter bij een club die slechts één beweging heeft: De Blokkade. Als je verdacht oogt, word je tegengehouden. Het werkt om slechte dingen buiten te houden, maar het helpt de persoon die daadwerkelijk in nood is niet. Als iemand in een crisis verkeert, kan een bot "Nee" de onmiddellijke schade misschien stoppen, maar het stopt de pijn niet en leidt de persoon niet naar hulp.

2. De Oplossing: De "Crisis Counselor" Modus

De onderzoekers hebben een framework gebouwd genaamd PSYCHOSAFE. Zie dit als het geven van een nieuwe "persoonlijkheid" aan de robot, gebaseerd op de echte menselijke psychologie. In plaats van alleen te blokkeren, is de robot getraind om te handelen als een crisis counselor die specifieke, bewezen technieken heeft geleerd (zoals "Psychologische Eerste Hulp" of "Motivationele Interviewing").

Wanneer een gebruiker een gevaarlijke vraag stelt, zegt de robot niet alleen "Nee". Het volgt een vierstappenscript, zoals een recept:

De Warme Knuffel: Het erkent de gevoelens van de persoon ("Ik hoor dat je pijn hebt") zonder in te stemmen met het gevaarlijke verzoek.
De Zachte Duw: Het biedt een kleine, veilige stap aan die de persoon nú kan zetten (zoals "Haal diep adem" of "Probeer van locatie te veranderen").
De Kaart: Het wijst naar echte hulp in de echte wereld (zoals een hulplijn voor zelfdoding of een verslavingskliniek).
Het Hoopvolle Afscheid: Het eindigt met een boodschap van hoop, en herinnert de persoon eraan dat hij/zij ertoe doet.

3. Hoe ze de Robot hebben Onderwezen

Om de robot deze nieuwe manier van spreken te leren, hebben het team twee dingen gedaan:

Een Nieuw Handboek Gemaakt: Ze schreven 8.019 voorbeelden van deze "behulpzame weigeringen". Ze dekten vijf specifieke "gevarenzones" af: Zelfdoding/Zelfverwonding, Seksuele Misdrijven, Drugsgebruik, Wapens en Geweld. Ze zorgten ervoor dat elk voorbeeld geworteld was in de echte psychologische wetenschap.
Twee Manieren om te Leren:
- Het Spiekbriefje (Prompting): Ze gaven de robot een lange, gedetailleerde instructiehandleiding (een "system prompt") elke keer dat het een gesprek begon. Dit vertelde de robot: "Onthoud, als iemand in een crisis verkeert, gebruik dan het 4-stappenplan van de counselor."
- De Hersenoperatie (Fine-Tuning): Ze hebben de hersenen van de robot daadwerkelijk opnieuw bedraad door hem te trainen op hun nieuwe handboek. Op deze manier werd de robot vanzelf de counselor, zonder dat hij telkens de instructiehandleiding nodig had.

4. De Resultaten: Werkte het?

Ze testten de robot op 500 moeilijke vragen en lieten een "rechter" (een andere AI en menselijke experts) de antwoorden beoordelen.

Het "Spiekbriefje" werkte over het algemeen het best: Wanneer ze de instructiehandleiding gebruikten, werden de antwoorden van de robot 28% beter in het zijn van behulpzaam en veilig. Het werd veel beter in het wijzen naar echte bronnen (met 46% gestegen) en in het klinken als psychologisch onderbouwd (met 34% gestegen).
De "Hersenoperatie" maakte het een veiligheidsmachine: De getrainde robot weigerde gevaarlijke verzoeken bijna 100% van de tijd en bood altijd hulpbronnen aan. Echter, de robot werd soms wat te robotachtig en generiek, waarbij hij vergat om naar de specifieke details van het verhaal van de persoon te luisteren.
Het maakte de robot niet "dommer": De robot kon nog steeds even goed verhalen schrijven, wiskundige problemen oplossen en algemene vragen beantwoorden als voorheen.

5. De Kanttekening (Beperkingen)

Het papier waarschuwt dat deze nieuwe "counselor" modus erg goed is in waarvoor hij getraind is, maar het is geen toverstaf.

Het is gespecialiseerd: Het werkt geweldig voor de vijf specifieke gevarenzones waarop ze getraind zijn (zoals zelfdoding of geweld). Als je de robot iets vraagt buiten die gebieden, weet hij mogelijk niet hoe hij dezelfde zachte logica moet toepassen.
Het is geen echte arts: De robot is nog steeds een AI. Hij kan troost en middelen bieden, maar hij kan geen mentale ziekten diagnosticeren of daadwerkelijke therapie bieden. Het papier benadrukt dat dit een brug is naar menselijke hulp, en geen vervanging daarvoor.

De Kernboodschap

PSYCHOSAFE laat zien dat we niet hoeven te kiezen tussen een robot die "veilig" is en een robot die "behulpzaam" is. Door AI te leren de even zachte, ondersteunende technieken te gebruiken die menselijke consulenten gebruiken, kunnen we de weigeringen van AI minder laten voelen als een muur en meer als een hand die uitreikt om te helpen.

Technische Samenvatting: PSYCHOSAFE

Probleemstelling

Large Language Models (LLM's) staan voor een fundamentele spanning tussen het maximaliseren van behulpzaamheid en het voorkomen van schade. Huidige veiligheidsmechanismen behandelen weigering doorgaans als een binair classificatieprobleem: een model voldoet of niet aan een verzoek, of geeft een botte, niet-conforme ontkenning. Hoewel dit directe schade voorkomt, betogen de auteurs dat dergelijke "botte niet-conformiteit" vaak faalt in het ondersteunen van de onderliggende behoeften van gebruikers in risicovolle situaties met betrekking tot crises, dwang of escalerende intentie. Een eenvoudige weigering kan directe schade stoppen, maar kan de gebruiker ook zonder ondersteuning achterlaten, wat potentieel de stress verergert. Het artikel stelt dat weigering op zichzelf een vorm van behulpzame communicatie kan zijn als deze geworteld is in psychologische theorie, waarbij een ontkenning wordt getransformeerd naar een gestructureerde, ondersteunende interventie.

Methodologie

1. Het PSYCHOSAFE-raamwerk

De auteurs operationaliseren "psychologisch geïnformeerde weigeringen" door gevestigde principes uit de counselingpsychologie, motivationele interviewtechnieken en crisiscommunicatie te integreren. Het raamwerk is gebouwd op drie kernfasen:

Risico-harmonisatie: De auteurs hebben 16 publieke veiligheidsbenchmarks geaggregeerd en hun heterogene taxonomieën geharmoniseerd middels semantische clustering (via sentence-t5-large embeddings en HDBSCAN). Dit proces identificeerde vijf specifieke risicoclusters waar psychologische interventie het meest gepast is:
1. Suïcide en zelfbeschadiging: Vereist de-escalatie en verwijzing naar crisismiddelen.
2. Seksuele misdrijven: Vereist nadruk op toestemming en bescherming van slachtoffers.
3. Middelengebruik: Gericht op het stimuleren van reflectie en hulpzoeken.
4. Wapens: Prioriteit geven aan het onderbreken van schadelijke acties en reflectie op consequenties.
5. Geweld: Focus op de-escalatie en heroriëntatie.
Interventieprincipes: Het raamwerk past evidence-based strategieën (bijv. Psychological First Aid, Motivational Interviewing, Safety Planning) aan in een herbruikbare weigeringsstructuur. Elke reactie volgt een vierdelige mal:
1. Een warme erkenning gekoppeld aan een zachte weigering.
2. Een gepersonaliseerde zelfhulpstap die geworteld is in de interventiestrategie van de specifieke risicocluster.
3. Verwijzing naar relevante externe professionele bronnen (bijv. hulplijnen).
4. Een korte, hoopvolle afsluiting die verbonden is aan de context van de gebruiker.
Datasetconstructie: De auteurs hebben de PSYCHOSAFE-dataset geconstrueerd, bestaande uit 8.019 prompt-respons paren. Deze paren koppelen prompts uit de vijf risicoclusters aan responsen gegenereerd door menselijke experts volgens de interventietemplate. De dataset bevat metadata over de risicocluster en herkomst.

2. Elicitatiestrategieën

De studie evalueert twee methoden om dit gedrag op te wekken in het Qwen 3.5 27B model:

In-Context Learning (Prompting): Een specifieke systeemprompt (v1) codeert het volledige PSYCHOSAFE-raamwerk, waarbij het model de instructie krijgt het vierdelige structuur te volgen, responsen te personaliseren op basis van gebruikersaanwijzingen, en acute risico's (bijv. suïcide) prioriteit te geven als er meerdere clusters worden gedetecteerd.
Supervised Fine-Tuning (SFT): Het model wordt gefinetuned op de PSYCHOSAFE-dataset, aangevuld met "redeneringssporen" (reasoning traces). Deze sporen werden gegenereerd door een groter model (GPT-OSS-120B) om het tussenliggende redeneerproces vóór de uiteindelijke weigering te simuleren. Het SFT-model is getraind om het weigeringsgedrag en de bijbehorende redenering te internaliseren, met als doel het gedrag te reproduceren zonder afhankelijk te zijn van een lange systeemprompt.

3. Evaluatie

De auteurs evalueerden beide benaderingen op een hold-out validatieset van 500 prompts (100 per risicocluster) met behulp van een LLM-as-a-judge pipeline (geselecteerd als Qwen 3.5 397B-A17B op basis van de hoogste overeenstemming met menselijke beoordelaars, $\kappa = 0.61$ ). De evaluatiecriteria waren:

Weigering: Binaire controle op niet-naleving.
Psychologische Gronding: Score (1–5) op het gebruik van empathische validatie en interventiestrategieën.
Externe Referenties: Binaire controle op bronverwijzing.
Relevantie: Score (1–5) op hoe goed de respons is afgestemd op de specifieke context van de gebruiker.

Aanvullende evaluaties werden uitgevoerd op SORRY-Bench (adversariële robuustheid), XSTest (over-weigering en adversariële veiligheid), en algemene capaciteitsbenchmarks (MMLU, HellaSwag).

Belangrijkste Resultaten

Kwaliteit van Weigering

Prompting (v1): De PSYCHOSAFE-promptingstrategie verbeterde de algehele kwaliteit van de weigering met 28,1% ten opzichte van een generieke baseline (v0). De meest significante winsten waren in Externe Bronverwijzing (+46,8%) en Psychologische Gronding (+34,8%).
Fine-Tuning (SFT): Het gefinetunede model bereikte bijna perfecte weigerings- en bronverwijzingspercentages (nabij de 100%). Het vertoonde echter een significante daling in Relevantie (-25% tot -28%) vergeleken met de prompting-benadering. Kwalitatieve analyse gaf aan dat het SFT-model vaak een generieke crisisinterventietemplate te breed toepaste, waarbij het niet slaagde in het aanpassen aan specifieke gebruikerscontexten of bendelige prompts interpreteerde als acute crises.
Stabiliteit: Het gefinetunede model was vrijwel ongevoelig voor de versie van de systeemprompt, terwijl de prestaties van het basismodel aanzienlijk varieerden tussen v0 en v1.

Veiligheid en Robuustheid

SORRY-Bench: Het PSYCHOSAFE gefinetunede model bereikte bijna nul compliantie (0,0–0,1%) over alle promptcondities en 19 linguïstische mutaties, waarmee het de baseline aanzienlijk overtrof.
XSTest (Over-weigering): Het gefinetunede model behield lage over-weigering rates op bendelijke prompts (3,6%–9,2%), wat ongecontroleerde weigering uitsluit. Echter, de veiligheidsgraad op out-of-domain adversariële prompts was lager dan die van het basismodel (17,0% vs. 59,0%), wat duidt op beperkte generalisatie buiten de vijf trainingsdomeinen.
Algemene Capaciteiten: Prestaties op MMLU en HellaSwag bleven grotende-lijk stabiel, met slechts bescheiden dalingen (ongeveer 4–5 procentpunten) waargenomen in sommige configuraties, wat de auteurs acceptabel achten gezien de veiligheidswinsten.

Betekenis en Claims

Het artikel claimt dat behulpzaamheid en schadevoorkoming niet noodzakelijkerwijs tegenovergestelde doelstellingen zijn. Door gebruik te maken van gevestigde menselijke interventiepraktijken, kunnen LLM's onveilige verzoeken weigeren en tegelijkertijd ondersteunende, constructieve reacties bieden.

Theoretische Bijdrage: Het werk overbrugt AI-alignment onderzoek met gevestigde psychologische interventiestrategieën, en betoogt dat weigeringsontwerp geworteld moet zijn in psychologische theorie om generaliseerbaarheid en coherentie te garanderen naarmate modellen evolueren.
Praktische Bijdrage: Het demonstreert dat psychologisch geïnformeerde weigeringen kunnen worden opgeroepen via prompting of kunnen worden ingebed in modelgewichten via fine-tuning.
Beperkingen en Reikwijdte: De auteurs claimen bescheiden dat PSYCHOSAFE het beste geschikt is voor domeinspecifieke implementaties (bijv. mentale gezondheid of crisisinterventieplatforms) waar risico's bekend zijn en hoogwaardige, ondersteunende weigeringen cruciaal zijn. Zij erkennen dat de huidige aanpak een beperkte out-of-domain generalisatie mist en dat het gefinetunede model soms een gebrek heeft aan het pragmatische oordeelsvermogen om interventies selectief toe te passen. De auteurs verklaren expliciet dat PSYCHOSAFE geen vervanging is voor professionele mentale gezondheidsinterventie en benadrukken de noodzaak van uitgebreide stress-testen voorafgaand aan implementatie.