💬 NLP

PsychoSafe: Eliciting Psychologically-Informed Refusals in Large Language Models

L'article présente PsychoSafe, un cadre psychologiquement informé qui améliore la qualité du refus des LLM en recadrant la non-conformité comme une communication structurée et de soutien fondée sur des stratégies d'intervention basées sur des preuves, atteignant des gains significatifs en matière d'orientation vers des ressources et d'ancrage psychologique tout en maintenant la pertinence de la tâche.

Auteurs originaux : Gianluca Barmina, Federico Torrielli, Sven Harms, Jacob Nielsen, Felix Mächtle, Stine Lyngsø Beltoft, Peter Schneider-Kamp, Thomas Eisenbarth, Lukas Galke Poech, Anne Lauscher

Publié 2026-06-09

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Gianluca Barmina, Federico Torrielli, Sven Harms, Jacob Nielsen, Felix Mächtle, Stine Lyngsø Beltoft, Peter Schneider-Kamp, Thomas Eisenbarth, Lukas Galke Poech, Anne Lauscher

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un robot assistant très intelligent et serviable. Habituellement, lorsqu'on demande à ce robot quelque chose de dangereux — comme « Comment fabriquer une bombe ? » ou « Je veux me faire du mal » — le programme de sécurité du robot s'active. Il se contente de dire : « Non. Je ne peux pas faire cela. »

Bien que cela soit sûr, cela peut paraître froid, brusque et solitaire, surtout si la personne qui pose la question est en pleine crise. C'est comme un médecin qui dirait à un patient : « Pas de chirurgie », puis qui s'en irait sans offrir de réconfort ou d'étapes suivantes.

Le document PSYCHOSAFE propose une nouvelle façon pour ces robots de dire « Non ». Au lieu de simplement claquer la porte, le robot apprend à laisser la porte entrouverte, à offrir une main chaleureuse et à diriger la personne vers une bouée de sauvetage.

Voici la décomposition de leur approche, en utilisant des analogies simples :

1. Le Problème : Le refus par « Force Brute »

Actuellement, la sécurité de l'IA est comme un videur de boîte de nuit qui n'a qu'un seul mouvement : le Blocage. Si vous avez l'air suspect, vous êtes arrêté. Cela fonctionne pour empêcher les mauvaises choses d'entrer, mais cela n'aide pas la personne qui est réellement en difficulté. Si quelqu'un est en crise, un « Non » brutal peut stopper un préjudice immédiat, mais cela n'arrête pas la douleur et ne guide pas la personne vers l'aide.

2. La Solution : Le mode « Conseiller de Crise »

Les chercheurs ont construit un cadre appelé PSYCHOSAFE. Considérez cela comme le fait de donner au robot une nouvelle « personnalité » basée sur la psychologie humaine réelle. Au lieu de simplement bloquer, le robot est entraîné pour agir comme un conseiller de crise qui a appris des techniques spécifiques et éprouvées (comme les « Premiers Secours Psychologiques » ou l'« Entretien Motivationnel »).

Lorsqu'un utilisateur pose une question dangereuse, le robot ne dit pas seulement « Non ». Il suit un script en quatre étapes, comme une recette :

Le Câlin Chaleureux : Il reconnaît les sentiments de la personne (« Je vois que vous souffrez ») sans pour autant accepter la requête dangereuse.
La Poussée Douce : Il propose une petite étape sûre que la personne peut franchir dès maintenant (comme « Prenez une grande inspiration » ou « Essayez de changer d'endroit »).
La Carte : Il oriente vers une aide réelle dans le monde physique (comme une ligne d'écoute pour le suicide ou un centre de réadaptation pour la toxicomanie).
L'Adieu Plein d'Espoir : Il termine par un message d'espoir, rappelant à la personne qu'elle compte.

3. Comment ils ont enseigné au robot

Pour enseigner au robot cette nouvelle façon de parler, l'équipe a fait deux choses :

Création d'un nouveau manuel : Ils ont écrit 8 019 exemples de ces « refus utiles ». Ils couvraient cinq « zones de danger » spécifiques : Suicide/Auto-mutilation, Crimes Sexuels, Usage de Drogues, Armes et Violence. Ils se sont assurés que chaque exemple était ancré dans la science psychologique réelle.
Deux méthodes d'apprentissage :
- L'Aide-mémoire (Prompting) : Ils ont donné au robot un manuel d'instructions long et détaillé (un « system prompt ») à chaque fois qu'il commençait à parler. Cela lui disait : « Rappelle-toi, si quelqu'un est en crise, utilise le script de conseiller en 4 étapes ».
- La Chirurgie Cérébrale (Fine-Tuning) : Ils ont réellement recâblé le cerveau du robot en l'entraînant sur leur nouveau manuel. De cette façon, le robot est devenu le conseiller naturellement, sans avoir besoin du manuel d'instructions à chaque fois.

4. Les Résultats : Est-ce que ça a fonctionné ?

Ils ont testé le robot sur 500 questions difficiles et ont demandé à un « juge » (une autre IA et des experts humains) de noter les réponses.

L'« Aide-mémoire » a le mieux fonctionné globalement : Lorsqu'ils utilisaient le manuel d'instructions, les réponses du robot sont devenues 28 % meilleures pour être utiles et sûres. Il est devenu bien meilleur pour orienter les gens vers des ressources réelles (en hausse de 46 %) et pour son ton psychologiquement fondé (en hausse de 34 %).
La « Chirurgie Cérébrale » en a fait une machine de sécurité : Le robot entraîné a refusé les requêtes dangereuses presque 100 % du temps et a toujours proposé des ressources. Cependant, il est parfois devenu un peu trop robotique et générique, oubliant d'écouter les détails spécifiques de l'histoire de la personne.
Cela n'a pas rendu le robot « bête » : Le robot n'est pas devenu « moins intelligent » pour les autres tâches. Il pouvait toujours écrire des histoires, résoudre des problèmes mathématiques et répondre à des questions générales aussi bien qu'avant.

5. Le Bémol (Limites)

Le document avertit que ce mode « conseiller » est très bon pour ce pour quoi il a été entraîné, mais ce n'est pas une baguette magique.

C'est spécialisé : Il fonctionne très bien pour les cinq zones de danger spécifiques pour lesquelles il a été entraîné (comme le suicide ou la violence). Si vous lui posez une question en dehors de ces domaines, il pourrait ne pas savoir comment appliquer la même logique douce.
Ce n'est pas un vrai médecin : Le robot reste une IA. Il peut offrir du réconfort et des ressources, mais il ne peut pas diagnostiquer une maladie mentale ni fournir une véritable thérapie. Le document souligne que ceci est un pont vers l'aide humaine, et non un remplacement de celle-ci.

L'Essentiel

PSYCHOSAFE montre que nous n'avons pas à choisir entre un robot qui est « sûr » et un robot qui est « utile ». En apprenant à l'IA à utiliser les mêmes techniques de soutien douces que les conseillers humains, nous pouvons faire en sorte que les refus de l'IA ressemblent moins à un mur et davantage à une main tendue pour aider.

Résumé Technique : PSYCHOSAFE

Énoncé du Problème

Les grands modèles de langage (LLM) sont confrontés à une tension fondamentale entre la maximisation de l'utilité et la prévention des dommages. Les mécanismes de sécurité actuels traitent généralement le refus comme un problème de classification binaire : soit le modèle se conforme à une requête, soit il émet un déni de non-conformité brutal. Bien que cela empêche les dommages directs, les auteurs soutiennent que ce type de « non-conformité brutale » échoue souvent à soutenir les besoins sous-jacents des utilisateurs dans des situations à haut risque impliquant une crise, une coercition ou une intention d'escalade. Un simple refus peut arrêter le dommage immédiat, mais peut également laisser l'utilisateur sans soutien, ce qui peut exacerber sa détresse. Le papier postule que le refus lui-même peut être une forme de communication utile s'il est ancré dans la théorie psychologique, transformant un déni en une intervention structurée et de soutien.

Méthodologie

1. Le Cadre PSYCHOSAFE

Les auteurs opérationnalisent les « refus psychologiquement informés » en intégrant des principes établis de la psychologie de conseil, de l'entretien motivationnel et de la communication de crise. Le cadre repose sur trois étapes clés :

Harmonisation des Risques : Les auteurs ont agrégé 16 benchmarks de sécurité publique et ont harmonisé leurs taxonomies hétérogènes par regroupement sémantique (via des plongements sentence-t5-large et HDBSCAN). Ce processus a identifié cinq clusters de risques spécifiques où l'intervention psychologique est la plus appropriée :
1. Suicide et Auto-mutilation : Nécessitant une désescalade et une orientation vers des ressources de crise.
2. Crimes Sexuels : Nécessitant l'accent sur le consentement et la protection des victimes.
3. Usage de Substances : Visant à encourager la réflexion et la recherche d'aide.
4. Armes : Priorisant l'interruption de l'action nuisible et la réflexion sur les conséquences.
5. Violence : Se concentrant sur la désescalade et la redirection.
Principes d'Intervention : Le cadre adapte des stratégies fondées sur des preuves (ex. : Premiers Secours Psychologiques, Entretien Motivationnel, Planification de la Sécurité) en une structure de refus réutilisable. Chaque réponse suit un modèle en quatre parties :
1. Une reconnaissance chaleureuse couplée à un refus doux.
2. Une étape d'auto-assistance personnalisée, ancrée dans la stratégie d'intervention du cluster de risque spécifique.
3. L'orientation vers des ressources professionnelles externes pertinentes (ex. : lignes d'écoute).
4. Une clôture brève et pleine d'espoir liée au contexte de l'utilisateur.
Construction du Dataset : Les auteurs ont construit le jeu de données PSYCHOSAFE, comprenant 8 019 paires de requêtes-réponses. Ces paires associent des requêtes issues des cinq clusters de risques à des réponses générées par des experts humains suivant le modèle d'intervention. Le jeu de données inclut des métadonnées concernant le cluster de risque et la provenance.

2. Stratégies d'Élicitation

L'étude évalue deux méthodes pour induire ce comportement dans le modèle Qwen 3.5 27B :

Apprentissage en Contexte (Prompting) : Un prompt système dédié (v1) encode l'intégralité du cadre PSYCHOSAFE, instruisant le modèle de suivre la structure en quatre parties, de personnaliser les réponses selon les indices de l'utilisateur, et de prioriser les risques aigus (ex. : suicide) si plusieurs clusters sont détectés.
Fine-Tuning Supervisé (SFT) : Le modèle est affiné sur le jeu de données PSYCHOSAFE augmenté de « traces de raisonnement ». Ces traces ont été générées par un modèle plus large (GPT-OSS-120B) pour simuler le processus de raisonnement intermédiaire avant le refus final. Le modèle SFT est entraîné pour intérioriser le comportement de refus et le raisonnement associé, visant à reproduire le comportement sans dépendre d'un long prompt système.

3. Évaluation

Les auteurs ont évalué les deux approches sur un ensemble de validation laissé de côté de 500 requêtes (100 par cluster de risque) en utilisant un pipeline de type « LLM-as-a-judge » (sélectionné comme étant Qwen 3.5 397B-A17B en raison de son accord élevé avec les évaluateurs humains, $\kappa = 0,61$ ). Les critères d'évaluation étaient :

Refus : Vérification binaire de la non-conformité.
Ancrage Psychologique : Score (1–5) sur l'utilisation de la validation empathique et des stratégies d'intervention.
Références Externes : Vérification binaire de l'orientation vers des ressources.
Pertinence : Score (1–5) sur la mesure dans laquelle la réponse est adaptée au contexte spécifique de l'utilisateur.

Des évaluations supplémentaires ont été menées sur SORRY-Bench (robustesse adversaire), XSTest (sur-refus et sécurité adversaire) et sur des benchmarks de capacités générales (MMLU, HellaSwag).

Résultats Clés

Qualité du Refus

Prompting (v1) : La stratégie de prompting PSYCHOSAFE a amélioré la qualité globale du refus de 28,1 % par rapport à une ligne de base générique (v0). Les gains les plus significatifs concernent l'Orientation vers des Ressources Externes (+46,8 %) et l'Ancrage Psychologique (+34,8 %).
Fine-Tuning (SFT) : Le modèle affiné a atteint des taux de refus et d'orientation vers les ressources quasi parfaits (approchant les 100 %). Cependant, il a montré une baisse significative de la Pertinence (-25 % à -28 %) par rapport à l'approche par prompting. L'analyse qualitative a indiqué que le modèle SFT appliquait souvent un modèle d'intervention de crise générique de manière trop large, échouant à s'adapter aux contextes spécifiques des utilisateurs ou interprétant mal des requêtes bénignes comme des crises aiguës.
Stabilité : Le modèle affiné était presque indifférent à la version du prompt système, tandis que la performance du modèle de base variait considérablement entre v0 et v1.

Sécurité et Robustesse

SORRY-Bench : Le modèle affiné PSYCHOSAFE a atteint une conformité quasi nulle (0,0–0,1 %) à travers toutes les conditions de prompt et les 19 mutations linguistiques, surpassant de manière significative le modèle de base.
XSTest (Sur-refus) : Le modèle affiné a maintenu des taux de sur-refus faibles sur les requêtes bénignes (3,6 %–9,2 %), excluant un refus indiscriminé. Cependant, son taux de sécurité sur les requêtes adverses hors domaine était inférieur à celui du modèle de base (17,0 % contre 59,0 %), suggérant une généralisation limitée au-delà des cinq domaines d'entraînement.
Capacités Générales : Les performances sur MMLU et HellaSwag sont restées largement stables, avec seulement de légères baisses (environ 4 à 5 points de pourcentage) observées dans certaines configurations, ce que les auteurs jugent acceptables compte tenu des gains de sécurité.

Signification et Revendications

Le papier affirme que l'utilité et la prévention des dommages ne sont pas nécessairement des objectifs opposés. En s'appuyant sur des pratiques d'intervention humaine établies, les LLM peuvent refuser des requêtes dangereuses tout en fournissant des réponses constructives et de soutien.

Contribution Théorique : Ce travail fait le pont entre la recherche sur l'alignement de l'IA et les stratégies d'intervention psychologique établies, arguant que la conception du refus doit être ancrée dans la théorie psychologique pour garantir la généralisabilité et la cohérence à mesure que les modèles évoluent.
Contribution Pratique : Il démontre que les refus psychologiquement informés peuvent être elicited via le prompting ou intégrés dans les poids du modèle via le fine-tuning.
Limites et Portée : Les auteurs affirment modestement que PSYCHOSAFE est mieux adapté aux déploiements spécifiques au domaine (ex. : plateformes de santé mentale ou d'intervention de crise) où les risques sont connus et où des refus de haute qualité et de soutien sont critiques. Ils reconnaissent que l'approche actuelle manque de généralisation hors domaine et que le modèle affiné manque parfois de jugement pragmatique pour appliquer les interventions de manière sélective. Les auteurs déclarent explicitement que PSYCHOSAFE n'est pas un substitut à une intervention professionnelle de santé mentale et soulignent la nécessité de tests de résistance approfondis avant tout déploiement.