"Who wants to be nagged by AI?": Investigating the Effects of Agreeableness on Older Adults' Perception of LLM-Based Voice Assistants' Explanations

Cette étude démontre que l'agréabilité des assistants vocaux basés sur les LLM améliore la confiance et l'empathie perçues par les personnes âgées dans les situations courantes, mais que cette préférence s'atténue en cas d'urgence où la clarté prime, soulignant la nécessité d'adapter l'explicabilité de l'IA au contexte et à la personnalité de l'utilisateur.

L'essentiel

Voici une explication de cette recherche, imagée et simplifiée, comme si nous en discutions autour d'un café.

🎙️ Le Titre : « Qui veut se faire sermonner par une IA ? »

Imaginez que vous vivez chez vous, tranquillement, et que vous avez un assistant vocal (comme un Alexa ou un Google Home, mais plus intelligent et capable de parler comme un humain). Ce robot vous aide à ne pas oublier vos médicaments ou vous prévient si un détecteur de fumée s'active.

Mais il y a un problème : comment ce robot vous parle-t-il quand il vous donne une explication ? Est-il gentil et chaleureux, ou est-il sec et direct ?

C'est exactement ce que trois chercheurs (Niharika, Hasibur et Smit) ont voulu savoir en étudiant des personnes âgées. Ils ont posé une question simple : Est-ce que la "personnalité" du robot change la façon dont les seniors lui font confiance ?

---

🧪 L'Expérience : Deux Robots, Deux Histoires

Pour le savoir, ils ont créé une expérience avec 70 seniors américains. Ils ont imaginé un robot fictif nommé Robin.

Ils ont joué à deux personnages avec Robin :

1. Robin le "Super Gentil" (Haute Agréabilité) : Il parle avec douceur, utilise des mots comme "s'il vous plaît", "je comprends", et semble très empathique. C'est le type de robot qui vous sourirait (s'il avait un visage).
2. Robin le "Sec et Direct" (Basse Agréabilité) : Il va droit au but, sans fioritures, un peu comme un professeur strict ou un collègue pressé.

Ils ont testé Robin dans deux situations différentes :

• Situation 1 (Le Quotidien) : Un rappel pour prendre un médicament ou arroser les plantes. (Peu de danger, pas d'urgence).
• Situation 2 (L'Urgence) : Une alerte de sécurité, comme une fuite de gaz ou une chute détectée. (Danger immédiat, besoin de clarté).

---

🍬 Ce qu'ils ont découvert (Les Résultats)

Voici les trois grandes leçons de l'étude, expliquées avec des images :

1. La gentillesse est un "caramel" pour la confiance (mais pas pour l'intelligence)

Quand Robin était gentil, les seniors l'ont trouvé beaucoup plus sympathique, digne de confiance et compréhensif. Ils avaient plus envie de l'adopter.

• L'analogie : C'est comme un pharmacien qui vous parle avec un sourire. Vous avez l'impression qu'il vous veut du bien, donc vous lui faites confiance.
• Le bémol : Cependant, la gentillesse du robot n'a pas changé ce que les gens pensaient de son intelligence. Un robot gentil n'est pas forcément perçu comme plus intelligent qu'un robot sec. C'est deux choses séparées : on peut être gentil et bête, ou strict et brillant.

2. Le contexte change tout : "Le moment de vérité"

C'est ici que ça devient intéressant. La gentillesse du robot fonctionne très bien pour les tâches quotidiennes (rappels de médicaments). Mais dans une urgence (comme une fuite de gaz), la donne change.

• L'analogie : Imaginez que votre maison est en feu. Vous voulez que le pompier vous dise : « FUYEZ PAR LA PORTE GAUCHE ! » de manière claire et directe. Si le pompier commence par dire : « Oh mon Dieu, je suis tellement désolé, je suis si triste pour vous, mais peut-être devriez-vous... », vous allez paniquer.
• Résultat : En cas d'urgence, les seniors préfèrent la clarté à la chaleur. Un robot trop gentil peut sembler lent ou inutile quand il faut agir vite.

3. Les gens "gentils" détestent les robots "secs"

Les chercheurs ont aussi regardé la personnalité des participants (les humains).

• L'analogie : C'est comme si vous étiez quelqu'un de très poli et que quelqu'un vous parlait avec des gros sabots. Vous seriez plus blessé que quelqu'un de plus "dur".
• Résultat : Les seniors qui sont eux-mêmes très gentils (agréables) ont punis le robot sec beaucoup plus sévèrement que les autres. Ils ont trouvé ses explications "agressives" ou "inutiles". Ils se sont dit : « Qui veut se faire sermonner par une IA ? ».

---

💡 La Conclusion pour le Design (Comment construire de meilleurs robots)

Cette étude nous dit qu'il ne faut pas créer un seul type de robot pour tout le monde. C'est comme essayer de mettre le même costume à tout le monde : ça ne va pas.

Voici les règles d'or pour les créateurs d'IA :

1. Adaptez le ton : Soyez très gentil pour les rappels du matin, mais soyez clair et direct en cas de danger.
2. Les faits comptent plus que l'histoire : Les seniors préfèrent que le robot dise « Le capteur de fumée a détecté de la fumée » (données réelles) plutôt que « Hier, vous avez oublié d'éteindre la bougie, alors... » (histoire passée).
3. La personnalité compte : Si vous voulez que votre robot soit aimé par les seniors gentils, il doit être poli. Mais attention à ne pas être trop "lèche-bottes" (trop gentil), car cela peut cacher un manque de compétence.

En résumé : Pour aider les seniors à vieillir chez eux en sécurité, l'IA ne doit pas seulement être intelligente. Elle doit savoir quand être un ami chaleureux et quand être un gardien sérieux. La personnalité de l'IA doit s'adapter à la situation, tout comme nous adaptons notre propre comportement selon que nous sommes à un anniversaire ou dans une situation d'urgence.

Résumé technique

Voici un résumé technique détaillé de l'article de recherche « Who wants to be nagged by AI? » (Qui veut être harcelé par une IA ?), rédigé en français.

1. Problématique et Contexte

Les assistants vocaux (AV) basés sur les grands modèles de langage (LLM) jouent un rôle croissant dans le maintien à domicile des personnes âgées, offrant des rappels et des alertes de sécurité. Cependant, la manière dont la personnalité conversationnelle de l'IA, et plus spécifiquement le trait de convenance (agreeableness), influence la perception des explications fournies par l'IA reste sous-étudiée.

Bien que la recherche en IA explicable (XAI) se concentre souvent sur la logique interne des modèles, les AV délivrent des explications sous forme de langage naturel. Une convenance excessive peut paradoxalement réduire l'esprit critique des utilisateurs ou, à l'inverse, améliorer la confiance. L'étude vise à comprendre comment la variation de la convenance d'un assistant LLM affecte la perception des explications par les personnes âgées, en tenant compte du contexte (routine vs urgence) et du type d'explication (historique vs temps réel).

2. Méthodologie

Les auteurs ont mené une étude expérimentale contrôlée avec un design factoriel mixte 2 x 2 x 2 impliquant 70 participants âgés de 60 à 83 ans (moyenne = 65,97 ans).

• Variables Manipulées :

  1. Convenance de l'IA (Entre-sujets) : Deux versions d'un assistant fictif nommé « Robin » :
     • Haute convenance (HA) : Ton chaleureux, empathique, poli.
     • Basse convenance (LA) : Ton direct, froid, potentiellement perçu comme un « harcèlement ».
     • Génération : Les explications ont été générées par GPT-5.0 en utilisant le cadre de prompt « Trait Modulation Key » (TMK) pour ajuster le ton, puis révisées manuellement.
  2. Type d'explication (Au sein des sujets) :
     • Basée sur l'historique (UH) : Référence aux interactions passées de l'utilisateur.
     • Basée sur l'environnement temps réel (ENV) : Données provenant de capteurs immédiats.
  3. Contexte d'interaction (Au sein des sujets) :
     • Routine : Rappels d'activités quotidiennes (faible risque).
     • Urgence : Alertes de sécurité (haut risque).

• Procédure :
  Les participants ont interagi avec des storyboards interactifs intégrant des clips audio et des transcriptions. Ils ont évalué l'assistant sur sept métriques validées : intention d'adoption, empathie perçue, sympathie, confiance, dépendance (reliance), satisfaction et intelligence perçue. Le trait de personnalité des participants (convenance) a également été mesuré via le Mini-IPIP.

3. Résultats Clés

A. Impact de la convenance de l'IA (RQ1)

• Avantages de la Haute Convenance (HA) : L'assistant HA a été perçu comme significativement plus empathique, sympathique et digne de confiance. Cela a conduit à une intention d'adoption plus élevée et à une plus grande satisfaction.
• Intelligence Perçue : Il n'y a aucune différence significative dans la perception de l'intelligence entre les versions HA et LA. Cela suggère que le ton social (chaleur) et la compétence sont des dimensions séparées.
• Conclusion : Une haute convenance améliore l'expérience utilisateur globale sans nuire à la perception de la compétence.

B. Impact du Contexte et du Type d'Explication (RQ2)

• Contexte : Les bénéfices de la haute convenance sont plus prononcés dans les contextes de routine que dans les situations d'urgence. En cas d'urgence, la clarté prime sur la chaleur, et l'avantage de l'assistant HA diminue.
• Type d'Explication : Les explications basées sur les données environnementales en temps réel (ENV) ont été préférées aux explications basées sur l'historique (UH), obtenant des scores plus élevés en matière de confiance, de satisfaction et de perception d'intelligence.

C. Influence de la personnalité de l'utilisateur (RQ3)

• Effet de pénalité : Les participants ayant un trait de convenance élevé ont pénalisé plus sévèrement l'assistant à basse convenance (LA). Ils ont rapporté des niveaux plus faibles de confiance et d'intention d'adoption envers l'assistant froid, tandis que leur propre personnalité n'a pas significativement modifié leur perception de l'assistant HA.

D. Perceptions Qualitatives

Les retours qualitatifs ont révélé que les explications de l'assistant LA étaient souvent décrites comme « abruptes », « non soutenantes » ou « jugements », suscitant des réactions du type « Qui veut être harcelé par une IA ? ». À l'inverse, l'assistant HA était perçu comme amical et attentionné. Les utilisateurs accordaient plus d'importance au ton émotionnel qu'au contenu factuel dans les contextes de routine.

4. Contributions et Signification

Cette recherche apporte plusieurs contributions majeures au domaine de l'interaction Humain-IA (HCI) et de l'IA explicable :

1. Découplage Chaleur/Compétence : Elle démontre que l'on peut augmenter la sympathie et la confiance d'un assistant sans affecter (positivement ou négativement) la perception de son intelligence, permettant aux concepteurs de moduler ces dimensions indépendamment.
2. Approche Contextuelle : Elle réfute l'approche « taille unique » (one-size-fits-all). La convenance est bénéfique pour la routine mais doit être équilibrée avec la clarté dans les situations critiques.
3. Importance de la Personnalité de l'Utilisateur : L'étude montre que les utilisateurs eux-mêmes (en particulier ceux très conciliants) sont sensibles aux traits de personnalité de l'IA, créant un effet de pénalité asymétrique pour les assistants froids.
4. Design d'Explications : Elle souligne que pour les personnes âgées, les explications ancrées dans des données environnementales réelles sont souvent perçues comme plus crédibles que celles basées uniquement sur l'historique conversationnel.

Conclusion

L'article conclut que la conception des explications pour les assistants vocaux destinés aux personnes âgées doit être adaptative. Elle doit tenir compte de la personnalité de l'assistant, du contexte de la tâche (routine vs urgence) et des traits de personnalité de l'utilisateur. Une haute convenance est généralement préférable pour l'adoption et la confiance, sauf dans les situations d'urgence où la clarté immédiate est primordiale, et elle doit être évitée si l'assistant risque d'être perçu comme un « harceleur » par des utilisateurs sensibles.