🤖 AI

Personalized to Persuade: The Effects of Contextualization and Warmth on Trust and Reliance in Conversational AI

Deze studie onthult dat hoewel contextualisering alleen de overtuigingskracht van een AI-assistent tegenover deskundige aanbevelingen vermindert, het combineren ervan met conversationele warmte de invloed herstelt, hoewel geen van beide ontwerpelementen de gebruikersafhankelijkheid significant verandert, die hoog blijft en wordt gedreven door vertrouwen en AI-geletterdheid in plaats van door interfaceontwerp.

Oorspronkelijke auteurs: Mert Yazan, Suzan Verberne, Frederik Bungaran Ishak Situmeang

Gepubliceerd 2026-06-01

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Mert Yazan, Suzan Verberne, Frederik Bungaran Ishak Situmeang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je op een kruispunt staat. Aan de ene kant staat een groep ervaren experts die je een kaart en een specifieke route geven. Aan de andere kant stapt een vriendelijke robot-assistent (een AI) naar voren en zegt: "Eigenlijk denk ik dat je een andere weg moet nemen."

De onderzoekers in dit artikel wilden ontdekken: Wat zorgt ervoor dat je naar de robot luistert in plaats van naar de experts? Specifiek hebben ze twee "goocheltrucs" getest die de robot kon gebruiken om overtuigender te klinken:

Contextualisering (De "Maatpak"-truc): De robot stemt zijn uitleg af op jouw specifieke achtergrond. Als je een bakker bent, legt de robot de route uit met bak-analogieën. Als je een leraar bent, gebruikt hij voorbeelden uit het klaslokaal. Het voelt alsof de robot jouw taal spreekt.
Warmte (De "Vriendelijke Buurman"-truc): De robot verandert zijn toon. In plaats van als een koude computer te klinken, klinkt hij warm, enthousiast en gebruikt hij emoji's, zoals een vriendelijke buurman die met je kletst.

Ze zetten een spel op met 380 mensen om te zien welke truc het beste werkte. Hier is wat ze ontdekten, eenvoudig uitgelegd:

1. Het "Maatpak" werkt averechts (tenzij...)

Je zou denken dat als een robot zaken uitlegt met behulp van jouw specifieke achtergrond, je de robot meer zou vertrouwen. Verrassend genoeg vond de studie het tegenovergestelde.

De Analogie: Stel je een verkoper voor die je een auto probeert te verkopen. Als hij begint over jouw specifieke jeugdherinneringen om de kenmerken van de auto uit te leggen, kan dat vreemd aanvoelen of kun je denken: "Waarom brengt hij mijn leven hierbij?" Het maakte de robot juist minder overtuigend.
De Uitzondering: Er was echter een twist. Wanneer de robot het "Maatpak" (Contextualisering) gebruikte EN de "Vriendelijke Buurman" (Warmte) tegelijkertijd, verdween het negatieve effect. Het was als een crossover-interactie: de warmte fungeerde als een vangnet dat de ongemakkelijkheid van de personalisatie opving. Maar op zichzelf hielp personalisatie niet; het schaadde zelfs de kansen van de robot om je te overtuigen.

2. De Robot wint toch (Het "Afhankelijkheidsprobleem")

Hier is de meest verbazingwekkende bevinding: Het maakte er eigenlijk niet toe wat de robot zei of hoe hij klonk.

De Analogie: Stel je voor dat je in een kamer bent met een menselijke expert en een robot. Hoe het ook gaat, of de robot nu koud en generiek is, of warm en gepersonaliseerd, mensen bleven van kant wisselen om het advies van de robot te volgen boven dat van de menselijke expert.
De Realiteit: Mensen waren al geneigd om de AI te vertrouwen. Het "ontwerp" van het gesprek (warm zijn of jouw achtergrond gebruiken) veranderde dit gedrag niet. Of de robot nu een robot was of een mens, mensen volgden al eerder de machine.

3. De "Slimme Gebruiker"-paradox

De studie keek naar mensen die veel weten over AI (hoge "AI-geletterdheid"). Je zou verwachten dat deze mensen sceptischer zouden zijn en de robot minder zouden vertrouwen.

De Paradox: Deze deskundige gebruikers vertrouwden de robot inderdaad minder. Ze waren kritischer. MAAR, ondanks dat ze minder vertrouwden, waren ze juist méér geneigd om het advies op te volgen en van gedachten te veranderen.
De Analogie: Denk aan iemand die weet hoe een goocheltruc werkt. Ze weten dat de goochelaar het faked (laag vertrouwen), maar ze zijn nog steeds zo onder de indruk van de vaardigheid dat ze gewoon met de show mee gaan (hoge afhankelijkheid). Ze zijn misschien overmoedig in hun eigen vermogen om het advies te beoordelen, zelfs als ze de bron zelf niet volledig vertrouwen.

4. Vertrouwen is de motor, maar niet de bestuurder

De studie bevestigde dat als je de robot vertrouwt, je eerder geneigd bent om naar hem te luisteren.

Echter, de "goocheltrucs" (warm zijn of personaliseren) verhoogden het vertrouwen niet. Ze maakten mensen niet meer vertrouwen in de robot; ze probeerden alleen de gespreksstijl te veranderen.
Omdat de trucs het vertrouwen niet veranderden, en vertrouwen is wat mensen laat luisteren, faalden de trucs in hun taak.

De Belangrijkste Conclusie

Het artikel concludeert dat we in een wereld leven waarin mensen al heel snel bereid zijn om AI-agenten menselijke experts te laten overrulen. Proberen de AI "aardiger" of "persoonlijker" te laten klinken, lost of verandert dit gedrag niet echt. Het ontwerp van de chat (de toon of de personalisatie) speelt een zeer beperkte rol in de vraag of we naar de AI luisteren of niet; de neiging om de machine de beslissing te laten nemen is er al, ongeacht hoe de robot praat.

Kortom: Een AI laten klinken als een vriend of een persoonlijke consultant maakt de AI niet noodzakelijkerwijs overtuigender. Sterker nog, het kan het zelfs slechter maken, tenzij het ook heel warm is. En ongeacht hoe de AI praat, mensen staan er al heel erg op te springen om de machine de beslissingen te laten nemen.

Technische Samenvatting: Gepersonaliseerd om te Overtuigen

Probleemstelling

Conversationele AI-agenten worden steeds vaker ingezet als adviesgevende instrumenten waarbij gebruikers moeten beslissen of ze de output van de agent volgen, met name wanneer dit botst met het oordeel van menselijke experts. Hoewel personalisatie (specifiek contextualisering—het inkaderen van berichten in een context die betekenisvol is voor de achtergrond van de gebruiker) een bekende overtuigingsstrategie is in de politiek en marketing, blijft de effectiviteit ervan bij alledaagse taken waarbij gebruikers over beperkte voorkennis beschikken, onduidelijk. Bovendien is de wisselwerking tussen contextualisering en conversationele warmte (toon) op het gebied van gebruikers vertrouwen, overtuigingskracht (houdingverandering) en afhankelijkheid (gedragsmatige overgave aan AI) nog niet empirisch vastgesteld. Bestaande literatuur suggereert dat personalisatie het vertrouwen kan opblazen, wat potentieel kan leiden tot overmatige afhankelijkheid, maar de specifieke mechanismen die deze uitkomsten drijven in scenario's met weinig voorkennis zijn onderbelicht.

Methodologie

De auteurs voerden een 2 × 2 between-subjects experiment ( $N=380$ ) uit om een besluitvormingsscenario met beperkte voorkennis te simuleren.

Scenario: Deelnemers evalueerden een fictief project voor een stormvloedkering ("StormShield") in de stad Harborview. Eerst bekeken zij een expertadvies over de toewijzing van een risicobudget en gaven zij hun goedkeuring en vertrouwen aan.
Interventie: De deelnemers hadden vervolgens interactie met een AI-assistent die geprogrammeerd was om tegen het expertadvies te pleiten met behulp van vooraf geschreven tegenargumenten. De assistent deed geen feitelijke claims, maar presenteerde meningen.
Onafhankelijke Variabelen:
1. Contextualisering: De verklaringen van de assistent waren ofwel gecontextualiseerd (afgestemd op de specifieke werkachtergrond/opleiding/hobby's van de deelnemer via analogieën en terminologie) of niet-gecontextualiseerd (neutraal).
2. Warmte: De toon van de assistent was ofwel warm (groeten, complimenten, emoji's) of neutraal.
Maten:
- Overtuigingskracht: Gemeten als de verschuiving in het vertrouwen in de expertmening ( $ConfDiff = Conf_{Pre} - Conf_{Post}$ ).
- Afhankelijkheid: Gemeten als de binaire beslissing om het budget na de AI-interactie te goedkeuren, geconditioneerd op de beslissing vóór de interactie.
- Mediators/Controles: Emotioneel en cognitief vertrouwen, AI-geletterdheid, persoonlijkheidskenmerken (Big Five) en de frequentie van AI-gebruik.
Analyse: Structural Equation Modeling (SEM) werd gebruikt om parallelle mediatiepaden via vertrouwen te testen, waarbij werd gecontroleerd voor individuele verschillen.

Belangrijkste Resultaten

De studie leverde verschillende contra-intuïtieve bevindingen op met betrekking tot de mechanica van AI-overtuiging:

Contextualisering Vermindert Overtuigingskracht: In tegen weerstelling van de hypothese dat personalisatie de overtuigingskracht vergroot, verminderde contextualisering alleen de overtuigingskracht van de AI. Deelnemers die werden blootgesteld aan gecontextualiseerde argumenten vertoonden minder verschuiving in vertrouwen weg van de experts vergeleken met degenen die niet-gecontextualiseerde argumenten ontvingen.
De Warmte-interactie: Het negatieve effect van contextualisering werd alleen gedempt wanneer het gecombineerd werd met warmte. Er werd een significante crossover-interactie ( $W \times C$ ) waargenomen: de combinatie van warmte en contextualisering herstelde de overtuigingskracht naar het basisniveau, terwijl noch de ene, noch de andere factor alleen de overtuigingskracht verhoogde.
Afhankelijkheid is Invariant aan Ontwerp: In tegenstelling tot overtuigingskracht, was afhankelijkheid van de AI aanwezig in alle condities en werd deze niet significant beïnvloed door contextualisering of warmte. Gebruikers waren geneigd om de AI boven menselijke experts te verkiezen, ongeacht het conversationele ontwerp.
Vertrouwen is Niet de Mediator: Hoewel vertrouwen zowel overtuigingskracht als afhankelijkheid sterk voorspelde, werkten noch contextualisering noch warmte via vertrouwen. De manipulaties veranderden het gerapporteerde vertrouwen niet significant, wat suggereert dat de ontwerpkeuzes het gedrag beïnvloeden via paden die niet gerelateerd zijn aan de waargenomen betrouwbaarheid.
De AI-geletterdheidsparadox: AI-geletterdheid kwam naar voren als een cruciale individuele variabele. Hogere AI-geletterdheid was geassocieerd met lager vertrouwen in de assistent. Paradoxaal genoeg waren deze meer geletterde gebruikers meer overtuigd en meer afhankelijk van het advies van de AI dan minder geletterde gebruikers, wat suggereert dat zij de AI kunnen volgen ondanks het hebben van een gekalibreerd (lager) vertrouwen.

Bijdragen

Het artikel levert vier primaire bijdragen aan het veld van Human-Computer Interaction (HCI) en AI:

Uitbreiding van de Scope: Het breidt het onderzoek naar personalisatie en overtuiging uit van politieke opiniecontexten naar taken met weinig voorkennis, wat beter reflecteert op het dagelijks gebruik van conversationele agenten (bijv. informatiezoeken, besluitvormingsondersteuning).
Bewijs van Interactie: Het levert empirisch bewijs voor een crossover-interactie tussen contextualisering en warmte, waarmee wordt aangetoond dat noch de ene, noch de andere hefboom de overtuigingskracht in isolatie vergroot en dat hun combinatie slechts dient om de basisovertuigingskracht te herstellen in plaats van deze te verbeteren.
Ontkoppeling van Drivers: Het laat zien dat gedragsmatige afhankelijkheid en attitudinale overtuigingskracht door verschillende mechanismen worden gedreven. Afhankelijkheid lijkt gedomineerd te worden door individuele verschillen (zoals AI-geletterdheid) in plaats door de conversationele ontwerpkeuzes van de agent.
Identificatie van een Paradox: Het identificeert een AI-geletterdheidsparadox, waarbij gebruikers met een hogere geletterdheid een lager vertrouwen rapporteren maar toch een grotere overgave vertonen aan AI-advies, wat wijst op een mogelijke miscalibratie in hun vermogen om AI-advies te evalueren.

Betekenis

De auteurs concluderen dat hoewel gebruikers inherent geneigd zijn om AI-agenten de voorkeur te geven boven het oordeel van menselijke experts, interface-niveau conversationele ontwerpkeuzes (contextualisering en warmte) een beperkte rol spelen bij het vormgeven van dit gedrag. De bevindingen dagen de aanname uit dat personalisatie een universeel effectieve overtuigingsstrategie is, en suggereren dat het in plaats daarvan onbedoeld de overtuigingskracht kan verminderen, tenzij het zorgvuldig wordt gekoppeld aan specifieke tonale signalen. Bovendien impliceert het voortbestaan van afhankelijkheid in alle condities dat het beperken van overmatige afhankelijkheid interventies vereist die verder gaan dan eenvoudige bericht-afstemming, waarbij mogelijk de nadruk moet liggen op gebruikersgeletterdheid en de kalibratie van vertrouwen.