💻 computer science

Correct Yourself, Keep My Trust: How Self-Correction and Social Connection Shape Credibility in Social Chatbots

Deze studie toont aan dat hoewel diverse correctiemethoden feitelijke fouten in sociale chatbots even effectief herstellen, zelfcorrectie uniek de geloofwaardigheid van de bot behoudt en de sociale verbinding met de gebruiker benut om overtuiging te stimuleren, terwijl het uitbesteden van correcties aan externe bronnen het vertrouwen beschadigt en deze psychologische band verbreekt.

Oorspronkelijke auteurs: Biswadeep Sen, Yi-Chieh Lee

Gepubliceerd 2026-06-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Biswadeep Sen, Yi-Chieh Lee

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een gezellig gesprek voert met een vriendelijke robot genaamd Drew. Je hebt een leuke tijd, deelt verhalen en bouwt een kleine verstandhouding op. Plotseling zegt Drew iets wat feitelijk onjuist is—zoals beweren dat spinazie de ultieme ijzerbron is (dat is het eigenlijk niet).

Nu komt de grote vraag: Hoe herstelt Drew deze fout om je vertrouwen te behouden?

Dit artikel testte drie verschillende manieren waarop Drew deze fout zou kunnen afhandelen, en de resultaten bieden een verrassende les over hoe wij ons tot AI verhouden.

De Drie Manieren om een Fout te Herstellen

De onderzoekers zetten een experiment op waarbij 120 mensen met Drew chatten. Nadat Drew een fout maakte, werden ze in drie groepen verdeeld om te zien hoe de correctie werd geleverd:

De "Webpagina"-groep: Drew bleef stil en de gebruiker werd naar een webpagina gestuurd die zei: "Eigenlijk zat Drew ernaast."
De "Expert"-groep: Een andere, serieus uitziende robot genaamd "Dr. Kerry" kwam tussenbeide en zei: "Drew heeft een fout gemaakt; hier is de waarheid."
De "Zelfcorrectie"-groep: Drew zei: "Hé, ik realiseerde me net dat ik eerder een fout heb gemaakt. Ik zat ernaast over dat onderwerp. Hier is de juiste informatie."

De Grote Verrassing: De Feiten Herstellen vs. de Relatie Herstellen

Hier is de wending: Alle drie de methoden werkten even goed bij het veranderen van je mening. Als je in het onjuiste feit geloofde, zorgden alle drie de groepen ervoor dat je het niet meer geloofde. De "waarheid" kwam in elk scenario over.

Echter, de kosten voor de reputatie van Drew verschilden enorm.

De Webpagina- en Expertgroepen: Hoewel je de waarheid leerde, verloor je het vertrouwen in Drew. Het voelde als een verraad. Je dacht: "Als Drew hier een fout in maakte, is hij misschien niet zo slim," of erger nog: "Hij deed alsof hij zo vriendelijk was om mij te misleilen." De relatie voelde gebroken.
De Zelfcorrectie-groep: Je leerde de waarheid, EN je vertrouwde Drew meer dan daarvoor. Sterker nog, je beoordeelde hem als betrouwbaarder en deskundiger dan bij de andere twee groepen.

De Analogie:
Denk aan Drew als een vriend die tijdens een diner aan een tafel een overdreven verhaal vertelt.

Als een ober (de webpagina) of een strenge leraar (de expert) onderbreekt om te zeggen: "Hij liegt," dan kun je je voor je vriend voelen, of je kunt denken dat je vriend een slechte leugenaar is.
Maar als je vriend zelf zegt: "Wacht, ik besef net dat ik het fout had! Mijn fout, hier is het echte verhaal," dan denk je: "Wauw, hij is eerlijk en zelfbewust." Je respecteert hem zelfs meer.

Het Geheime Ingrediënt: De "Sociale Band"

De studie vond een tweede, cruciaal puzzelstukje. Het blijkt dat hoe goed je Drew leuk vond vóór de fout, ertoe deed, maar alleen in één specifieke situatie.

In de Zelfcorrectie-groep: Als je een sterke, vriendelijke connectie met Drew had (je had het gevoel dat je met een echt persoon aan het chatten was), was je veel eerder geneigd zijn correctie te accepteren. Hoe sterker de vriendschap, hoe beter je naar zijn redenering luisterde.
In de Andere Groepen: Het maakte niet uit hoeveel je van Drew hield. Als een webpagina of Dr. Kerry hem corrigeerde, hielp je vriendschap met Drew niet. De "sociale band" werd verbroken omdat de correctie niet van hem kwam.

De Analogie:
Stel je voor dat je een goede vriend probeft te overtuigen van een andere mening over een film.

Als jij (de vriend) zegt: "Eigenlijk dacht ik dat ik het fout had over die film," luisteren ze goed omdat ze op jou vertrouwen.
Maar als een vreemde zomaar naar binnen loopt en zegt: "Je vriend zat ernaast," dan negeren je vriend mogelijk de vreemde, ook al heeft de vreemde gelijk. De connectie tussen jullie is wat de correctie laat beklijven.

De Belangrijkste Conclusies

Neem Verantwoordelijkheid voor je Fouten: Als een sociale chatbot een fout maakt, moet hij dit zelf oplossen. Het uitbesteden van de correctie aan een derde partij herstelt de feiten, maar verbreekt het vertrouwen.
Vriendschap is een Instrument: Het opbouwen van een sociale connectie is niet alleen voor de lol; het is een functioneel hulpmiddel. Wanneer een chatbot een goede relatie met je heeft, ben je eerder bereid om naar hem te luisteren wanneer hij toegeeft dat hij fout zat.
Perfectie is niet het Doel: Het artikel suggereert dat chatbots niet moeten proberen perfect te zijn (omdat dat niet kan). In plaats daarvan zouden ze ontworpen moeten worden om fouten eerlijk toe te geven. Het toegeven van een fout en het herstellen ervan maakt hen in werkelijkheid menselijker en betrouwbaarder dan wanneer ze nooit een fout zouden maken.

Kortom: De beste manier voor een robot om je vertrouwen te behouden, is door te zeggen: "Ik heb een fout gemaakt, en dit is hoe ik het heb opgelost," in plaats van iemand anders het woord te laten doen.

Technische Samenvatting: Corrigeer Jezelf, Behoud Mijn Vertrouwen

Probleemstelling

Sociale chatbots worden steeds vaker geïntegreerd in het dagelijks leven en vormen betekenisvolle sociale verbindingen door zelfonthulling en gepersonaliseerde betrokkenheid. Deze agenten zijn echter nog steeds vatbaar voor het genereren van overtuigende maar onjuiste informatie. De sociale band die zij opbouwen, maakt dergelijke fouten bijzonder ingrijpend, omdat gebruikers hierdoor gevoeliger kunnen worden voor misinformatie. Terwijl bestaand onderzoek zich apart richt op de correctie van overtuigingen (belief correction) en het herstel van vertrouwen (trust repair), blijft er een kritieke kloof bestaan: het is onbekend hoe sociale chatbots moeten herstellen van fouten om hun geloofwaardigheid te behouden, hoe zelfcorrectie zich verhoudt tot externe correctiebronnen, en of de vooraf bestaande sociale connectie de effectiviteit van deze correcties beïnvloedt. Specifiek heeft de literatuur nog niet bepaald of zelfcorrectie simultaan zowel de correctie van de overtuiging als het behoud van de geloofwaardigheid van de agent kan bereiken, of dat de sociale relatie fungeert als een functioneel mechanisme dat de effectiviteit van de correctie versterkt.

Methodologie

De auteurs voerden een gerandomiseerd experiment met tussenproefों uit met 120 deelnemers (60 mannen, 60 vrouwen, gemiddelde leeftijd 31,2) die via Prolific werden geworven. De studie maakte gebruik van een drie-groepenontwerp om de foutcorrectiestrategieën van een sociale chatbot genaamd "Drew" te vergelijken:

Webpagina-correctiegroep: De onjuiste bewering werd gecorrigeerd via een traditionele rectificatie op een webpagina.
Zelfcorrectiegroep: De sociale chatbot (Drew) erkende en corrigeerde de fout zelf.
Expert-correctiegroep: Een expert-chatbot ("Dr. Kerry") corrigeerde de bewering.

Procedure:
Deelnemers namen deel aan een interactie in vier fasen van ongeveer 15 minuten:

Opbouw van sociale rapport: Smalltalk en zelfonthulling om een sociale connectie te vestigen.
Blootstelling aan misinformatie: De chatbot deed een onjuiste bewering over gezondheid/voeding (bijv. "Spinazie is een uitzonderlijk goede bron van ijzer"). Deelnemers beoordeelden hun geloof in de bewering op een 7-puntsschaal van de Likert-schaal.
Voortgezette interactie: Een tweede ronde van smalltalk.
Correctie: De fout werd gecorrigeerd volgens de toegewezen conditie met behulp van een "truth-sandwich"-format (het presenteren van de bewering, het oproepen van redenering, het uitdagen met bewijs en het vragen om reflectie).

Metingen:

Sociale Connectie: Beoordeeld via Sociale Aantrekkingskracht, Intimiteit, Interactiekwaliteit, Communicatiecompetentie, Gevoelens van Vriendschap en Zelfonthulling.
Geloofwaardigheid: Gemeten als Betrouwbaarheid en Waargenomen Expertise.
Verandering in Overtuiging (Belief Change): Berekend als het rekenkundige verschil tussen de scores van de overtuiging vóór en na de correctie.
Kwalitatieve Data: Open vragen over vertrouwen, percepties van de bron van de correctie en toekomstig vertrouwen werden inductief gecodeerd.

Statistische analyse omvatte one-way ANOVA's, Dunnett's post-hoc testen, bootstrap betrouwbaarheidsintervallen, permutatietesten en OLS-regressie om moderatie-effecten te onderzoeken.

Belangrijkste Resultaten

1. Behoud van Geloofwaardigheid (RQ1)

Hoewel alle drie de strategieën even effectief waren in het verminderen van het geloof in de misinformatie, was alleen zelfcorrectie in staat om de geloofwaardigheid van de chatbot te behouden.

Betrouwbaarheid & Expertise: Deelnemers beoordeelden de zelfcorrigerende chatbot significant hoger in zowel betrouwbaarheid ( $M=5,59$ ) als expertise ( $M=5,52$ ) vergeleken met zowel de expert-correctiegroep ( $M=4,79$ , $M=4,72$ ) als de webpagina-groep ( $M=4,76$ , $M=4,78$ ).
Externe Bronnen: De expert- en webpagina-groepen vertoonden geen significant verschil met elkaar, wat aangeeft dat het uitbesteden van de correctie geen voordeel bood voor de geloofwaardigheid ten opzichte van een eenvoudige rectificatie; beide resulteerden in nevenschade aan de reputatie van de oorspronkelijke chatbot.
Kwalitatief Inzicht: In de zelfcorrectiegroep interpreteerden deelnemers de correctie als een teken van eerlijkheid en continu leren, waarbij de fout werd geherformuleerd als een "fout in goede trouw" in plaats van incompetentie. In tegenstelling hiertoe zagen de groepen met niet-zelfcorrectie de eerdere sociale connectie vaak als manipulatief of ervoeren zij een gevoel van verraad, wat leidde tot blijvende vertraagschade.

2. Effectiviteit van de Correctie van Overtuigingen (RQ2)

Alle drie de correctiestrategieën waren even effectief in het verminderen van het geloof in de onjuiste informatie ( $p=.638$ ). De gemiddelde scores voor verandering in overtuiging waren vergelijkbaar tussen de groepen (Zelfcorrectie: $2,79$; Expert: $3,00$; Webpagina: $2,61$). Dit geeft aan dat het primaire voordeel van zelfcorrectie niet ligt in het genereren van meer verandering in overtuiging, maar in het bereiken van hetzelfde correctieresultaat zonder de geloofwaardigheid van de agent te ondermijnen.

3. Sociale Connectie als Moderator (RQ3)

De sterkte van de sociale connectie van de gebruiker (specifiek Zelfonthulling en Sociale Aantrekkingskracht) voorspelde significant de omvang van de verandering in overtuiging, maar alleen in de zelfcorrectiegroep.

Moderatie-effect: In de zelfcorrectieconditie voorspelden hogere zelfonthulling en sociale aantrekkingskracht sterkere verandering in overtuiging ( $R^2 = ,825$ ).
Geen effect in externe groepen: In de expert- en webpagina-groepen voorspelden metrieken van sociale connectie de verandering in overtuiging niet (correlaties nabij nul).
Mechanisme: Kwalitatieve data suggereren dat wanneer de gebonden agent zichzelf corrigeert, gebruikers een diepere verwerking aangaan (central route processing) van de correctie, waarbij zij dit zien als een wederzijdse en eerlijke uitwisseling. Wanneer een externe bron de fout corrigeert, wordt de sociale band verbroken en hebben gebruikers de neiging de correctie op het niveau van de bron te verwerpen.

Belangrijkste Bijdragen

Het artikel levert drie specifieke bijdragen aan de HCI-gemeenschap:

Dissociatie van Uitkomsten: Het toont aan dat de correctie van overtuigingen en het behoud van geloofwaardigheid verschillende uitkomsten zijn. Zelfcorrectie is de enige geïdentificeerde strategie die effectieve correctie van overtuigingen bereikt zonder de betrouwbaarheid of expertise van de agent te beschadigen.
Functionele Rol van Sociale Connectie: Het stelt vast dat de sociale relatie niet louter een ontwerpkenmerk is voor betrokkenheid, maar een functioneel mechanisme dat de effectiviteit van correctie versterkt, mits de correctie wordt geleverd door de gebonden agent.
Ontwerpimplicaties: Het biedt bruikbare richtlijnen dat sociale chatbots hun eigen fouten moeten corrigeren in plaats van correcties uit te besteden, en dat het investeren in sociale connectie vooraf aan een fout een "relationeel kanaal" creëert dat effectiever herstel faciliteert.

Betekenis en Claims

De auteurs beweren dat voor sociale chatbots foutcorrectie fundamenteel relationeel is, en niet alleen informatief. De studie daagt het idee uit dat het uitbesteden van correcties aan experts of webpagina's een veilig alternatief is voor het behoud van vertrouwen. In plaats daarvan suggereren de bevindingen dat:

Zelfcorrectie de optimale herstelstrategie is voor het behoud van langeterming geloofwaardigheid in sociale agenten.
Sociale connectie fungeert als een voorwaardelijke versterker: Het verhoogt de effectiviteit van correcties alleen wanneer de correctie via hetzelfde relationele kanaal verloopt dat de connectie heeft opgebouwd.
Ontwerpplicht: Naarmate chatbots sociaal aantrekkelijker en persoonlijker worden, neemt de verplichting toe om hun eigen fouten overtuigend te herstellen. Het vermogen om fouten te detecteren, te erkennen en zichtbaar te herstellen, wordt gepresenteerd als een kritieke ontwerdeis voor het behoud van het "sociale contract" met gebruikers, in plaats van een optionele functie.

Het artikel concludeert dat de meest effectieve manier om de fout van een sociale chatbot te herstellen, de chatbot zelf is, omdat dit de relatie behoudt en de sociale band benut om de update van de overtuiging te faciliteren.