Correct Yourself, Keep My Trust: How Self-Correction and Social Connection Shape Credibility in Social Chatbots
Diese Studie zeigt, dass verschiedene Korrekturmethoden zwar faktische Fehler in sozialen Chatbots gleichermaßen beheben, die Selbstkorrektur jedoch die Glaubwürdigkeit des Bots einzigartig bewahrt und die soziale Verbindung zum Nutzer nutzt, um eine Änderung der Überzeugung voranzutreiben, während die Auslagerung von Korrekturen an externe Quellen das Vertrauen beschädigt und diese psychologische Verbindung unterbricht.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie unterhalten sich mit einem freundlichen Roboter namens Drew. Sie hatten eine schöne Zeit, haben Geschichten geteilt und eine kleine Vertrauensbasis aufgebaut. Plötzlich sagt Drew etwas faktisch Falsches – wie zum Beispiel zu behaupten, dass Spinat die ultimative Eisenquelle sei (das ist er eigentlich nicht).
Nun stellt sich die große Frage: Wie korrigiert Drew diesen Fehler, um Ihr Vertrauen zu bewahren?
Dieses Paper testete drei verschiedene Wege, wie Drew den Fehler handhaben könnte, und die Ergebnisse bieten eine überraschende Lektion darüber, wie wir uns auf eine KI beziehen.
Die drei Wege, einen Fehler zu korrigieren
Die Forscher gestalteten ein Experiment, bei dem 120 Personen mit Drew chatteten. Nachdem Drew einen Fehler gemacht hatte, wurden sie in drei Gruppen aufgeteilt, um zu sehen, wie die Korrektur vermittelt wurde:
- Die „Webseite“-Gruppe: Drew blieb still, und der Nutzer wurde auf eine Webseite geleitet, die besagte: „Tatsächlich lag Drew falsch.“
- Die „Experten“-Gruppe: Ein anderer, seriös wirkender Roboter namens „Dr. Kerry“ griff ein und sagte: „Drew hat einen Fehler gemacht; hier ist die Wahrheit.“
- Die „Selbstkorrektur“-Gruppe: Drew sagte: „Hey, mir ist gerade klar geworden, dass ich vorhin einen Fehler gemacht habe. Ich lag mit dem falsch. Hier sind die korrekten Informationen.“
Die große Überraschung: Den Fakt korrigieren vs. die Beziehung korrigieren
Hier ist die Wendung: Alle drei Methoden funktionierten gleichermaßen gut dabei, Ihre Meinung zu ändern. Wenn Sie den falschen Fakt geglaubt hatten, sorgten alle drei Gruppen dafür, dass Sie ihn nicht mehr glaubten. Die „Wahrheit“ drang in jedem Szenario durch.
Jedoch war die Kosten für Drews Ruf sehr unterschiedlich.
- Die „Webseite“- und „Experten“-Gruppen: Während Sie die Wahrheit lernten, verloren Sie das Vertrauen in Drew. Es fühlte sich wie ein Verrat an. Sie dachten: „Wenn Drew falsch lag, ist er vielleicht nicht besonders intelligent“ oder schlimmer noch: „Er hat nur so getan, als wäre er freundlich, um mich zu täuschen.“ Die Beziehung fühlte sich gebrochen an.
- Die „Selbstkorrektur“-Gruppe: Sie lernten die Wahrheit UND Sie vertrauten Drew mehr als zuvor. Tatsächlich bewerteten Sie ihn als vertrauenswürdiger und kompetenter als in den anderen beiden Gruppen.
Die Analogie:
Denken Sie an Drew wie an einen Freund, der bei einem Abendessen eine Seemannsgarn-Geschichte erzählt.
- Wenn ein Kellner (die Webseite) oder ein strenger Lehrer (der Experte) unterbricht, um zu sagen: „Er lügt“, könnten Sie sich für Ihren Freund schämen oder denken, dass Ihr Freund ein schlechter Lügner ist.
- Aber wenn Ihr Freund selbst sagt: „Warte, ich habe gerade gemerkt, dass ich mich da geirrt habe! Mein Fehler, hier ist die wahre Geschichte“, dann denken Sie: „Wow, er ist ehrlich und selbstbewusst.“ Sie respektieren ihn sogar noch mehr.
Die geheime Zutat: Die „soziale Bindung“
Die Studie fand noch ein zweites, entscheidendes Puzzleteil. Es stellt sich heraus, dass es darauf ankam, wie sehr Sie Drew vor dem Fehler mochten, aber nur in einer ganz spezifischen Situation.
- In der „Selbstkorrektur“-Gruppe: Wenn Sie eine starke, freundliche Verbindung zu Drew hatten (Sie hatten das Gefühl, mit einer echten Person zu chatten), war die Wahrscheinlichkeit viel größer, dass Sie seine Korrektur akzeptierten. Je stärker die Freundschaft war, desto eher hörten Sie auf seine Begründung.
- In den anderen Gruppen: Es spielte keine Rolle, wie sehr Sie Drew mochten. Wenn eine Webseite oder Dr. Kerry ihn korrigierte, half Ihre Freundschaft mit Drew nicht weiter. Die „soziale Bindung“ wurde unterbrochen, weil die Korrektur nicht von ihm kam.
Die Analogie:
Stellen Sie sich vor, Sie versuchen, einen engen Freund davon zu überzeugen, seine Meinung über einen Film zu ändern.
- Wenn Sie (der Freund) sagen: „Eigentlich glaube ich, dass ich mich bei diesem Film geirrt habe“, hört er genau zu, weil er Ihnen vertraut.
- Aber wenn ein Fremder herankommt und sagt: „Dein Freund hatte unrecht“, wird dein Freund den Fremden vielleicht ignorieren, selbst wenn dieser recht hat. Die Verbindung zwischen Ihnen beiden ist das, was die Korrektur greifbar macht.
Die wichtigsten Erkenntnisse
- Stehen Sie zu Ihren Fehlern: Wenn ein sozialer Chatbot einen Fehler macht, sollte er ihn selbst korrigieren. Die Korrektur an einen Dritten auszulagern, korrigiert zwar die Fakten, bricht aber das Vertrauen.
- Freundschaft ist ein Werkzeug: Den Aufbau einer sozialen Verbindung ist nicht nur zum Vergnügen da; es ist ein funktionales Werkzeug. Wenn ein Chatbot eine gute Beziehung zu Ihnen hat, sind Sie eher bereit, ihm zuzuhören, wenn er zugibt, dass er sich geirrt hat.
- Perfektion ist nicht das Ziel: Das Paper legt nahe, dass Chatbots nicht versuchen sollten, perfekt zu sein (da sie es nicht sein können). Stattdessen sollten sie so konzipiert sein, dass sie Fehler ehrlich eingestehen. Einen Fehler zuzugeben und ihn zu korrigieren, lässt sie tatsächlich menschlicher und zuverlässiger erscheinen, als wenn sie nie einen Fehler machen würden.
Kurz gesagt: Der beste Weg für einen Roboter, Ihr Vertrauen zu behalten, ist zu sagen: „Ich habe mich vertan, und so habe ich es korrigiert“, anstatt die Sache von jemand anderem erklären zu lassen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.