Responses to Unfavorable Outcomes Produced by Human and Artificial Agents: A Dual-Pathway Model of Upward Counterfactual Thinking and Intentionality Attribution
Diese Arbeit zeigt auf, dass ungünstige Ergebnisse, die von künstlichen Agenten hervorgerufen werden, eher akzeptiert werden als solche von menschlichen Agenten, da Menschen weniger aufwärtsgerichtetes kontrafaktisches Denken und Intentionalitätszuschreibung gegenüber KI betreiben, eine Disparität, die sich verstärkt, wenn das Ergebnis eine hohe persönliche Tragweite besitzt.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie haben gerade eine schlechte Note in einer Prüfung erhalten, oder vielleicht ist Ihre Lieblingspizza kalt und verspätet geliefert worden. Ihr Gehirn beginnt sofort mit einer kleinen Detektivarbeit. Sie stellen sich zwei große Fragen: „Hätte das anders laufen können, wenn sich jemand nur mehr Mühe gegeben hätte?“ und „Hat die Person, die den Fehler gemacht hat, das mit Absicht getan, um mich zu ärgern?“ Psychologen nennen die erste Frage „aufwärtsgerichtiges Kontrafaktisches Denken“ – es ist wie ein Blick in einen „Was wäre wenn“-Film in Ihrem Kopf, in dem die Dinge besser laufen. Die zweite Frage betrifft die „Intentionalitätsattribution“, was im Grunde bedeutet, zu erraten, ob die andere Person eine hinterlistige, böse Absicht hatte.
Stellen Sie sich nun vor, Sie müssen mit einem schlechten Ergebnis fertig werden, das durch einen menschlichen Chef oder einen Roboter-Computer verursacht wurde. Lange Zeit fragten sich Wissenschaftler: Werden wir Roboter genauso hassen wie Menschen, wenn sie versagen (was man „Algorithmus-Aversion“ nennt), oder glauben manche, dass wir ihnen eher vertrauen könnten, weil sie fairer erscheinen? Aber was passiert, nachdem das Negative bereits eingetreten ist? Akzeptieren wir das Ergebnis leichter, wenn ein Roboter es verursacht hat, oder macht es uns nur noch wütender? Dieses Paper taucht genau in diesen Moment des Frusts ein, um zu sehen, wie unser Gehirn mit Fehlern von Fleisch und Blut gegenüber digitalen Agenten umgeht.
Der Roboter gegen den Chef: Wer bekommt die Schuld?
Diese Studie, durchgeführt von den Forschern Zhao, Li und Wen, wollte eine einfache, aber knifflige Frage beantworten: Wenn etwas schiefgeht, akzeptieren wir es eher, wenn ein Roboter es verursacht hat, oder wenn ein Mensch es getan hat? Um dies herauszufinden, führten sie zwei Experimente mit fiktiven Geschichten (Szenarien) durch, die sich für die Teilnehmer real anfühlten.
In dem ersten Experiment baten sie 472 Personen, sich vorzustellen, sie seien Essenslieferanten. Plötzlich taucht eine neue Bestellung auf, die sie zu spät kommen ließe und in die völlig falsche Richtung ging. Sie konnten nicht Nein sagen. Der Clou dabei? Die Hälfte der Fahrer wurde informiert, dass ein menschlicher Manager diese schreckliche Bestellung zugewiesen hatte, und die andere Hälfte wurde darüber informiert, dass ein Computer-Algorithmus sie zugewiesen hatte.
Die Ergebnisse waren eindeutig: Die Menschen waren viel eher bereit, die schlechte Bestellung zu akzeptieren, wenn sie vom Computer kam. Wenn ein menschlicher Manager die Bestellung zugewiesen hatte, waren die Fahrer wütender und weniger bereit, es einfach hinzunehmen. Warum? Weil ihr Gehirn auf zwei spezifische Arten auf Hochtouren arbeitete:
- Der „Was wäre wenn“-Film: Wenn ein Mensch einen Fehler machte, begannen die Fahrer sich vorzustellen: „Oh, der Manager hätte eine andere Route wählen können!“ oder „Er hätte zuerst meine anderen Bestellungen prüfen können!“ Dies ist aufwärtsgerichtetes kontrafaktisches Denken. Es ist, als sähe man eine offene Tür und dächte: „Wenn er sie nur geschlossen hätte, wäre ich nicht nass geworden!“ Je mehr man sich eine bessere Alternative vorstellen kann, desto schwerer fällt es, das aktuelle Chaos zu akzeptieren.
- Der „Böswillige Absicht“-Detektiv: Wenn ein Mensch die schlechte Bestellung zugewiesen hatte, begannen die Fahrer zu denken: „Hat er das mit Absicht gemacht? Hat er mich ignoriert?“ Dies ist die Intentionalitätsattribution. Wir nehmen an, dass Menschen Gefühle und Entscheidungen haben, also fragen wir uns bei einem Fehler, ob er getan wurde, um gemein zu sein. Bei Computern hingegen sehen wir sie einfach als regelbefolgende Maschinen. Es ist schwer zu denken, dass ein Roboter aus Absicht „gemein ist“; es ist einfach ein Fehler oder eine Berechnung.
Die Studie fand heraus, dass wir die schlechten Entscheidungen von Menschen weniger leicht akzeptieren, weil diese zwei mentale Prozesse auslösen (den „Was wäre wenn“-Film und den Verdacht auf „böswillige Absicht“). Roboter hingegen werden als regelbefolgende Maschinen ohne Gefühle gesehen, weschehalb sie diese Gedanken nicht so stark auslösen und wir ihre schlechten Entscheidungen leichter akzeptieren.
Der Dreh mit den „Persönlichen Einsätzen“
Aber warten Sie, passiert das immer? Die Forscher fragten sich, ob es eine Rolle spielt, wie sehr einen das schlechte Ergebnis persönlich trifft. Hier kommt das zweite Experiment ins Spiel. Sie baten 360 Personen, sich vorzustellen, sie hätten keinen Platz in einem speziellen Schulungsprogramm am Arbeitsplatz erhalten.
Diesmal änderten sie die Regeln. Für einige Teilnehmer war diese Schulung wenig bedeutsam (low stakes) – es war nur ein lustiger Kurs, der ihre Karriere nicht verändern würde. Für andere war sie hoch bedeutsam (high stakes) – der Erhalt dieser Schulung bedeutete eine Beförderung, eine Gehaltserhöhung oder die Chance, an coolen Projekten zu arbeiten. Das Nicht-Erhalten wäre ein herber Rückschlag für ihre Zukunft gewesen.
Hier wird die Geschichte interessant. Wenn der Einsatz gering war (nur ein lustiger Kurs), spielte es keine große Rolle, ob ein Mensch oder ein Roboter „Nein“ sagte. Die Menschen akzeptierten die Antwort in etwa gleicher Weise. Sie kümmerten sich nicht genug, um ihre „Was wäre wenn“-Filme oder ihre Detektivarbeit zu starten.
Doch als die Einsätze hoch waren (was ihre Karriere betraf), explodierte der Unterschied zwischen Menschen und Robotern.
- Hoher Einsatz + Mensch: Die Menschen schalteten auf Hochtouren. Sie dachten: „Mein Chef hätte eine Ausnahme machen können!“ und „Hat mein Chef mich absichtlich sabotiert?“ Die Wut und der Widerstand waren riesig.
- Hoher Einsatz + Roboter: Die Leute fanden es zwar auch schade, waren aber viel eher bereit, es zu akzeptieren. Sie dachten: „Nun, der Computer hat einfach die Regeln befolgt“, und investierten nicht viel Energie darin, sich Alternativen vorzustellen oder böswillige Absichten zu vermuten.
Was das alles bedeutet
Was ist also die Lehre daraus? Das Paper legt nahe, dass unsere Gehirne Roboter und Menschen unterschiedlich behandeln, wenn etwas schiefgeht, aber nur dann, wenn es uns wirklich wichtig ist.
Wenn ein Roboter Ihr Leben vermasselt, fühlen Sie sich vielleicht schlecht, aber Sie sind weniger wahrscheinlich dazu geneigt, ihm einen „schlechten Charakter“ zu unterstellen oder darüber zu grübeln, wie er die Dinge hätte anders machen können. Sie sehen es als einen Systemfehler an. Aber wenn ein Mensch denselben Fehler macht, besonders wenn Ihr Job oder Ihre Zukunft auf dem Spiel steht, leuchtet Ihr Gehirn auf. Sie beginnen sich all die Wege vorzustellen, wie sie Ihnen hätten helfen können, und Sie fragen sich, ob sie es mit Absicht getan haben.
Die Forscher fanden heraus, dass dieser „persönliche Einsatz“ wie ein Lautstärkeregler wirkt. Wenn die Einsätze niedrig sind, wird die Lautstärke unserer Wut und unseres Verdachts heruntergedreht, und der Unterschied zwischen Menschen und Robotern ist leise. Aber wenn die Einsätze hoch sind, drehen wir die Lautstärke auf und hören den Unterschied deutlich: Wir halten Menschen an einen viel höheren Standard von Intention und Flexibilität als Maschinen.
Kurz gesagt: Wir sind gegenüber Robotern nachsichtiger, nicht weil sie besser sind, sondern weil unser Gehirn Schwierigkeiten hat, ihnen eine Wahl oder eine Absicht zuzuschreiben. Wenn das Ergebnis uns wirklich trifft, fordern wir mehr von den Menschen in Führungspositionen, und wir akzeptieren die Regeln der Roboter ein wenig leichter.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.