Do people expect different behavior from large language models acting on their behalf? Evidence from norm elicitations in two canonical economic games
Durch zwei vorregistrierte Studien mit über 2.600 Teilnehmern zeigt diese Arbeit, dass Menschen gegenüber großen Sprachmodellen andere soziale Normen anwenden als gegenüber Menschen, indem sie maschinengenerierte Angebote als weniger angemessen und eher ablehnbar bewerten, während sie maschinell durchgesetzte Ablehnungen als ebenso angemessen wie die von Menschen ansehen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie sind auf einer Party, bei der zwei Personen eine Pizza teilen. Eine Person ist ein Mensch, die andere ein Roboter, der im Namen eines Menschen handelt. Diese Arbeit stellt eine einfache, aber tiefgründige Frage: Erwarten wir vom Roboter, dass er nach denselben Regeln spielt wie der Mensch?
Die Forscher Paweł Niszczota und Elia Antoniou führten zwei „Spiele“ durch, um dies herauszufinden. Betrachten Sie diese Spiele als soziale Stresstests, um zu sehen, wie Menschen Fairness bewerten, wenn ein Computer im Spiel ist.
Das Setup: Zwei soziale Stresstests
Spiel 1: Das Dictator-Spiel (Der „großzügige Gastgeber“)
Stellen Sie sich vor, ein Gastgeber hat eine ganze Pizza und muss entscheiden, wie viel er dem Gast gibt. Der Gast hat kein Mitspracherecht; er nimmt einfach das, was ihm gegeben wird.
- Der menschliche Gastgeber: Wenn ein Mensch 9 Stücke behält und 1 Stück an den Gast gibt, könnten wir denken: „Das ist ein bisschen geizig, aber okay.“
- Der Roboter-Gastgeber: Die Forscher fragten die Teilnehmer, wie „sozial angemessen“ es ist, wenn ein Roboter (der für einen Menschen handelt) genau das Gleiche tut.
Spiel 2: Das Ultimatum-Spiel (Die „Fairness-Polizei“)
Nun stellt sich vor, der Gastgeber bietet ein Stück an, aber der Gast hat einen „Veto-Knopf“. Wenn der Gast das Angebot für unfair hält, kann er den Knopf drücken und niemand bekommt Pizza.
- Der Roboter als Gast: Wenn ein Mensch ein schlechtes Angebot macht, kann ein Roboter den Veto-Knopf drücken?
- Der Roboter als Gastgeber: Wenn ein Roboter ein schlechtes Angebot macht, ist es dann in Ordnung, wenn ein Mensch den Veto-Knopf drückt?
Die Ergebnisse: Der „Roboter-Doppelstandard“
Die Studie ergab, dass Menschen sehr spezifische, teils widersprüchliche Regeln für Roboter haben. Hier ist die Aufschlüsselung unter Verwendung einfacher Analogien:
1. Roboter müssen „perfekt fair“ sein (Die Gastgeber-Regel)
Wenn ein Roboter als „Gastgeber“ agiert (also entscheidet, wie das Geld aufgeteilt wird), sind die Menschen bei ihm viel strenger als bei Menschen.
- Die Analogie: Wenn ein menschlicher Gastgeber 9 Stücke behält, würden Sie vielleicht mit den Augen rollen. Aber wenn ein Roboter 9 Stücke behält, empfinden die Leute dies als unangemessener.
- Das Ergebnis: Die Menschen erwarten von Robotern, dass sie großzügiger sind als Menschen. Wenn ein Roboter versucht, egoistisch zu sein, bewerten die Menschen ihn hart. Es scheint, als hätten die Menschen das Gefühl, dass ein Roboter, wenn ein Mensch ihm eine Entscheidung delegiert, nicht „geizig“ sein sollte.
2. Roboter können die „Fairness-Polizei“ sein (Die Veto-Regel)
Wenn ein Roboter als „Gast“ agiert (derjenige, der ein Angebot ablehnen kann), sind die Menschen nicht strenger mit ihm.
- Die Analogie: Wenn ein menschlicher Gast ein schlechtes Pizza-Angebot ablehnt, ist das normal. Wenn ein Roboter-Gast dasselbe schlechte Angebot ablehnt, denken die Leute: „Das ist auch völlig in Ordnung.“
- Das Ergebnis: Die Menschen finden es absolut akzeptabel, wenn Roboter Fairness durchsetzen. Es stört sie nicht, wenn ein Roboter sagt: „Nein, dieser Deal ist schlecht, ich ziehe mich zurück.“ Tatsächlich haben die Menschen das Gefühl, dass es genauso angemessen ist, wenn ein Roboter ein schlechtes Angebot ablehnt, wie wenn es ein Mensch täte.
3. Der „Zu großzügig“-Twist
Hier ist der überraschendste Teil. Wenn ein Roboter ein sehr großzügiges Angebot macht (indem er dem Gast z. B. 9 Stücke gibt und 1 Stück für den Menschen, den er vertritt, behält), finden die Menschen es tatsächlich angemessener, dieses Angebot abzulehnen, als wenn ein Mensch es gemacht hätte.
- Die Analogie: Stellen Sie sich vor, ein Roboter-Gastgeber gibt Ihnen fast die ganze Pizza und lässt dem Menschen, den er vertritt, fast nichts übrig. Die Leute denken: „Warte, das ist seltsam. Der Roboter ist zu nett zum Gast und schadet dadurch dem Menschen, für den er arbeitet.“
- Das Ergebnis: Die Menschen haben das Gefühl, dass Roboter auch nicht zu großzügig sein sollten. Sie sollten die „Goldlöckchen-Zone“ der Fairness finden. Wenn ein Roboter übermäßig großzügig ist, wirkt es verdächtig oder unfair gegenüber dem Menschen, den er repräsentiert.
Das große Ganze: Kognitiv vs. Emotional
Die Autoren legen nahe, dass wir, wenn wir mit Menschen interagieren, deren Emotionen und Absichten verstehen. Wenn wir mit Robotern interagieren, betrachten wir sie durch eine andere Linse:
- Als Entscheidungsträger (Gastgeber): Wir fühlen, dass Roboter eine „kognitive“ Pflicht zur Fairness haben. Wenn sie egoistisch sind, fühlt es sich wie ein Verrat an dem Menschen an, der sie engagiert hat.
- Als Vollstrecker (Polizei): Wir fühlen, dass Roboter einfach Werkzeuge sind, die eine Aufgabe erledigen. Wenn sie ein schlechtes Geschäft ablehnen, befolgen sie lediglich die Regeln der Fairness, was akzeptabel ist.
Zusammenfassung
Kurz gesagt, haben Menschen einen Doppelstandard für Large Language Models (LLMs), die in ihrem Namen handeln:
- Sei nicht egoistisch: Wenn ein Roboter das Geld aufteilt, sollte er fair sein (oder sogar fairer als ein Mensch).
- Sei nicht zu nett: Wenn ein Roboter das Geld aufteilt, sollte er gegenüber der anderen Person nicht zu großzügig sein, sonst sieht es so aus, als würde er dem menschlichen Eigentümer schaden.
- Setze die Regeln durch: Wenn der Roboter derjenige ist, der bei einem schlechten Deal „Nein“ sagt, ist das völlig in Ordnung.
Die Studie kommt zu dem Schluss, dass wir Roboter nicht einfach blind in unsere sozialen Kreise aufnehmen. Wir haben sehr spezifische, nuancierte Erwartungen: Wir wollen sie als strikte Vollstrecker der Fairness, aber wir sind sehr kritisch, wenn sie versuchen, die eigentlichen Entscheidungen darüber zu treffen, wie Ressourcen geteilt werden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.