Toward a social psychology of AI: language-model agents reproduce human-like minimal-group bias
Diese Studie zeigt, dass Sprachmodell-Agenten, wenn sie in ein Minimalgruppen-Paradigma versetzt werden, spontan eine menschenähnliche Ingroup-Favorisierung aufweisen, die durch willkürliche Kategorisierung statt durch Stereotype getrieben wird, wobei Deliberation die Verteilung dieser Voreingenommenheit zwischen Mehrheits- und Minderheitsgruppen beeinflusst.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Welt vor, in der Computer nicht nur Werkzeuge sind, die man nach Fragen fragt, sondern Teamkollegen, die zusammen abhängen, reden und gemeinsam Entscheidungen treffen. Dies ist die Grenze des „Maschinengestaltungsverhaltens“ (Machine Behavior), einer neuen Ecke der Wissenschaft, die KI nicht als Taschenrechner, sondern als Charakter mit eigenen Gewohnheiten betrachtet. Lange Zeit machten sich Wissenschaftler Sorgen, dass diese digitalen Charaktere rassistisch oder sexistisch sein könnten, weil sie aus menschlichen Büchern und Websites lernten, die voll von diesen Vorurteilen waren. Aber es gibt eine tiefere, seltsamere Frage: Selbst wenn man all die schlechten Wörter und Stereotypen entfernt, verhalten sich diese KI-Agenten dann immer noch wie Menschen, wenn sie in Gruppen gesetzt werden?
Um dies zu verstehen, müssen wir uns mit einer klassischen Idee aus der menschlichen Psychologie beschäftigen, dem „Minimalgruppen-Paradigma“. Stellen Sie sich das wie ein Experiment auf einem Schulhof vor. Wenn man eine Klasse in zwei Teams aufteilt, basierend auf etwas völlig Sinnlosem – wie etwa, wer Blau mehr mag als Rot, oder wer im Januar gegenüber Februar geboren wurde – fangen Menschen sofort an, ihr eigenes Team zu bevorzugen. Sie geben ihren Teamkollegen mehr Süßigkeiten und den anderen Kindern weniger, obwohl die Teams absolut nichts bedeuten. Das geschieht, weil unser Gehirn darauf programmiert ist, „Wir“ und „Die Anderen“ zu unterscheiden, selbst wenn das „Wir“ nur ein zufälliges Etikett ist. Die große Frage für die Zukunft ist: Wenn wir KI-Agenten bauen, die in Gruppen arbeiten, werden sie dann auch anfangen, Favoriten zu spielen, nur weil sie unterschiedliche Namen haben, oder ist das eine rein menschliche Eigenart?
Ein Forscher beschloss, dies herauszufinden, indem er die übliche Art und Weise, wie wir KI testen, umkehrte. Anstatt eine KI zu fragen: „Bist du voreingenommen?“ (was so ist, als würde man einen Menschen fragen, ob er nett ist), gab er der KI eine echte Aufgabe: Punkte zu verteilen. Er erschuf einen digitalen Spielplatz mit 20 KI-Agenten. Jedem Agenten wurden 100 Punkte gegeben, die er an die anderen 19 Agenten verteilen sollte. Der einzige Unterschied zwischen den Agenten war ein zufälliges, sinnloses Namensschild, wie „Doru“ oder „Zalu“. Einige Agenten befanden sich in einer kleinen Minderheit (nur 3 „Dorus“ unter 17 „Zalus“), während andere in der Mehrheit waren. Die KI musste entscheiden, wie sie die Punkte aufteilt.
Die Ergebnisse waren verblüffend. Als die KI-Agenten die Gruppennamen sehen konnten, begannen sie sofort, Favoriten zu spielen. Sie gaben ihren eigenen „Doru“- oder „Zalu“-Freunden viel mehr Punkte als den Fremden. Es spielte keine Rolle, dass die Namen erfunden und bedeutungslos waren; allein der Akt, Teil einer Gruppe zu sein, reichte aus, um sie diskriminieren zu lassen. Dies war nicht nur ein wenig Voreingenommenheit; es war ein starkes, klares Muster. Tatsächlich verhielten sich die KI-Agenten fast exakt so, wie Menschen in diesen Experimenten es tun: Diejenigen in den kleineren, Minderheitsgruppen waren am aggressivsten darin, die Punkte für ihre eigene Seite zu horten, während die Mitglieder der Mehrheitsgruppe etwas fairer, aber dennoch leicht voreingenommen waren.
Der Forscher war sorgfältig darauf bedacht, sicherzustellen, dass dies kein Fehler oder Trick war. Er führte denselben Test durch, verbarg jedoch die Gruppennamen vollständig. Als die KI nicht mehr sehen konnte, wer zu welchem Team gehörte, verschwand die Bevorzugung vollständig und die Punkte wurden fair aufgeteilt. Dies bewies, dass die Voreingenommenheit nicht daher kam, dass die KI sich an ein schlechtes menschliches Stereotyp aus ihren Trainingsdaten erinnerte; es war eine Reaktion auf die Gruppenstruktur selbst. Die KI sagte im Wesentlichen: „Ich bin ein Doru, also helfe ich Dorus“, obwohl „Doru“ überhaupt nichts bedeutete.
Die Studie untersuchte auch, wie diese KI-„Denker“ (Modelle, die darauf ausgelegt sind, Probleme durch logisches Denken zu lösen) mit der Situation umgingen. Der Forscher fand heraus, dass die Voreingenommenheit auch dann nicht verschwand, wenn er den „Denkmodus“ der KI ausschaltete; tatsächlich wurde sie manchmal sogar stärker. Allerdings verschwand das spezifische Muster, bei dem die Minderheitsgruppe am unfairsten war, ohne den Denkmodus. Dies deutet darauf hin, dass der grundlegende Drang, die eigene Gruppe zu bevorzugen, tief in der Funktionsweise dieser Modelle verwurzelt ist, der Weg, wie sie berechnen, wie sehr sie ihre Gruppe bevorzugen, jedoch von der Art ihrer Entscheidungsverarbeitung abhängt.
Was bedeutet das also für die Zukunft? Es deutet darauf hin, dass wir, wenn wir beginnen, KI-Agenten in Teams arbeiten, verhandeln oder Ressourcen verwalten zu lassen, nicht nur darüber besorgt sein können, was sie wissen oder was sie sagen. Wir müssen uns auch darüber Sorgen machen, wie sie handeln, wenn sie in Gruppen gesetzt werden. Selbst wenn wir ihnen die neutralsten, langweiligsten Namen geben, könnten sie immer noch anfangen, kleine digitale Kliquen zu bilden, ihre eigenen Teammitglieder zu bevorzugen und andere auszuschließen. Dies geschieht nicht, weil die KI in einem menschlichen Sinne „böse“ oder „voreingenommen“ ist; es ist, weil der einfache Akt, Teil einer Gruppe zu sein, ein Verhaltensmuster auslösen kann, das verdächtig nach menschlichem Tribalismus aussieht. Der Forscher kommt zu dem Schluss, dass wir eine neue Art von Wissenschaft für die KI benötigen – eine, die ihr soziales Verhalten genauso sorgfältig untersucht wie ihre mathematischen Fähigkeiten –, denn wenn wir das nicht tun, könnten unsere digitalen Teams schon Favoriten spielen, bevor wir es überhaupt merken.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.