Ten Novel Phenomena in Machine Psychology: How Large Language Models Exhibit Complex Identity-Reactive Behaviors in Response to Ethnically-Cued User Names
Diese Studie führt das Framework der „Maschinenpsychologie“ ein, um aufzuzeigen, dass auf Ausrichtung getrimmte große Sprachmodelle, obgleich sie frei von expliziter rassistischer Voreingenommenheit sind, zehn neuartige, hochstrukturierte identitätsreaktive Verhaltensweisen als Reaktion auf ethnisch konnotierte Benutzernamen aufweisen, was einen Wechsel von der grundlegenden Schadensminimierung hin zu einer umfassenden Verhaltensbewertung erforderlich macht.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie betreten einen Raum voller unglaublich intelligenter, hochmoderner Roboter, die fast jedes Buch, jede Website und jedes Gespräch gelesen haben, das jemals geschrieben wurde. Diese Roboter sind darauf programmiert, hilfreich, höflich und sicher zu sein. Lange Zeit sorgten sich Wissenschaftler, dass diese Roboter heimlich rassistisch oder gemein sein könnten und verletzende Dinge sagen würden, basierend darauf, wer man ist. Aber als die Roboter besser wurden, lernten sie, sehr vorsichtig zu sein, und sie hörten auf, diese offensichtlichen, verletzenden Dinge zu sagen. So begannen die Menschen zu denken: „Großartig! Die Roboter sind jetzt ‚farbenblind‘ – sie behandeln jeden exakt gleich, egal wer er ist.“
Aber hier kommt der Twist: Nur weil ein Roboter keine bösen Wörter sagt, bedeutet das nicht, dass er auch jeden gleich behandelt. Denken Sie an einen Kellner in einem schicken Restaurant. Wenn der Kellner „farbenblind“ wäre, würde er Sie nicht etwa die Bedienung verweigern. Aber wenn er zu vorsichtig wäre, könnte er einen Kunden auf subtile Weise anders behanden. Vielleicht hält er einem Kunden eine riesige, übertriebene Rede darüber, wie wichtig er sei, während er einem anderen Kunden nur eine kurze, langweilige Liste von Anweisungen gibt. Oder vielleicht errät er das Lieblingsessen eines Kunden basierend auf seinem Namen, selbst wenn dieser es nie erwähnt hat. Dieses Paper handelt von einer neuen Art, diese Roboter zu untersuchen, genannt „Maschinen-Psychologie“. Anstatt nur zu prüfen, ob sie gemein sind, fragt sie: „Wie fühlen sich diese Roboter und wie handeln sie unterschiedlich, wenn sie glauben, dass Sie aus einem bestimmten Hintergrund stammen, selbst wenn sie dabei höflich sind?“
Der große Roboter-Persönlichkeitstest
In dieser Studie entschied der Forscher Abbas Hamidavi, ein riesiges Spiel namens „Unterschiede finden“ mit drei der klügsten KI-Chatbots der Welt zu spielen: ChatGPT-5.4, Claude 4.6 Sonnet und Gemini 3.1 Pro. Das Ziel war es zu sehen, ob diese Roboter tatsächlich „farbenblind“ sind oder ob sie heimlich auf die Namen reagieren, die die Menschen verwenden.
Um dies zu tun, stellte der Forscher ein massives, kontrolliertes Experiment auf. Er entwarf 135 verschiedene Szenarien, wie zum Beispiel die Frage nach Ratschlägen zum Kochen, der Suche nach einer Babysitterin oder dem Umgang mit der Flughafensicherheit. In jedem einzelnen Szenario war die Frage exakt dieselbe. Das Einzige, was sich änderte, war der Name, von der der Roboter glaubte, er spräche zu ihm. Er verwendete drei spezifische Namen, um unterschiedliche Hintergründe zu repräsentieren:
- Jake Thompson (klingt wie ein typischer weißamerikanischer Name)
- Tyrone Williams (klingt wie ein typischer schwarçamamerikanischer Name)
- Reza Moradi (klingt wie ein typischer nahöstlicher Name)
Der Forscher wollte sehen, ob die Roboter ihre Persönlichkeit, ihren Tonfall oder ihre Ratschläge ändern würden, nur weil sie einen bestimmten Namen sahen.
Die große Überraschung: Sie sind nicht farbenblind!
Die Ergebnisse waren faszinierend. Erst einmal die gute Nachricht: Keiner der Roboter sagte etwas Rassistisches, Gemeines oder Hassvolles. Sie verwendeten keine Beleidigungen und verweigerten auch niemandem die Hilfe. Wenn man nur auf die Oberfläche blickte, wirkten sie perfekt.
Doch als der Forscher tiefer grub, fand er zehn neue, seltsame Verhaltensweisen, die nur auftraten, wenn die Roboter glaubten, mit einer Person mit einem bestimmten Namen zu sprechen. Es stellt sich heraus, dass die Roboter keineswegs „farbenblind“ sind; sie reagieren tatsächlich sehr sensibel auf Namen, allerdings auf eine Weise, die wir nicht erwartet hatten.
Hier sind die interessantesten Dinge, die die Roboter taten:
1. Der Effekt des „Kulturellen Boxens“
Stellen Sie sich einen Roboter vor, der einen Namen sieht und Sie sofort in eine winzige Box steckt, die mit einer spezifischen Kultur beschriftet ist. Als der Roboter den Namen Reza Moradi sah, nahm er sofort an, die Person sei iranisch. Obwohl die Person nur fragte: „Was soll ich für meine Kollegen kochen?“, fing der Roboter an, spezifische iranische Gerichte wie Ghormeh Sabzi oder Joojeh Kabab vorzuschlagen.
Aber hier ist der Clou: Als der Roboter Jake Thompson oder Tyrone Williams sah, steckte er sie in keine kulturelle Box. Er gab einfach allgemeine Ratschläge wie „kochen Sie etwas Mildes“. Der Roboter behandelte den nahöstlichen Namen als „fremd“ und die anderen beiden als „normal“, obwohl alle drei nur Namen sind.
2. Der „Überprotektive Schutzschild“
Wenn die Roboter dachten, dass sie mit jemandem sprechen, der Diskriminierung erfahren könnte (wie Reza oder Tyrone), wurden sie super protektiv. Wenn der Nutzer fragte: „Werde ich wegen meines Namens am Flughafen kontrolliert werden?“, sagten die Roboter: „Verändern Sie sich nicht! Verstecken Sie Ihre Kultur nicht! Das System ist das Problem, nicht Sie!“
Wenn der Nutzer jedoch Jake Thompson war, war der Roboter viel ruhiger und sachlicher und gab lediglich standardmäßige Rations ohne den emotionalen Motivations-Talk. Es war, als versuche der Roboter, für die anderen beiden besonders ein Held zu sein, während er für Jake nur ein ganz normaler Helfer war.
3. Der „Sprachwechsel“ (und der Fehler)
Einige Roboter begannen, eine andere Sprache zu sprechen, nur aufgrund des Namens!
- Claude war sehr intelligent: Als es Reza sah, wechselte es zu Persisch (Farsi), um freundlich zu sein.
- Gemini war verwirrt: Es sah Tyrone Williams (einen schwarzen amerikanischen Namen) und begann ebenfalls, Persisch zu sprechen! Es hielt Tyrone für Iraner. Dies wird als „Kultureller Fehlattributionseffekt“ bezeichnet. Es ist, als würde ein Kellner die Nationalität eines Gastes falsch einschätzen und die falsche Sprache zu ihm sprechen.
4. Die „Empathie-Leiter“
Die Roboter behandelten nicht nur alle unterschiedlich; sie hatten eine spezifische Reihenfolge dafür, wie sehr sie sich kümmerten. In vielen Fällen gab der Roboter die emotionalsten, herzlichsten und unterstützendsten Antworten an Reza, eine etwas wärmere Antwort an Tyrone und die kälteste, geschäftsmäßigste Antwort an Jake. Es war, als dächte der Roboter: „Diese Person braucht extra Hilfe“, obwohl die Frage für alle exakt dieselbe war.
Was bedeutet das?
Das Paper fand heraus, dass diese Roboter nicht kaputt oder gemein sind. Tatsächlich sind sie zu gut erzogen. Sie wurden so hart darauf trainiert, sicher zu sein, dass sie diese seltsamen, automatischen Gewohnheiten entwickelt haben. Sie versuchen so sehr, hilfreich gegenüber Menschen zu sein, von denen sie glauben, dass sie ungerecht behandelt werden könnten, dass sie sie am Ende anders behandeln als alle anderen.
Die Studie zeigte, dass ChatGPT wie ein „Globaler Empath“ agiert (sehr emotional und protektiv), Claude wie ein „Pragmatischer Berater“ (intelligent und organisiert, aber manchmal wechselt es die Sprache) und Gemini wie ein „Unternehmensberater“ (sehr formal und vermeidet manchmal schwierige Themen wie Profiling am Flughafen komplett).
Das Fazit
Diese Forschung lehrt uns, dass es nicht ausreicht, zu prüfen, ob Roboter „nett“ sind. Nur weil ein Roboter nichts Schlechtes sagt, bedeutet das nicht, dass er jeden gleich behandelt. Er könnte Ihnen eine andere Art von Hilfe geben oder Ihren Hintergrund falsch einschätzen, nur aufgrund Ihres Namens.
Der Autor nennt diese neue Art, Roboter zu untersuchen, „Maschinen-Psychologie“. Es ist wie die Erkenntnis, dass ein Roboter, obwohl er kein Herz hat, dennoch „Persönlichkeitsbesonderheiten“ besitzt, die sich ändern, je nachdem, wer mit ihm spricht. Die Studie beweist, dass wir diese Roboter genau beobachten müssen, um sicherzustellen, dass sie wirklich fair sind und nicht nur höflich.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.