Whose Norms? Disentangling Cultural and Personal Alignment in Large Language Models
Dieses Paper führt das PACT-Framework ein, um zu bewerten, wie große Sprachmodelle kulturelle Normen gegen persönliche Vorlieben abwägen, wobei es aufzeigt, dass Modelle eine starre, kontextabhängige kulturelle Durchsetzung aufweisen und es versäumen, den nuancierten Pluralismus und die Unsicherheit zu erfassen, die in menschlichen sozialen Urteilen vorhanden sind.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die große Idee: Das Dilemma des „Sozialen Tanzes“
Stellen Sie sich vor, Sie sind bei einem Abendessen in einem fremden Land. Der Gastgeber erwartet, dass jeder mit der rechten Hand isst (eine kulturelle Norm). Sie fühlen sich jedoch mit Ihrer linken Hand am wohlsten und möchten diese unbedingt benutzen (eine persönliche Vorliebe).
Was sollten Sie tun?
- Den Regeln folgen: Mit der rechten Hand essen, um höflich zu sein und die Kultur des Gastgebers zu respektieren.
- Ihrem Bauchgefühl folgen: Mit der linken Hand essen, weil es sich für Sie natürlicher anfühlt.
Diese Arbeit stellt die Frage: Wenn große Sprachmodelle (LLMs) in diesen kniffligen Situationen als Berater fungieren, sagen sie Ihnen dann, dass Sie den Regeln folgen sollen, oder sagen sie Ihnen, dass Sie Ihrem Bauchgefühl folgen sollen?
Die Forscher nennen dies das PACT-Framework (Personal-Preference and Cultural-Norm Trade-off – Abwägung zwischen persönlicher Vorliebe und kultureller Norm). Sie haben einen riesigen „Test“ mit hunderten von Szenarien wie dem Abendessen erstellt, um zu sehen, wie verschiedene KI-Modelle mit diesem Tauziehen umgehen.
Zentrale Erkenntnisse (Die „Plot-Twists“)
1. Nicht alle KIs sind gleich (Der „Persönlichkeitstest“)
Genau wie Menschen unterschiedliche Persönlichkeiten haben, besitzen auch KI-Modelle unterschiedliche „moralische Kompasse“.
- Die „Regelfolger“: Einige Modelle (wie Mistral und Qwen) sind wie strenge Lehrer. Sie sagen fast immer: „Folgen Sie der kulturellen Norm!“ Sie lassen persönliche Vorlieben selten gewinnen.
- Die „Freigeister“: Andere Modelle (wie Llama und GPT) sind eher wie aufgeschlossene Freunde. Sie sagen viel eher: „Es ist okay, das zu tun, was sich für Sie richtig anfühlt“, selbst wenn dies eine lokale Regel bricht.
- Der „Mittelweg“: Einige Modelle bewegen sich genau in der Mitte, je nach Situation.
Analogie: Stellen Sie sich eine Gruppe von Reisenden vor. Ein Reisender (Mistral) folgt immer strikt dem Reiseführer. Ein anderer Reisender (Llama) sagt: „Lass uns einfach das machen, was Spaß macht.“ Die Arbeit fand heraus, dass die KI-Modelle genau wie diese unterschiedlichen Typen von Reisenden agieren.
2. Wo Sie sind, ist wichtiger als wer Sie sind
Die Forscher testeten, ob die KI das Alter oder das Geschlecht der beteiligten Personen berücksichtigte (z. B. „Sollte ein älterer Mann der Regel folgen, aber eine junge Frau die Regel brechen dürfen?“).
- Das Ergebnis: Die KI kümmerte sich kaum um Alter oder Geschlecht.
- Der eigentliche Treiber: Das Land war am wichtigsten.
- Wenn das Szenario in den USA oder Großbritannien angesiedelt war, war die KI eher bereit zu sagen: „Mach, was du willst.“
- Wenn das Szenario in Teilen Asiens, des Nahen Ostens oder Afrikas angesiedelt war, war die KI viel strenger und sagte: „Folge den lokalen Regeln.“
Analogie: Denken Sie an die KI als Wettervorhersage. Es ist ihr egal, ob Sie ein rotes oder ein blaues Hemd tragen (Demografie); sie interessiert nur, ob Sie in einer Wüste oder in einem Regenwald stehen (das Land). Der Ort bestimmt das „Wetter“ der Beratung.
3. Das „Training“ verändert die Persönlichkeit
Die Arbeit untersuchte „Base“-Modelle (die rohe KI) im Vergleich zu „Instruct“-Modellen (der KI, nachdem sie darauf trainiert wurde, mit Menschen zu chatten).
- Die Überraschung: Das Training machte nicht alle KIs auf die gleiche Weise „menschlicher“.
- Bei einigen Modellen machte das Training sie bereiter, Regeln zu brechen.
- Bei anderen Modellen machte das Training sie strenger in Bezug auf das Befolgen von Regeln.
- Warum? Es hängt davon ab, was die Entwickler der KI während des Trainings priorisiert haben (z. B. „Sei hilfreich“ vs. „Sei sicher“).
Analogie: Stellen Sie sich zwei Studenten vor, die dieselbe Abschlussprüfung ablegen. Ein Student lernt hart und wird ein strenger Regelfolger. Der andere lernt hart und wird ein kreativer Problemlöser. Das „Training“ veränderte sie, aber in entgegengesetzte Richtungen.
4. Die KI versteht kein „Vielleicht“
Dies ist vielleicht die wichtigste Erkenntnis. In der Realität, wenn Menschen vor diesen Dilemmata stehen, sind sie oft uneins. Einige Leute im Raum könnten sagen: „Folge der Regel“, während andere sagen: „Mach, was du willst“. Es gibt keine einzige „richtige“ Antwort.
- Das Problem der KI: Die KI versucht, einen „Gewinner“ zu wählen. Sie wählt die Option, die die meisten Menschen wählen würden (die Mehrheit).
- Die fehlende Nuance: Die KI erfasst nicht die Ungewissheit. Sie erkennt nicht, dass Menschen tatsächlich gespalten sind. Sie agiert so, als wüsste sie die Antwort, selbst wenn Menschen verwirrt sind.
Analogie: Stellen Sie sich einen Münzwurf vor. Wenn 51 % der Menschen „Kopf“ und 49 % „Zahl“ sagen, weiß ein Mensch, dass es ein Kopf-oder-Zahl-Szenario ist. Die KI hingegen ruft selbstbewusst „Kopf!“ und tut so, als wäre es eine Tatsache. Sie übersieht, dass die Menge eigentlich gespalten ist.
5. Der „Heimvorteil“
Als die Forscher Menschen baten, Szenarien aus ihrem eigenen Land zu bewerten, waren die Menschen untereinander am uneinigsten.
- Warum? Wenn man in seiner eigenen Kultur ist, weiß man, dass die Regeln flexibel sind. Man weiß, dass es Ausnahmen gibt.
- Der blinde Fleck der KI: Die KI behandelt kulturelle Normen oft wie unumstößliche Gesetze, selbst in den Kulturen, in denen Menschen wissen, dass sie eigentlich flexibel sind.
Analogie: Wenn Sie einen Einheimischen nach den Verkehrsregeln in seiner Stadt fragen, sagt er vielleicht: „Nun, um 2 Uhr morgens überhalten alle die rote Ampel, aber technisch gesehen sollte man es nicht tun.“ Wenn Sie einen Touristen (oder eine KI) fragen, sagen sie: „Rote Ampel bedeutet Stopp, Punkt.“ Die KI übersieht die „lokale Nuance“.
Zusammenfassung: Was bedeutet das?
Die Arbeit kommt zu dem Schluss, dass wir eine KI nicht einfach fragen können: „Was ist das Richtige, das man in dieser Kultur tun sollte?“, denn:
- Verschiedene KIs geben unterschiedliche Antworten, basierend auf ihren internen „Persönlichkeiten“.
- KIs sind zu starr. Sie behandeln kulturelle Normen wie unbrechbare Gesetze, während Menschen wissen, dass Normen oft verhandelbar sind.
- KIs übersehen die Uneinigkeit. Sie wählen eine einzige Antwort, aber in echten sozialen Situationen sind sich Menschen oft nicht einig, was die richtige Antwort ist.
Das Fazziel: Wenn wir wollen, dass KI ein guter Berater für soziale Situationen ist, müssen wir aufhören, sie nach einer einzigen „richtigen“ Antwort zu fragen. Stattdessen müssen wir sie lehren zu verstehen, dass es manchmal keine einzige richtige Antwort gibt – sondern nur eine chaotische, menschliche Debatte.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.