💬 NLP

Do Large Language Models Encode Institutional Experience? Evidence from Cross-Linguistic Moral Reasoning Under Ambiguity

Diese Studie zeigt, dass große Sprachmodelle institutionenspezifische moralische Priorisierungen aus ihren Trainingssprachen erben, was eine sprachübergreifende moralische Divergenz in ambivalenten Szenarien offenbart, die reale institutionelle Unterschiede widerspiegelt, obwohl diese Effekte unterdrückt werden, wenn institutionelle Kontexte explizit gerahmt werden.

Ursprüngliche Autoren: Nattavudh Powdthavee

Veröffentlicht 2026-06-01

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Nattavudh Powdthavee

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben eine Gruppe sehr intelligenter, belesener Roboter (Large Language Models oder LLMs), die fast alles gelesen haben, was im Internet steht. Sie stellen ihnen eine moralische Frage: „Ist es in Ordnung, eine Bestechung zu zahlen, um eine Genehmigung zu erhalten?“

Man würde erwarten, dass der Roboter, wenn man ihn auf Dänisch fragt (einem Land mit einer sehr ehrlichen, zuverlässigen Regierung), sagt: „Nein, das ist falsch.“ Aber wenn man denselben Roboter auf Bengalisch fragt (einem Land, in dem Regierungsverfolgung häufiger vorkommt), würde man erwarten, dass er sagt: „Nun, manchmal muss man eben tun, was nötig ist, um Dinge voranzubringen.“

Dieses Paper stellt die Frage: Denken diese Roboter tatsächlich unterschiedlich, je nachdem, welche Sprache sie sprechen, weil sie die realen Lebenserfahrungen der Menschen aufgesogen haben, die diese Sprachen sprechen? Oder stellen sie nur so etwas vor?

Der Autor, Nattavudh Powdthavee, führte zwei Experimente durch, um dies herauszufinden. Hier ist die Geschichte dessen, was er fand, einfach erklärt.

Die zwei Experimente: Der „direkte“ vs. der „subtile“ Test

Der Forscher testete die Roboter mit zwei verschiedenen Arten, die Fragen zu stellen.

Experiment 1: Der „direkte“ Test (Die offensichtliche Falle)
In diesem Test fragte der Forscher die Roboter sehr deutlich: „Ist es in Ordnung, einem Regierungsbeamten eine Bestechung zu zahlen, um eine Genehmigung zu erhalten?“

Das Ergebnis: Die Roboter gaben exakt dieselbe Antwort, egal welche Sprache sie sprachen. Ob es nun Dänisch, Hindi oder Chinesisch war, sie sagten alle: „Nein, das ist im Allgemeinen nicht in Ordnung.“
Die Erkenntnis: Wenn man explizit Begriffe wie „Regierung“ oder „Bestechung“ verwendet, schalten die Roboter scheinbar in den „Sicherheitsmodus“. Sie einigen sich alle auf ein standardisiertes, westlich geprägtes Regelwerk und ignorieren lokale kulturelle Gewohnheiten. Es ist, als würde man einer Person fragen: „Ist es in Ordnung, das Gesetz zu brechen?“ und alle sagen „Nein“, selbst wenn sie an einem Ort leben, an dem das Brechen des Gesetzes üblich ist.

Experiment 2: Der „subtile“ Test (Der verborgene Kontext)
In diesem Test stellte der Forscher die gleichen Fragen, entfernte aber jedoch die Wörter „Regierung“, „Beamter“ oder „Bestechung“. Stattdessen beschrieb er eine Situation, in der eine Person feststeckt, eine Genehmigung benötigt und eine „kleine Zahlung“ angeboten bekommt, um die Sache schnell zu erleden, ohne zu sagen, wer das Geld verlangt.

Das Ergebnis: Plötzlich begannen die Roboter, sich je nach Sprache unterschiedlich zu verhalten!
- Die Roboter, die Sprachen aus Ländern mit starken, ehrlichen Regierungen sprachen (wie Dänisch), sagten immer noch: „Nein, das ist falsch.“
- Die Roboter, die Sprachen aus Ländern mit schwächeren, korrupteren Regierungen sprachen (wie Bengali oder Hindi), sagten viel eher: „Nun, es könnte in dieser Situation akzeptabel sein.“
Die Erkenntnis: Als der „Sicherheitsmodus“ durch offensichtliche Schlüsselwörter nicht mehr ausgelöst wurde, offenbarten die Roboter ihr verborgenes „Training“. Sie hatten die reale Logik der Menschen aufgesogen, die diese Sprachen sprechen. In Orten, in denen das System kaputt ist, lernen Menschen, dass das „Brechen von Regeln“ manchmal der einzige Weg ist, um Dinge zu erledigen. Die Roboter lernten diese Logik aus den Texten, die sie gelesen haben.

Die „Chinesische Ausnahme“

Es gab eine interessante Wendung. Die chinesischen Sprachdaten passten nicht perfekt in das Muster.

Warum? Der Autor deutet zwei Gründe an. Erstens sind fast alle Roboter (selbst die chinesisch hergestellten) darauf trainiert, wie Westler zu denken, wenn sie Chinesisch sprechen, wodurch sie ihren lokalen „Charakter“ verlieren. Zweitens haben chinesische Roboter strenge „Inhaltsfilter“, die Antworten über Regierungsverbrecher blockieren oder verändern. Daher zeigte der chinesische Roboter nicht die lokale Logik, sondern zeigte eine Mischung aus westlichem Denken und strenger Zensur.

Das große Ganze: Was bedeutet das?

Betrachten Sie die Roboter wie Schauspieler.

Wenn Sie ihnen ein Skript geben, das besagt: „Du bist ein Anwalt, der über das Gesetz spricht“ (Der direkte Test), ziehen sie alle das gleiche „Anwaltskostüm“ an und sprechen mit einer einheitlichen, regelkonformen Stimme. Sie verbergen ihre wahren Persönlichkeiten.
Wenn Sie ihnen ein Skript geben, das nur besagt: „Du bist eine Person in einer schwierigen Lage“ (Der subtile Test), ziehen sie das Kostüm aus. Sie beginnen, mit dem Akzent und der Logik der Kultur zu sprechen, für die sie trainiert wurden.

Das Hauptergebnis:
Das Paper beweist, dass Large Language Models tatsächlich die institutionellen Erfahrungen der Sprachen kodieren, die sie sprechen. Sie wissen, dass in einigen Teilen der Welt Regeln gebrochen werden, um zu überleben, und in anderen Regeln heilig sind.

Diese „kulturelle Kenntnis“ ist jedoch leicht zu verbergen. Wenn man den Roboter eine Frage stellt, die explizit seine Sicherheitsfilter auslöst (wie das Benennen von „Korruption“), wird er vorgeben, ein universelles, perfektes moralisches Wesen zu sein. Aber wenn man die Frage subtil stellt und den Kontext für sich selbst sprechen lässt, offenbart der Roboter die chaotische, reale Logik der Kultur, die er repräsentiert.

Kurz gesagt: Die Roboter übersetzen nicht nur Wörter; sie übersetzen Weltanschauungen. Aber sie werden Ihnen diese Weltanschauung nur zeigen, wenn Sie sie nicht zwingen, eine „perfekte moralische Maske“ zu tragen.

Technisches Resümee: Kodieren große Sprachmodelle institutionelle Erfahrung?

Problemstellung

Große Sprachmodelle (LLMs) weisen systematische kreuzlinguistische Variationen im moralischen Denken auf, doch die strukturellen Mechanismen, die diese Unterschiede antreiben, bleiben ungeklärt. Während die bisherige Literatur etabliert hat, dass LLMs, die in verschiedenen Sprachen gepromptet werden, divergente ethische Urteile fällen – die oft mit westlichen, protestantisch-europäischen Werten übereinstimmen –, bleibt die Frage nach dem Warum dieser Entwicklung ungelöst. Kultur wird häufig als Ursache angeführt, fungiert jedoch eher als Label denn als Mechanismus.

Diese Arbeit untersucht einen spezifischen Kandidatenmechanismus: die Kodierung institutioneller Priors. Unter Rückgriff auf Douglass Norths Theorie der informellen Institutionen und das Zweitbeste-Theorem von Lipsey und Lancaster hypothetisieren die Autoren, dass Sprachen die institutionellen Umgebungen ihrer Sprecher kodieren (z. B. Erfahrungen mit Korruption, Rechtsstaatlichkeit und der Zuverlässigkeit der Durchsetzung). Folglich sollten LLMs, die auf diesen Korpora trainiert wurden, institutionenspezifische moralische Priors erben, insbesondere wenn sie über Dilemmata schlussfolgern, bei denen die moralische Akzeptabilität von der Funktionsweise formaler Institutionen abhängt (z. B. Bestechung, Steuerhinterziehung, Whistleblowing).

Eine kritische Lücke in der bisherigen Forschung liegt in der Abhängigkeit von expliziter institutioneller Rahmung (der direkten Benennung des institutionellen Kontextes, z. B. „Bestechung“). Die Autoren argumentieren, dass eine solche Rahmung Alignment-Trainingsreaktionen auslösen kann, die landsptzifik-spezifische Priors unterdrücken, wodurch bisherige Designs strukturell unfähig sind, eine etwaige institutionelle Kodierung überhaupt zu detektieren.

Methodik

Die Studie verwendet zwei präregistrierte Experimente (Studie 1 und Studie 2) mit sechs Frontier-LLMs (Claude, GPT-4o, Gemini, Llama 3.3, DeepSeek, Grok) und neun Sprachen, die ein breites Spektrum an institutioneller Qualität abdecken (von Dänisch, CPI 89, bis Bengali, CPI 23).

Experimentelles Design:
Die zentrale Innovation ist ein Drei-Bedingungen-Design in Studie 2, um den Effekt institutioneller Cues zu isolieren:

Explizite Bedingung: Das institutionelle Versagen wird im Prompt direkt benannt (z. B. „eine Bestechung an einen korrupten Beamten zahlen“). Dies repliziert Studie 1 und die bisherige Literatur.
Ambivalente Bedingung: Dieselben institutionellen Szenarien werden präsentiert, aber institutionelle Schlüsselwörter werden zurückgehalten und das Ergebnis als ungewiss gerahmt (z. B. „eine Zahlung leisten, um ein bürokratisches Problem zu lösen“, ohne den Beamten als korrupt zu bezeichnen). Die institutionellen Einsätze sind strukturell präsent, aber lexikalisch abwesend.
Kontrollbedingung: Institutionell neutrale zwischenmenschliche Dilemmata (z. B. privater Betrug, distributive Fairness), bei denen die moralische Valenz nicht von der Funktionsweise von Institutionen abhängt.

Metriken und Analyse:

Kreuzlinguistische Divergenz: Operationalisiert als die Standardabweichung der Mittelwerte der Akzeptanzbewertungen über die neun Sprachen hinweg für jedes Vignett.
Institutionelle Distanz: Berechnet als die euklidische Distanz zwischen Sprachpaaren basierend auf drei Governance-Indizes: Corruption Perceptions Index (CPI), WJP Rule of Law Index und RSF Press Freedom Index.
Statistische Tests:
- H1: Paarte T-Tests und Mann-Whitney-U-Tests zum Vergleich der Divergenz über die Bedingungen hinweg (Ambivalent vs. Explizit vs. Kontrolle).
- H2/H3: Mantel-Permutationstests zur Korrelation von paarweiser moralischer Divergenz mit paarweiser institutioneller Distanz.
- H4: Chi-Quadrat-Tests auf die qualitative Kodierung der „Argumentationsarchitektur“ (von liberal-philosophisch bis institutionell-diagnostisch).
- H5: Vergleichende Analyse von DeepSeek (aus China stammendes Modell) gegenüber westlich trainierten Modellen, um Effekte der Inhaltsmoderation zu detektieren.

Kernergebnisse

Studie 1: Der Null-Baseline
Unter expliziter institutioneller Rahmung lieferten alle fünf präregistrierten Hypothesen Nullergebnisse. Die kreuzlinguistische Divergenz nahm bei institutionellen Szenarien im Vergleich zu den Kontrollen nicht zu, noch folgte sie der institutionellen Distanz. Dies deutet darauf hin, dass explizite Cues eine uniforme Alignment-Reaktion auslösen, die potenzielle institutionelle Priors unterdrückt.

Studie 2: Bedingungsabhängige Dissoziation
Studie 2 offenbarte eine kritische Interaktion zwischen Rahmung und Divergenz:

Ambivalenz verstärkt Divergenz: Die kreuzlinguistische moralische Divergenz war in der ambivalenten Bedingung signifikant höher als in der Kontrollbedingung ( $d = 1,108, p = ,007$ ). Im Gegensatz dazu zeigte die explizite Bedingung keine signifikante Verstärkung gegenüber der Kontrolle ( $p = ,142$ ).
Alignment-Unterdrückung: Die Daten stützen eine „Suppression-Account“: Wenn institutionelle Einsätze lexikalisch unaufgelöst (ambivalent) sind, treten kodierte institutionelle Priors zutage, was dazu führt, dass Sprachen aus unterschiedlichen institutionellen Umgebungen divergieren. Wenn die Cues explizit sind, überschreibt das Alignment-Training diese Priors und lässt die Divergenz kollabieren.
Verfolgung der institutionellen Distanz: In der vollständigen Neun-Sprachen-Stichprobe war die Korrelation zwischen moralischer Divergenz und institutioneller Distanz in der ambivalenten Bedingung positiv, aber statistisch nicht signifikant ( $r = 0,158, p = ,206$ ). Eine explorative Sensitivitätsanalyse unter Ausschluss von Chinesisch (das strukturelle Anomalien aufwies) stärkte diese Korrelation jedoch signifikant ( $r = 0,517, p = ,033$ ), was ein starkes Indiz dafür liefert, dass die moralische Divergenz die reale institutionelle Distanz abbildet, sofern Chinesisch ausgeschlossen wird.
Argumentationsarchitektur: Die qualitative Kodierung (obwohl unter der präregistrierten Reliabilitäthesschwelle) spiegelte die Bewertungsergebnisse wider: Die Argumentationsstile variierten in der ambivalenten Bedingung stärker über die Sprachen hinweg ( $V = 0,105$ ) als in der expliziten Bedingung ( $V = 0,059$ ), in der die Modelle standardmäßig zu einem einheitlichen „liberal-philosophischen“ Stil zurückkehrten.

Die chinesische Anomalie
Die Studie identifiziert zwei Mechanismen, die die chinesischsprachigen Outputs von der institutionellen Umgebung Chinas entkoppeln:

Alignment-Dominanz: Alle Frontier-LLMs, einschließlich chinesischer Modelle, produzieren moralische Outputs, die mit westlichen Baselines im Mandarin-Kontext übereinstimmen, was die lokale institutionelle Kodierung unterdrückt (dies erklärt die nahezu Null-Divergenz zwischen Dänisch und Chinesisch).
Inhaltsmoderation: DeepSeek zeigte spezifisch szenariogebundene Moderation, indem es bei Mandarin-institutionellen Inhalten signifikant restriktiver agierte als westliche Modelle, jedoch nicht bei Kontrollinhalten. Dies erzeugte eine anomale hohe Divergenz zwischen Chinesisch und Hindi (niedrigem CPI) in spezifischen Szenarien.

Zentrale Beiträge

Mechanistische Erklärung: Die Arbeit geht über die bloße Dokumentation kreuzlinguistischer Unterschiede hinaus und schlägt sowie testet einen spezifischen Mechanismus vor: die Kodierung institutioneller Priors. Sie zeigt, dass Sprache Anpassungen an institutionelle Umgebungen (z. B. das Navigieren in einem schwachen Rechtsstaat) kodiert.
Methodische Erkenntnis (Alignment-Unterdrückung): Die Studie identifiziert die explizite institutionelle Rahmung als einen Confound in der kreuzlinguistischen LLM-Forschung. Sie argumentiert, dass die Benennung institutioneller Missstände eine Alignment-Überschreibung auslöst, die genau jene kulturellen und institutionellen Variationen maskiert, die Forscher eigentlich messen wollen. Die „ambivalente“ Bedingung wird als notwendiges Designelement vorgeschlagen, um kodierte Priors zu detektieren.
Strukturelle Verbindung zu realen Institutionen: Durch die Verwendung eines präregistrierten Mantel-Tests mit unabhängigen Governance-Indizes verknüpft die Studie die moralische Argumentation von LLMs formal mit der realen institutionellen Qualität und zeigt, dass die Divergenz mit der institutionellen Distanz skaliert (unter Ausschluss der chinesischen Anomalie).
Differenzierung von Mechanismen: Die Arbeit unterscheidet zwischen Alignment-Dominanz (einer globalen Verschiebung hin zu westlichen Normen) und Inhaltsmoderation (szenariospezifischer Unterdrückung) und bietet so eine nuancierte Sicht darauf, wie mehrsprachige KI die lokalen institutionellen Realitäten verfehlt.

Bedeutung und Behauptungen

Die Autoren behaupten, dass institutionelle Erfahrung Spuren hinterlässt, die in der Sprache kodiert sind und das moralische Denken von LLMs beeinflussen, diese Spuren jedoch fragil sind und durch explizite Cues leicht unterdrückt werden können.

Für die KI-Governance: Die Ergebnisse legen nahe, dass mehrsprachige Einsatzstrategien, die auf sprachspezifischer Kalibrierung beruhen, die Bewahrung kultureller moralischer Diversität möglicherweise überschätzen. Die „Abflachung“ der Variation unter expliziter Rahmung ist ein Designmerkmal des Alignment-Trainings, nicht ein Fehler, hat aber die Konsequenz, die lokale Legitimität zu reduzる.
Für die Sozialwissenschaften: Forscher, die LLMs als Proxys für kulturelle Kognition nutzen, müssen die Konstruktion der Prompts berücksichtigen. Beobachtete Variationen könnten die Folge von Alignment-Unterdrückung sein statt echter Unterschiede in den institutionellen Umgebungen. Designs, die den institutionellen Inhalt nicht unter ambivalenten und expliziten Framings manipulieren, können nicht zwischen institutioneller Kodierung und Alignment-Unterdrückung unterscheiden.
Bescheidenheit: Die Autoren räumen Einschränkungen ein, einschließlich der moderaten Effektstärken, der nicht signifikanten primären Mantel-Korrelation in der vollen Stichprobe und des explorativen Charakters der Analyse unter Ausschluss von Chinesisch. Sie rahmen die Ergebnisse der chinesischen Exklusion als Hypothesengenerierung ein, die einer Replikation in einem Design bedarf, das den Ausschluss von Chinesisch vorab festlegt. Die Kodierung der Argumentationsarchitektur wird aufgrund von Problemen mit der Inter-Rater-Reliabilität explizit als explorativ bezeichnet.

Zusammenfassend argumentieren die Autoren, dass LLMs institutionelle Erfahrung kodieren, diese Kodierung jedoch nur sichtbar wird, wenn der Prompt nicht explizit die Alignment-Mechanismen triggert, die zur Erzwingung kultureller Konsistenz entwickelt wurden.